30 Gefahren, die beim Einsatz Künstlicher Intelligenz im Unternehmen und im Alltag auftreten können – jeweils mit einem Hinweis, was dagegen hilft.
Die Einordnung stützt sich auf die OWASP Top 10 für LLM-Anwendungen, das NIST AI Risk Management Framework, die EU-KI-Verordnung und Empfehlungen des BSI. Keine Rechtsberatung.
01
Modelle erzeugen plausibel klingende, aber falsche Angaben, Quellen oder Zitate. Was hilft: wichtige Aussagen immer gegen eine verlässliche Quelle prüfen.
02
Ein Modell kennt nur den Stand seiner Trainingsdaten; spätere Änderungen fehlen. Was hilft: aktuelle Quellen anbinden oder den Stand ausdrücklich prüfen.
03
Richtige und falsche Antworten klingen gleich überzeugend, Unsicherheit wird selten angezeigt. Was hilft: nach Belegen fragen und Stichproben prüfen.
04
Sprachmodelle rechnen nicht zuverlässig; Summen und Prozentwerte können falsch sein. Was hilft: Zwischenschritte offenlegen lassen und nachrechnen.
05
Menschen übernehmen maschinelle Vorschläge eher ungeprüft, je öfter sie gestimmt haben. Was hilft: feste Prüfschritte statt Kontrolle nach Gefühl.
06
Dieselbe Frage liefert unterschiedliche Antworten, Modellupdates verändern das Verhalten. Was hilft: Vorlagen nutzen und Abläufe nach Updates erneut testen.
07
Versteckte Anweisungen in E-Mails, Dokumenten oder Webseiten bringen einen Assistenten dazu, von seinem Auftrag abzuweichen. Was hilft: Berechtigungen eng vergeben und kritische Aktionen freigeben lassen.
08
Ein Agent mit Zugriff auf interne Daten und der Möglichkeit, nach außen zu kommunizieren, kann Informationen unbemerkt weitergeben. Was hilft: diese Kombination vermeiden oder streng absichern.
09
Ein Assistent sieht alles, was die angemeldete Person sehen darf – auch vergessene Freigaben. Was hilft: Berechtigungen vor der Einführung bereinigen.
10
Manipulierte Pakete, Erweiterungen oder Modelle gelangen über Bibliotheken und Plattformen in eigene Systeme. Was hilft: nur geprüfte Quellen nutzen und Updates kontrollieren.
11
KI erzeugt fehlerfreie, persönlich zugeschnittene Betrugsnachrichten in jeder Sprache. Was hilft: Schulungen und Rückfragen über einen bekannten Kanal.
12
Täuschend echte Imitationen von Vorgesetzten werden für Zahlungsanweisungen genutzt. Was hilft: Vier-Augen-Prinzip und Rückruf unter einer bekannten Nummer.
13
Angreifer setzen KI ein, um Schwachstellen zu finden und Angriffe zu automatisieren. Was hilft: Sicherheitsupdates zügig einspielen.
14
Eingaben in öffentliche Dienste verlassen das Unternehmen und lassen sich nicht zurückholen. Was hilft: Angaben durch Platzhalter ersetzen oder Anbieter mit Auftragsverarbeitungsvertrag nutzen.
15
Je nach Tarif können Eingaben zur Weiterentwicklung der Modelle verwendet werden. Was hilft: Einstellungen und Vertragsbedingungen prüfen.
16
Viele Dienste verarbeiten Daten in Drittländern mit anderem Schutzniveau. Was hilft: den Verarbeitungsort vertraglich zusichern lassen.
17
Erzeugte Texte und Bilder können geschützten Werken ähneln, die Rechtslage ist nicht abschließend geklärt. Was hilft: Ergebnisse vor der Veröffentlichung prüfen.
18
Verbotene Praktiken, fehlende Kennzeichnung oder unerkannte Hochrisiko-Anwendungen können Bußgelder auslösen. Was hilft: jeden Einsatz nach Risikoklasse einstufen.
19
Entscheidungen mit erheblicher Wirkung, die allein eine Maschine trifft, sind nach Artikel 22 DSGVO grundsätzlich unzulässig. Was hilft: die Entscheidung bleibt bei einem Menschen.
20
Modelle übernehmen Verzerrungen aus ihren Trainingsdaten und können bestimmte Gruppen benachteiligen. Was hilft: Ergebnisse auf Unterschiede zwischen Gruppen prüfen.
21
Wer Aufgaben dauerhaft abgibt, verlernt sie und kann Ergebnisse nicht mehr beurteilen. Was hilft: Grundkenntnisse im Team gezielt erhalten.
22
KI-Systeme können Leistung und Verhalten von Beschäftigten auswerten. Was hilft: Zwecke eng begrenzen und die Mitbestimmung beachten.
23
Unklare Pläne schüren die Sorge um Arbeitsplätze und bremsen die Zusammenarbeit. Was hilft: offen kommunizieren, was sich ändert und was nicht.
24
Massenhaft erzeugte Falschinformationen erschweren die Unterscheidung zwischen echt und erfunden. Was hilft: Quellen prüfen und Inhalte nicht ungeprüft weitergeben.
25
Ein stets verfügbarer, überzeugender Gesprächspartner kann Meinungen prägen und emotionale Bindung erzeugen. Was hilft: kritische Distanz und eigene Recherche.
26
Preise, Verfügbarkeit und Funktionen bestimmt der Anbieter, ein Wechsel ist oft aufwendig. Was hilft: Daten exportierbar halten und Alternativen kennen.
27
Ist ein Dienst nicht erreichbar, stehen darauf aufbauende Abläufe still. Was hilft: einen Rückfallprozess ohne KI vorsehen.
28
Nutzungsabhängige Abrechnung und Agenten mit vielen Zwischenschritten treiben die Kosten unbemerkt nach oben. Was hilft: Budgetgrenzen und regelmäßige Auswertung.
29
Agenten können Aktionen ausführen, die niemand beabsichtigt hat, etwa Daten löschen oder Nachrichten versenden. Was hilft: Freigaben für kritische Schritte und abgeschottete Testumgebungen.
30
Rechenzentren für große Modelle benötigen viel Strom und Kühlung. Was hilft: prüfen, ob ein kleineres Modell für die Aufgabe genügt.