Zwanzig Artikel zum europäischen KI-Recht: von der Grundstruktur der KI-Verordnung über Risikoklassen, Fristen und Bußgelder bis zum Verhältnis zu Datenschutz, Urheberrecht und Haftung.
Stand: August 2026. Diese Darstellung dient der allgemeinen Information und ist keine Rechtsberatung. Maßgeblich ist allein der jeweilige Gesetzestext.
Artikel 1
Die Verordnung (EU) 2024/1689 – kurz KI-Verordnung oder AI Act – ist das erste umfassende Gesetz weltweit, das den Einsatz Künstlicher Intelligenz allgemein regelt. Sie ist am 1. August 2024 in Kraft getreten und gilt unmittelbar in allen Mitgliedstaaten, ohne dass sie in nationales Recht umgesetzt werden müsste.
Ziel ist ein einheitlicher Binnenmarkt für KI: Anbieter sollen in der gesamten EU dieselben Regeln vorfinden, während Grundrechte, Gesundheit und Sicherheit geschützt bleiben. Der Gesetzgeber wählte dafür bewusst einen produktsicherheitsrechtlichen Ansatz – KI wird ähnlich behandelt wie Maschinen oder Medizinprodukte, nicht wie ein Medium.
Quelle: AI Act Explorer
Artikel 2
Die Verordnung reguliert nicht die Technik, sondern ihren Einsatzzweck. Dieselbe Technologie kann je nach Anwendung völlig unterschiedlich eingestuft sein.
Für die meisten Kleinstunternehmen und KMU ist die entscheidende Frage deshalb nicht, ob sie KI einsetzen, sondern wofür.
Quelle: AI Act Explorer
Artikel 3
Seit dem 2. Februar 2025 sind bestimmte Anwendungen in der EU untersagt. Dazu zählen unter anderem KI-Systeme, die menschliches Verhalten durch unterschwellige Techniken manipulieren, die Schutzbedürftigkeit bestimmter Personengruppen ausnutzen, Menschen anhand ihres Sozialverhaltens bewerten (Social Scoring), Emotionen am Arbeitsplatz oder in Bildungseinrichtungen erkennen sollen oder Gesichtsbilder ungezielt aus dem Internet zusammentragen.
Diese Verbote gelten nicht nur für Anbieter, sondern auch für Unternehmen, die solche Systeme lediglich einsetzen würden.
Quelle: AI Act Explorer
Artikel 4
Als hochriskant gelten KI-Systeme in zwei Fällen: als Sicherheitsbauteil in bereits regulierten Produkten (Anhang I) oder in acht ausdrücklich genannten Bereichen nach Anhang III – darunter kritische Infrastruktur, allgemeine und berufliche Bildung, Beschäftigung und Personalauswahl, Zugang zu wesentlichen Dienstleistungen, Strafverfolgung, Migration und Justiz.
Praktisch relevant für Unternehmen ist vor allem der Bereich Beschäftigung: KI zur Vorauswahl von Bewerbungen, zur Leistungsbewertung oder zur Aufgabenzuweisung fällt regelmäßig darunter.
Quelle: AI Act Explorer
Artikel 5
Wer ein Hochrisiko-System entwickelt und unter eigenem Namen anbietet, trägt die Hauptlast der Pflichten.
Quelle: AI Act Explorer
Artikel 6
Ein häufiges Missverständnis: Auch wer KI nur einsetzt, hat Pflichten. Betreiber müssen das System entsprechend der Gebrauchsanweisung verwenden, die menschliche Aufsicht personell sicherstellen, die Eingabedaten im Rahmen ihrer Kontrolle geeignet halten, Protokolle aufbewahren und Störungen dem Anbieter melden.
Setzt ein Arbeitgeber ein Hochrisiko-System am Arbeitsplatz ein, muss er die betroffenen Beschäftigten vorab informieren.
Quelle: AI Act Explorer
Artikel 7
Seit dem 2. August 2026 gelten die Transparenzregeln. Menschen müssen erkennen können, dass sie mit einem KI-System interagieren – etwa bei einem Chatbot im Kundenservice. KI-erzeugte oder manipulierte Bild-, Audio- und Videoinhalte müssen maschinenlesbar gekennzeichnet werden; Deepfakes sind zusätzlich offenzulegen.
Für Unternehmen, die Chatbots oder generierte Inhalte veröffentlichen, ist das die praktisch spürbarste Pflicht der gesamten Verordnung.
Quelle: AI Act Explorer
Artikel 8
Seit Februar 2025 müssen Anbieter und Betreiber dafür sorgen, dass ihr Personal über ein ausreichendes Maß an KI-Kompetenz verfügt. Maßstab sind Vorkenntnisse, Einsatzkontext und die betroffenen Personengruppen.
Die Verordnung schreibt keine bestimmte Schulung vor. Sinnvoll ist eine dokumentierte Einweisung dazu, was das eingesetzte Werkzeug kann, wo seine Grenzen liegen und welche Daten nicht eingegeben werden dürfen.
Quelle: AI Act Explorer
Artikel 9
Seit dem 2. August 2025 gelten eigene Regeln für Anbieter allgemeiner KI-Modelle – also der Sprachmodelle, auf denen die meisten Anwendungen aufsetzen. Sie müssen technische Dokumentation bereitstellen, nachgelagerte Anbieter informieren, eine Urheberrechts-Strategie vorhalten und eine hinreichend detaillierte Zusammenfassung der Trainingsinhalte veröffentlichen.
Modelle mit systemischem Risiko unterliegen zusätzlich Bewertungs-, Melde- und Cybersicherheitspflichten.
Quelle: AI Act Explorer
Artikel 10
Die gestaffelte Einführung soll Anbietern Zeit geben, Prozesse aufzubauen – ändert aber nichts daran, dass die früh geltenden Pflichten bereits durchsetzbar sind.
Quelle: AI Act Explorer
Artikel 11
Mit dem sogenannten Digital Omnibus hat der EU-Gesetzgeber Teile des Zeitplans gestreckt. Die Pflichten für Hochrisiko-Systeme nach Anhang III greifen dadurch später als ursprünglich vorgesehen; für in Produkte eingebettete Hochrisiko-KI verschiebt sich der Termin nochmals nach hinten.
Unverändert bleiben die Verbote, die KI-Kompetenzpflicht und die Transparenzregeln. Wer darauf wartet, dass sich weitere Fristen verschieben, plant auf unsicherem Grund.
Artikel 12
Die Verordnung staffelt die Sanktionen nach Schwere des Verstoßes.
Für kleine und mittlere Unternehmen gilt jeweils der niedrigere der beiden Beträge. Die Mitgliedstaaten müssen die Größe des Unternehmens bei der Bemessung berücksichtigen.
Quelle: AI Act Explorer
Artikel 13
Die Aufsicht ist mehrstufig. Auf EU-Ebene überwacht das Büro für Künstliche Intelligenz bei der Kommission die Anbieter allgemeiner KI-Modelle. Die Mitgliedstaaten benennen nationale Marktüberwachungsbehörden für alle übrigen Systeme.
Ein KI-Ausschuss der Mitgliedstaaten sowie ein wissenschaftliches Gremium unabhängiger Sachverständiger begleiten die Anwendung und sollen für eine einheitliche Auslegung sorgen.
Artikel 14
Die KI-Verordnung ersetzt den Datenschutz nicht, sie tritt daneben. Wer personenbezogene Daten in ein KI-System eingibt, braucht weiterhin eine Rechtsgrundlage nach Artikel 6 DSGVO, muss betroffene Personen informieren und die Verarbeitung im Verzeichnis der Verarbeitungstätigkeiten führen.
Bei Verarbeitungen mit hohem Risiko kommt eine Datenschutz-Folgenabschätzung nach Artikel 35 DSGVO hinzu. Nutzt ein Unternehmen einen externen KI-Dienst, ist regelmäßig ein Auftragsverarbeitungsvertrag nach Artikel 28 DSGVO erforderlich.
Quelle: BfDI
Artikel 15
Unabhängig von der KI-Verordnung verbietet Artikel 22 DSGVO grundsätzlich Entscheidungen, die ausschließlich auf automatisierter Verarbeitung beruhen und rechtliche Wirkung entfalten oder erheblich beeinträchtigen – etwa eine automatische Bewerbungsabsage oder Kreditablehnung.
Zulässig sind solche Entscheidungen nur in engen Ausnahmefällen, und selbst dann müssen Betroffene das Recht auf menschliches Eingreifen, auf Darlegung des eigenen Standpunkts und auf Anfechtung haben.
Quelle: BfDI
Artikel 16
Viele verbreitete KI-Dienste verarbeiten Daten außerhalb der EU. Nach Kapitel V DSGVO braucht es dafür eine tragfähige Grundlage – etwa einen Angemessenheitsbeschluss oder Standardvertragsklauseln nebst Prüfung der Rechtslage im Zielland.
Praktisch bedeutsam ist deshalb, ob ein Anbieter eine Verarbeitung innerhalb der EU zusichert und ob diese Zusage vertraglich fixiert ist – nicht nur in Marketingunterlagen steht.
Quelle: BfDI
Artikel 17
Das Training von KI-Modellen mit urheberrechtlich geschützten Werken stützt sich in der EU auf die Schranken für Text- und Data-Mining nach der Richtlinie (EU) 2019/790, in Deutschland umgesetzt in §§ 44b und 60d UrhG. Rechteinhaber können der Nutzung widersprechen; bei online zugänglichen Werken muss der Vorbehalt maschinenlesbar erklärt werden.
Für Unternehmen, die KI-erzeugte Inhalte veröffentlichen, ist zudem offen, wem die Rechte an solchen Ergebnissen zustehen – rein maschinell erzeugte Inhalte genießen nach deutschem Recht keinen Urheberrechtsschutz.
Quelle: AI Act Explorer
Artikel 18
Die überarbeitete EU-Produkthaftungsrichtlinie erfasst ausdrücklich auch Software und KI-Systeme. Hersteller haften damit für Schäden durch fehlerhafte digitale Produkte, wobei Beweiserleichterungen für Geschädigte vorgesehen sind.
Für den betrieblichen Einsatz bleibt es dabei: Wer ein KI-Ergebnis ungeprüft übernimmt und dadurch einen Schaden verursacht, kann sich nicht auf die Maschine berufen. Die Verantwortung für die Entscheidung bleibt beim Unternehmen.
Artikel 19
Die Verordnung verlangt für Hochrisiko-Systeme ausdrücklich Robustheit und Cybersicherheit. Damit rücken Angriffsformen in den Blick, die es bei klassischer Software nicht gab: Prompt Injection, Datenvergiftung im Training und das Ausleiten von Daten über verbundene Werkzeuge.
Als praktische Orientierung dienen die OWASP Top 10 für LLM-Anwendungen und die Empfehlungen des Bundesamts für Sicherheit in der Informationstechnik. Parallel greifen für viele Unternehmen die Anforderungen der NIS-2-Richtlinie.
Quelle: BSI
Artikel 20
Der Aufwand lässt sich begrenzen, wenn man in dieser Reihenfolge vorgeht.
Diese Seite ersetzt keine Rechtsberatung. Bei Hochrisiko-Anwendungen oder Verarbeitungen mit besonderen Datenkategorien ist anwaltliche Prüfung angeraten.