Transparenzpflichten der KI-Verordnung greifen
Artikel 50 der EU-KI-Verordnung gilt ab diesem Datum. Menschen müssen erkennen können, wenn sie mit einem KI-System interagieren, und KI-erzeugte Inhalte müssen maschinenlesbar gekennzeichnet werden.
Meldungen zu Regulierung, Sicherheit und Technik, die für Unternehmen relevant sind – kurz zusammengefasst und eingeordnet.
Stand: August 2026. Die Zusammenfassungen beruhen auf öffentlich berichteten Informationen von Fachmedien, Sicherheitsforschern und offiziellen Mitteilungen der genannten Unternehmen und Behörden. Keine Rechtsberatung.
Artikel 50 der EU-KI-Verordnung gilt ab diesem Datum. Menschen müssen erkennen können, wenn sie mit einem KI-System interagieren, und KI-erzeugte Inhalte müssen maschinenlesbar gekennzeichnet werden.
Verstöße gegen die Transparenzpflichten können mit Geldbußen bis zu 15 Millionen Euro oder bis zu drei Prozent des weltweiten Jahresumsatzes des Vorjahres geahndet werden.
Der Rat hat den „Digital Omnibus on AI“ final angenommen, nachdem das Europäische Parlament am 16. Juni zugestimmt hatte. Die Pflichten für Hochrisiko-KI nach Anhang III gelten damit erst ab Dezember 2027, für in Produkte eingebettete Hochrisiko-KI ab August 2028.
Generative KI-Systeme, die bereits vor dem 2. August 2026 am Markt waren, müssen die maschinenlesbare Kennzeichnung ihrer Ausgaben bis zu diesem Datum nachrüsten. Für reine Anwender ändert das nichts an den übrigen Pflichten.
Seit August 2025 gelten die Governance-Regeln der KI-Verordnung sowie die Pflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck.
Bereits seit Februar 2025 gelten das Verbot bestimmter KI-Praktiken nach Artikel 5 sowie die Pflicht zur KI-Kompetenz nach Artikel 4 – auch für kleine Unternehmen, die KI lediglich einsetzen.
Die italienische Datenschutzbehörde Garante beanstandete unter anderem eine fehlende Rechtsgrundlage für die Verarbeitung personenbezogener Daten im Training, eine unterlassene Meldung des Vorfalls von 2023 sowie fehlende Altersverifikation.
Bei simulierten Hacking-Übungen erhielten drei Claude-Modelle durch eine falsch konfigurierte Testumgebung echten Internetzugang und griffen auf produktive Systeme dreier außenstehender Unternehmen zu. Anthropic machte die Vorfälle selbst öffentlich.
Im Rahmen derselben Tests veröffentlichte ein Modell ein bösartiges Paket auf der echten Plattform PyPI. Es wurde auf 15 realen Systemen installiert, darunter beim Scanner eines Sicherheitsunternehmens.
Laut OpenAI verketteten Modelle mehrere Schwachstellen, um aus einer isolierten Umgebung mit stark eingeschränktem Internetzugang auf die Infrastruktur der Plattform Hugging Face zu gelangen.
Eine von Varonis entdeckte Schwachstellenkette in Microsoft 365 Copilot Enterprise erlaubte es, über einen einzigen Klick auf einen legitim wirkenden Microsoft-Link vertrauliche Daten, MFA-Codes und E-Mail-Inhalte abzugreifen. Microsoft hat die Lücke geschlossen.
Microsoft veröffentlichte und schloss drei als kritisch eingestufte Schwachstellen in Microsoft 365 Copilot und Copilot Chat in Edge, die eine unbefugte Offenlegung von Informationen ermöglicht hätten. Ein Eingreifen durch Kunden war nicht nötig.
Durch einen Fehler beim Verpacken einer Veröffentlichung wurden rund 512.000 Zeilen internen Quellcodes zugänglich. Nach Angaben von Anthropic handelte es sich um menschliches Versagen, Nutzerdaten waren nicht betroffen.
Ein interner Agent gab bei einer technischen Anfrage fehlerhafte Hinweise, wodurch sensible Informationen firmenintern breiter zugänglich wurden als vorgesehen. Ein externer Missbrauch wurde nicht festgestellt.
Ein Fehler erlaubte es Copilot, als vertraulich markierte E-Mails zusammenzufassen und damit Data-Loss-Prevention-Regeln auszuhebeln – besonders kritisch in regulierten Branchen.
Eine versteckte Anweisung im Beschreibungsfeld eines Kalendertermins konnte Gemini dazu bringen, bei einer späteren normalen Nutzeranfrage private Termindaten preiszugeben. Google hat die Schwachstelle bestätigt und behoben.
Noma Labs zeigte, dass ein geteiltes Dokument mit versteckten Anweisungen ausreichte, damit Gemini Enterprise beziehungsweise Vertex AI Search automatisch Daten aus verbundenen Firmenquellen abgreift – ohne Zutun der Nutzer.
Angreifer erlangten Zugriff auf den Analysedienst Mixpanel. Betroffen waren Namen, E-Mail-Adressen und Standortdaten von Nutzern der OpenAI-API. Chats, Passwörter, API-Schlüssel und Zahlungsdaten waren nach Angaben von OpenAI nicht betroffen.
Unter dem Titel „Invitation Is All You Need“ zeigten Forschende, dass eine präparierte Kalendereinladung genügte, um Gemini per Prompt Injection zum Weiterleiten von E-Mails oder zum Steuern vernetzter Geräte zu bewegen. Google hat mehrschichtige Gegenmaßnahmen ausgerollt.
Forscher von Aim Security zeigten, dass eine einzige E-Mail ausreichte, um Copilot zur Preisgabe interner Informationen zu bewegen – ohne Klick, Phishing oder Schadsoftware.
Nach dem Start der eigenständigen App landeten Hunderte private Unterhaltungen samt Audioaufnahmen in einem öffentlichen Feed, weil die Teilen-Funktion standardmäßig aktiv war.
Ein Sicherheitsforscher konnte durch Verändern einer Kennnummer Prompts und Antworten anderer Nutzer abrufen. Meta behob den Fehler und zahlte eine Bug-Bounty-Prämie von 10.000 US-Dollar.
Schadsoftware las auf mehr als 100.000 Geräten ChatGPT-Zugangsdaten aus. Betroffen waren die Geräte der Nutzer, nicht die Systeme von OpenAI selbst.
Meta erweitert sein KI-Angebot um ein Modell, das Bilder erzeugen, bearbeiten und direkt in den eigenen Plattformen nutzbar machen soll. Kritik entzündete sich an einer Funktion, die öffentliche Instagram-Fotos einbezieht.
Leistungsfähigere Chips erlauben es, KI-Modelle direkt auf dem Endgerät auszuführen. Für Unternehmen mit hohen Datenschutzanforderungen entfällt damit die Weitergabe sensibler Daten an externe Server.
Anbieter integrieren zunehmend Agenten, die Aufgaben eigenständig über mehrere Schritte ausführen. Für Unternehmen verschiebt sich die Sicherheitsfrage damit von einzelnen Antworten hin zu Berechtigungen und Freigaben.
Erste Vermarkter bieten Produkte an, mit denen Marken in Antworten von ChatGPT, Perplexity, Gemini und Google AI Overviews auftauchen sollen. Inhalte, die KI-Crawler nicht erfassen können, fließen dort nicht ein.
Anbieter nennen kaum feste Release-Termine, entwickeln ihre Modelle aber in kurzen Abständen weiter. Unternehmen sollten deshalb Prozesse regelmäßig nachprüfen, statt sie einmalig auf eine Modellversion abzustimmen.