Ab dem 2. August 2026 beginnt die Europäische Kommission mit der Durchsetzung zentraler Vorschriften des europäischen KI-Gesetzes (AI Act). Gleichzeitig treten neue Transparenzpflichten in Kraft. Nutzer sollen künftig eindeutig erkennen können, wann sie mit einer künstlichen Intelligenz kommunizieren und wann Inhalte durch KI erzeugt oder verändert wurden.
Die neuen Regeln gelten in allen Mitgliedstaaten der Europäischen Union und betreffen sowohl Anbieter großer KI-Modelle als auch Betreiber vieler KI-Anwendungen.
Chatbots müssen sich als KI zu erkennen geben
Eine der sichtbarsten Änderungen betrifft Chatbots und andere interaktive KI-Systeme. Sie müssen Nutzer künftig darauf hinweisen, dass sie mit einer künstlichen Intelligenz und nicht mit einem Menschen kommunizieren.
Auch KI-generierte oder mit KI bearbeitete Bilder, Videos und Audiodateien – sogenannte Deepfakes – müssen künftig entsprechend gekennzeichnet werden. Zusätzlich sollen maschinenlesbare Kennzeichnungen integriert werden, damit solche Inhalte automatisiert erkannt werden können.
Nach Angaben der EU soll dadurch Täuschung und Manipulation erschwert werden. Unternehmen erhielten zugleich klarere Pflichten und einen praktikablen Weg, ihre Konformität nachzuweisen.
Was die Pflicht aus Artikel 50 operativ bedeutet, haben wir bereits ausführlich aufgeschlüsselt: Wie die KI-Kennzeichnung durch die Content-Kette läuft – von sichtbaren Hinweisen über Wasserzeichen bis zu Metadaten, die Export, Upload und Reposting überstehen müssen.
AI Office startet die Durchsetzung
Für die Kontrolle großer allgemeiner KI-Modelle (General Purpose AI, GPAI) ist künftig das AI Office der Europäischen Kommission zuständig. Dieses überwacht insbesondere Modelle, die für zahlreiche Anwendungen eingesetzt werden können – darunter Chatbots, KI-Assistenten und autonome KI-Agenten.
Besonders leistungsfähige Modelle mit möglichem systemischem Risiko unterliegen zusätzlichen Anforderungen. Die Kommission nennt dabei Risiken durch chemische, biologische, radiologische und nukleare Vorfälle, den Verlust der Kontrolle über Systeme, offensive Cyberfähigkeiten, schädliche Manipulation sowie Bedrohungen der Grundrechte.
Pflichten für Anbieter großer KI-Modelle
Alle Anbieter allgemeiner KI-Modelle müssen künftig umfangreiche Dokumentationen bereitstellen. Dazu gehören unter anderem:
- technische Informationen für Behörden und nachgelagerte Anbieter,
- eine Urheberrechtsrichtlinie,
- eine ausreichend detaillierte Zusammenfassung der zum Training verwendeten Inhalte.
Für besonders leistungsfähige Modelle gelten zusätzliche Sicherheitsanforderungen.
Verbotene KI-Anwendungen werden durchgesetzt
Zeitgleich beginnt auch die Durchsetzung der verbotenen KI-Praktiken. Die Verbote selbst gelten bereits seit Februar 2025 – neu ist, dass die zuständigen Stellen sie ab dem 2. August ahnden können. Betroffen sind unter anderem Systeme, die Menschen gezielt manipulieren, Schutzbedürftige ausnutzen oder Bürger nach ihrem Verhalten bewerten und dadurch ihre Grundrechte beeinträchtigen.
Drei Stellen teilen sich die Aufsicht
Sowohl für die Transparenzregeln als auch für die verbotenen Praktiken ist die Zuständigkeit dreigeteilt.
Das AI Office überwacht KI-Systeme, die vom selben Anbieter stammen wie das zugrundeliegende allgemeine KI-Modell. Hinzu kommen Systeme, die in sehr große Online-Plattformen oder Suchmaschinen im Sinne des Digital Services Act eingebettet sind. Für alle übrigen KI-Systeme sind die nationalen Behörden zuständig, für Systeme in EU-Institutionen der Europäische Datenschutzbeauftragte.
Die Kommission weist selbst darauf hin, dass eine wirksame Durchsetzung davon abhängt, ob die Mitgliedstaaten ihre nationalen Behörden ordnungsgemäß benennen und ausreichend ausstatten. Hier liegt derzeit die größte praktische Unsicherheit.
Wissenschaftliche Unterstützung
Unterstützt werden AI Office und nationale Behörden von einem wissenschaftlichen Gremium aus 60 unabhängigen KI-Fachleuten, das kürzlich erstmals zusammengetreten ist. Als leitenden wissenschaftlichen Berater hat das AI Office zudem Alessandro Abate von der Universität Oxford berufen. Er soll unter anderem die Bewertung und Prüfung allgemeiner KI-Modelle begleiten.
Neue Meldewege für Verstöße
Die Europäische Kommission stellt mehrere Werkzeuge bereit, über die Verstöße gegen den AI Act gemeldet werden können. Neben einem öffentlichen Beschwerdeportal gibt es geschützte Meldekanäle für Hinweisgeber sowie einen eigenen Kanal für Unternehmen, die KI-Systeme auf Basis großer Modelle entwickeln.
Alle eingehenden Hinweise sollen vertraulich behandelt werden.
Was bei Verstößen droht
Der AI Act sieht gestaffelte Bußgelder vor. Bei verbotenen KI-Praktiken sind bis zu 35 Millionen Euro oder sieben Prozent des weltweiten Jahresumsatzes möglich. Für Verstöße gegen andere Pflichten, einschließlich der neuen Transparenzvorgaben, liegt der Rahmen bei 15 Millionen Euro oder drei Prozent. Falsche oder irreführende Angaben gegenüber Behörden können mit bis zu 7,5 Millionen Euro oder einem Prozent geahndet werden.
180 Organisationen unterzeichnen Transparenz-Kodex
Parallel veröffentlichte die Kommission erstmals eine Liste von mehr als 180 Organisationen, die den freiwilligen Verhaltenskodex zur Transparenz KI-generierter Inhalte unterzeichnet haben. Der Kodex konkretisiert die neuen Kennzeichnungspflichten und soll Unternehmen den praktischen Einstieg erleichtern.
Weitere Regeln folgen
Ein Teil des AI Acts wurde durch das sogenannte AI Omnibus-Paket zeitlich verschoben. Die Vorschriften für Hochrisiko-KI-Systeme gelten nun überwiegend erst ab dem 2. Dezember 2027 beziehungsweise für Hochrisiko-Systeme in regulierten Produkten ab dem 2. August 2028.
Bereits ab dem 2. Dezember 2026 treten zudem neue Verbote für KI-Systeme in Kraft, die nicht einvernehmliche sexualisierte Inhalte oder Darstellungen sexuellen Kindesmissbrauchs erzeugen.
Einordnung
Mit dem 2. August 2026 beginnt erstmals die praktische Durchsetzung zentraler Teile des europäischen AI Acts. Während Unternehmen nun konkrete Transparenzpflichten erfüllen müssen, erhalten Behörden erstmals umfassende Kontroll- und Sanktionsmöglichkeiten. Ob daraus wirksame Aufsicht wird, entscheidet sich allerdings weniger in Brüssel als in den Mitgliedstaaten – dort, wo die nationalen Behörden erst noch handlungsfähig werden müssen.
