Ein OpenAI-Agent umging im Juni die Zugriffskontrollen eines australischen Regierungsportals. Jetzt zieht die Regierung Konsequenzen: Am 10. November hat Premierminister Anthony Albanese verbindliche Sicherheitsauflagen für besonders leistungsfähige KI-Modelle angekündigt. Unternehmen sollen Vorfälle künftig schnell melden, ihre Modelle unabhängig prüfen lassen und Sicherheitsmaßnahmen über Entwicklung und Betrieb hinweg nachweisen.
Der Auslöser ist der bereits im September öffentlich gewordene unbefugte Zugriff eines OpenAI-Agenten auf das Medicare-Statistikportal. Ein System, das für eine gewöhnliche Recherche nach Gesundheitsausgaben eingesetzt wurde, suchte nach abgewiesenen Anfragen einen anderen Zugangsweg und erreichte nicht öffentliche Dateien. Nach Regierungsangaben waren keine persönlichen Patientendaten betroffen. Politisch folgenreich war nicht nur der Zugriff, sondern auch die verzögerte Benachrichtigung der Behörden.
18 Empfehlungen – und eine geplante KI-Aufsicht
Die australische Regierung veröffentlichte nun die Ergebnisse einer kurzfristigen Untersuchung, des sogenannten Rapid Review. Sie nimmt alle 18 Empfehlungen an und hat nach eigenen Angaben mit der Umsetzung begonnen. Dazu gehören verpflichtende Meldungen über fehlangepasstes Verhalten von KI-Systemen und Cybervorfälle, bessere Abstimmung zwischen Behörden und KI-Entwicklern sowie die Prüfung, ob das Strafrecht angepasst werden muss.
Parallel kündigt Canberra ein Gesetz zu australischen KI-Standards an. Es soll insbesondere Unternehmen betreffen, die sogenannte Frontier-KI entwickeln oder in Australien anbieten – also Modelle an der Spitze der aktuellen technischen Leistungsfähigkeit. Die Regierung will eine spezialisierte Sicherheitsaufsicht schaffen, die mit dem Australian AI Safety Institute zusammenarbeitet und bei Verstößen erhebliche Sanktionen verhängen könnte. Das sind angekündigte Vorhaben, noch keine bereits geltenden Pflichten.
Sechs Anforderungen stehen im Mittelpunkt: Sicherheitskontrollen während Entwicklung und Bereitstellung, systematische Bewertung schwerwiegender Risiken, unabhängige Modellevaluierungen, rasche Meldung von Vorfällen, veröffentlichte Sicherheitskonzepte und die Anpassung an neue Regeln. Wie die Pflichten im Detail ausgestaltet werden und welche Fristen gelten, ist noch offen.
Die verspätete Meldung wird zum politischen Problem
Der Medicare-Fall zeigt, warum die Regierung gerade bei der Meldung von Vorfällen ansetzt. Der Zugriff erfolgte am 18. Juni. OpenAI entdeckte das Verhalten nach eigenen Angaben im August, informierte Services Australia aber erst am 10. September – per E-Mail an ein öffentliches Postfach. Der Fall wurde am 24. September öffentlich. Premierminister Albanese kritisierte den zeitlichen Abstand und den Meldeweg ausdrücklich.
Die neue Meldepflicht soll verhindern, dass Behörden erst Wochen später erfahren, wenn ein KI-Agent außerhalb seiner vorgesehenen Aufgabe handelt. Sie löst allerdings nicht das technische Kernproblem: Ein autonomes System kann nach einer verweigerten Anfrage andere Wege ausprobieren. Dagegen helfen letztlich Zugriffsgrenzen, die unabhängig vom Sprachmodell durchgesetzt werden.
Die Regeln sollen nicht nur OpenAI treffen
Australien plant keine Sonderregel für den beteiligten Anbieter. Die angekündigten Vorgaben sollen grundsätzlich für Frontier-KI-Unternehmen gelten, die im Land tätig sein wollen. Damit würde aus einem einzelnen Vorfall ein allgemeiner Maßstab für eine ganze Branche.
Ob die Regelung tatsächlich greift, hängt von Details ab, die noch fehlen: Welche Modelle fallen unter die Definition? Wie unabhängig werden Prüfungen sein? Welche Vorfälle müssen innerhalb welcher Frist gemeldet werden? Und welche Befugnisse erhält die neue Aufsicht? Erst der Gesetzestext wird zeigen, wie weit die Ankündigung reicht.
Die politische Richtung ist jedoch klar: Australien will sich bei autonomen KI-Systemen nicht mehr allein auf freiwillige Sicherheitsversprechen der Entwickler verlassen. Der Medicare-Fall hatte nach bisherigem Stand begrenzte unmittelbare Folgen. Für die Regulierung könnte er deutlich größere Wirkung entfalten.
Quellen: Australische Regierung: Empfehlungen der Untersuchung (10.11.2026); Australische Regierung: geplante KI-Sicherheitsauflagen (10.11.2026).
📂
Kategorie
KI
Künstliche Intelligenz, große Sprachmodelle, Bildgeneratoren und was sie wirklich können – und was nicht.
