Ein britischer Parlamentsausschuss fordert eine KI-Aufsichtsbehörde, die riskante Entwicklungen stoppen und bereits angebotene Dienste aussetzen kann. Der am 18. November 2026 veröffentlichte Bericht „Guardrails for Growth: Making AI Safe“ verlangt dafür ein eigenes AI Safety and Security Bill. Die Behörde soll während der Entwicklung eingreifen, Hochrisiko-Training und -Tests anhalten, Bereitstellungen blockieren oder KI-Dienste suspendieren können, wenn sich deren Risiken nicht beherrschen lassen.
Betroffen wären vor allem Entwickler als besonders riskant eingestufter Systeme. Sie müssten ihre Sicherheitsaussagen mit Nachweisen belegen und unabhängigen Fachleuten Zugang für Prüfungen geben. Wesentliche Änderungen an Fähigkeiten oder Schutzmechanismen eines Modells könnten eine erneute Kontrolle auslösen. Noch handelt es sich allerdings um eine nicht bindende Empfehlung: Die britische Regierung hat das vorgeschlagene Gesetz weder zugesagt noch sich auf dessen konkrete Ausgestaltung festgelegt.
Aus einer Sicherheitserklärung soll eine Nachweispflicht werden
Der Ausschuss für Wirtschaft, Innovation, Wissenschaft und Handel hatte Forscher, ehemalige Beschäftigte von KI-Unternehmen sowie Vertreter von OpenAI, Google DeepMind, Anthropic und Meta befragt. Alle vier Unternehmen erklärten dem Ausschuss, keine Modelle veröffentlichen zu wollen, die sie selbst für unsicher halten.
Von freiwilligen KI-Tests zu verbindlicher Aufsicht
Die Grafik vergleicht den heutigen freiwilligen Prüfmechanismus mit der vom britischen Ausschuss vorgeschlagenen Trennung aus unabhängiger Prüfung und regulatorischem Eingriff.
Genau diese Zusicherung reicht den Abgeordneten nicht. Die Unternehmen verwenden unterschiedliche Maßstäbe für Sicherheit, während britisches Recht vor einer Veröffentlichung im Allgemeinen keine unabhängige Beurteilung verlangt. Der bisherige Mechanismus besteht damit weitgehend aus internen Prüfungen, freiwilliger Zusammenarbeit und dem Versprechen der Anbieter, ihre eigenen Grenzen korrekt zu erkennen.
Der Vorschlag verschiebt den entscheidenden Punkt: Nicht mehr allein die Einschätzung des Entwicklers soll darüber bestimmen, ob ein Modell weitertrainiert, veröffentlicht oder betrieben wird. Eine externe Stelle bekäme die Möglichkeit, aus einem negativen Prüfergebnis eine verbindliche Konsequenz zu ziehen.
Der Eingriff soll beginnen, bevor sich ein Modell verteilt
Die Forderung nach frühen Eingriffsrechten ist mehr als eine besonders harte Formulierung für einen späteren Abschaltknopf. Nach Ansicht des Ausschusses beginnt der relevante Kontrollzeitraum bereits beim Training und Testen. Sprachmodelle beruhen auf Milliarden gelernter Parameter; Entwickler können deshalb nicht in jeder Situation vorhersagen, wie ein System reagieren wird. Hinzu kommt, dass manche Modelle nach ihrer Veröffentlichung nicht zuverlässig zurückgerufen werden können.
Eine Aufsicht, die erst nach einem schwerwiegenden Vorfall tätig werden darf, kontrolliert daher nur noch die Folgen. Trainingsstopps, unabhängige Tests und die Möglichkeit, eine Bereitstellung zu blockieren, setzen früher an. Operativ wird KI-Sicherheit damit zu einem Freigabe- und Überwachungsprozess, nicht nur zu einer Produktzusage des Herstellers.
Die Schlagzeile von der Behörde, die KI „abschalten“ kann, verdeckt allerdings eine wichtige Umsetzungsfrage: Der Bericht nennt fehlende Definitionen für inakzeptable Schäden selbst als eine der Schwachstellen des bestehenden Systems. Eingriffsrechte wirken nur, wenn nachvollziehbar festgelegt ist, welche Systeme als Hochrisiko gelten, welche Belege verlangt werden und ab welchem Befund ein Training oder Dienst gestoppt werden darf. Die Empfehlung schafft noch keinen fertigen Prüfkatalog.
AISI soll prüfen, aber nicht selbst durchsetzen
Großbritannien besitzt mit dem UK AI Security Institute bereits eine spezialisierte Einrichtung zur Untersuchung besonders leistungsfähiger Modelle. Das AISI ist jedoch auf die freiwillige Kooperation der Anbieter angewiesen. Es hat keine rechtliche Befugnis, die Veröffentlichung eines Modells wegen festgestellter Sicherheitsbedenken zu verhindern.
Der Ausschuss will diese Rollen bewusst trennen. Das AISI soll seine Testarbeit fortsetzen, während eine eigenständige Regulierungsbehörde für die Durchsetzung zuständig wäre. Das ähnelt weniger einer zentralen staatlichen Entwicklungsstelle als einer Arbeitsteilung zwischen technischer Prüfung und rechtlicher Entscheidung.
Damit würde die Qualität der Regulierung nicht allein von weitreichenden Befugnissen abhängen. Die Prüfer brauchen rechtzeitigen Zugang zu Modellen und belastbare Informationen der Entwickler; die Aufsicht benötigt wiederum genügend technische Kompetenz, um Ergebnisse zu bewerten und Eingriffe zu begründen. Fehlt eines dieser Elemente, bleibt entweder die Prüfung unvollständig oder das Durchsetzungsrecht praktisch schwer einsetzbar.
Vorfälle und interne Warnungen sollen sichtbar werden
Der Bericht identifiziert insgesamt zehn Lücken im britischen Ansatz zur KI-Sicherheit. Dazu gehören fragmentierte beziehungsweise fehlende verpflichtende Meldungen von Vorfällen, begrenzter Zugang für unabhängige Tester, unzureichende Verifikation von Sicherheitsaussagen und schwacher Schutz für Whistleblower.
Ehemalige Beschäftigte berichteten dem Ausschuss, dass restriktive Verträge, kommerzieller Druck und finanzielle Nachteile Mitarbeiter davon abhalten können, Sicherheitsbedenken öffentlich zu machen. Die Abgeordneten verlangen deshalb stärkeren gesetzlichen Whistleblower-Schutz sowie verpflichtende Meldungen von KI-Vorfällen und Beinaheereignissen.
Diese Regeln wären für den laufenden Betrieb mindestens so relevant wie die Möglichkeit eines Entwicklungsstopps. Eine Aufsicht kann nur auf Risiken reagieren, die ihr bekannt werden. Incident Reporting, Zugang für externe Prüfer und geschützte interne Hinweise bilden deshalb die Informationsbasis für die spektakulärere Abschaltbefugnis.
Sicherheitsprüfung wird zur Marktinfrastruktur
Der Ausschuss stellt die Regulierung nicht als Gegenmodell zum wirtschaftlichen Einsatz von KI dar. Unter Rückgriff auf Produktivitätsschätzungen der OECD beziffert er den möglichen zusätzlichen Umfang der britischen Wirtschaft durch KI in den kommenden zehn Jahren auf bis zu 400 Milliarden Pfund. Das ist eine Potenzialrechnung, keine garantierte Wachstumsprognose.
Zugleich sieht der Bericht eine wirtschaftliche Rolle für Großbritannien als Anbieter unabhängiger KI-Prüfungen. Verbindliche Nachweise würden die Nachfrage nach Testverfahren, spezialisierten Forschern und auditierbaren Sicherheitsprozessen erhöhen. Für Entwickler bedeutet das zusätzliche Kosten und mögliche Verzögerungen. Für Unternehmen, die fremde Modelle einsetzen, könnten unabhängige Prüfungen dagegen die Unsicherheit verringern – insbesondere dann, wenn ihnen eigene Teams für umfangreiche Modelltests fehlen.
Die Abgeordneten wollen das Gesetz in der nächsten parlamentarischen Sitzungsperiode verabschiedet sehen und die britische G20-Präsidentschaft 2027 nutzen, um strengere internationale Regeln für Tests, Vorfallmeldungen und riskante Modellveröffentlichungen voranzutreiben. Ob die Regierung diesen Weg einschlägt, ist offen.
Der Kern des Vorstoßes ist deshalb vorerst keine tatsächlich vorhandene Notabschaltung. Es ist der geplante Wechsel von freiwilliger Kooperation zu einer kontrollierbaren Prozesskette: Entwickler müssten Risiken dokumentieren, unabhängige Prüfer könnten Behauptungen überprüfen, Vorfälle würden meldepflichtig und eine separate Stelle dürfte aus den Ergebnissen verbindliche Konsequenzen ziehen. Erst diese Kette macht aus KI-Sicherheitsforschung eine wirksame Aufsicht.
Jens analysiert seit Jahren digitale Märkte, Preisbewegungen und Plattform-Strategien. Als Betreiber mehrerer datengetriebener Systeme wertet er täglich große Mengen an Produkt- und Trenddaten aus. Sein Fokus liegt auf Einordnung statt Hype: Was bedeutet eine Entwicklung wirklich für Nutzer, Preise und Märkte?