Flugzeuge starten nicht, weil der Hersteller versichert, dass schon alles halten werde. Sie starten nach Tests, Zulassung, Wartungsregeln, Vorfallberichten und einer Behörde, die im Zweifel am Boden hält. Dario Amodei überträgt dieses Prinzip nun auf Frontier-KI.
Der CEO von Anthropic hat am 10. Juni 2026 den Essay „Policy on the AI Exponential“ veröffentlicht. Die Kernforderung ist knapp: Starke KI-Modelle sollen nicht länger nur durch freiwillige Selbstverpflichtungen, Modellkarten und interne Sicherheitsberichte kontrolliert werden. Sie sollen vor dem Einsatz durch Dritte geprüft werden. Und der Staat soll die Befugnis bekommen, unsichere Modelle zu blockieren.
Das ist mehr als ein Appell an die Politik. Es ist ein Entwurf für eine neue Betriebserlaubnis in der KI-Industrie. Wer Modelle oberhalb bestimmter Schwellen baut, müsste dann nicht nur trainieren, evaluieren und veröffentlichen. Er müsste nachweisen, dass das System unter definierter Belastung nicht versagt.
Vom Produktlaunch zur Zulassungsfrage
Amodeis Vorschlag orientiert sich ausdrücklich an der Federal Aviation Administration. Das ist technisch interessant, weil es die Kategorie verschiebt. Ein KI-Modell wäre dann nicht mehr nur Software, die nachträglich reguliert wird, wenn Schaden entsteht. Es würde wie kritische Infrastruktur behandelt, bei der der Start selbst genehmigungspflichtig sein kann.
Der vorgeschlagene Rahmen setzt an zwei Stellen an: bei der Größe des Trainings und bei der wirtschaftlichen Größe des Entwicklers. Genannt werden unter anderem Modelle oberhalb einer Rechenschwelle von etwa 10^25 Floating-Point Operations. Außerdem sollen Unternehmen erfasst werden, die mehr als 500 Millionen US-Dollar KI-Umsatz erzielen oder mehr als eine Milliarde US-Dollar in KI-Forschung und -Entwicklung stecken.
Solche Schwellen sind grob. Rechenaufwand allein beschreibt nicht sauber, was ein Modell kann. Architektur, Datenqualität, Nachtraining und Werkzeugeinsatz zählen ebenfalls. Aber Schwellen haben einen Vorteil: Sie sind prüfbar. Regulierung braucht Messpunkte, selbst wenn sie unvollständig sind. Genau hier liegt der operative Kern des Vorschlags. Die KI-Branche würde einen Compliance-Rand bekommen, der nicht erst bei einem Skandal sichtbar wird.
Claude Mythos Preview als Belastungstest
Anthropic begründet die Dringlichkeit auch mit dem System Claude Mythos Preview. Es soll Tausende hochgradige Sicherheitslücken in wichtigen Betriebssystemen und Browsern aufgedeckt und die globale Cybersicherheitslage durcheinandergebracht haben. Diese Beschreibung ist nicht nur eine Warnung vor abstrakten Fähigkeiten. Sie zeigt, welche Art von Risiko Amodei meint: Modelle, die nicht bloß Texte erzeugen, sondern technische Angriffs- und Analyseketten beschleunigen.
In der Cybersicherheit ist der Unterschied zwischen Assistenz und Skalierung entscheidend. Ein Modell, das Schwachstellen findet, ist für Verteidiger wertvoll. Dasselbe Modell kann aber die Kosten für Angreifer senken. Nicht zwingend, weil es allein einen Angriff ausführt, sondern weil es Suchräume verkleinert, Hypothesen erzeugt, Exploit-Pfade priorisiert und Routinetätigkeiten automatisiert. Der Schaden entsteht dann nicht durch eine magische Autonomie, sondern durch bessere Taktung.
Ein FAA-ähnliches Regime würde genau dort ansetzen. Es würde fragen, welche Fähigkeiten vor dem Einsatz getestet werden müssen, wer diese Tests durchführt, welche Ergebnisse meldepflichtig sind und welche Einsatzformen untersagt werden können. Das wäre eine andere Logik als die bisherige Praxis vieler KI-Anbieter: erst veröffentlichen, dann nachbessern, dann Nutzungsregeln anpassen.
Die neue Lieferkette: Modelle, Prüfer, Behörden
Wenn der Vorschlag Realität würde, entstünde eine neue industrielle Schicht. Unabhängige Testlabore, Red-Teams, Sicherheitsprüfer, Modell-Auditoren und spezialisierte Beratungen würden Teil der Veröffentlichungsroutine. Nicht als Beiwerk, sondern als Gatekeeper. Ein Frontier-Modell käme dann nicht nur aus einem Rechenzentrum. Es käme aus einer Zertifizierungskette.
Das verändert die Kostenstruktur. Große Anbieter wie Anthropic, OpenAI, Google DeepMind oder Meta können eigene Sicherheitsteams, juristische Abteilungen und externe Prüfprozesse finanzieren. Für kleinere Labore sind fixe Compliance-Kosten schwieriger. Wer nur knapp unterhalb der Schwellen arbeitet, hätte einen Anreiz, dort zu bleiben. Wer darüber will, müsste Kapital nicht nur für Training und Infrastruktur einplanen, sondern auch für Nachweise, Dokumentation und Prüfverfahren.
Damit enthält der Vorschlag eine doppelte Bewegung. Er kann reale Risiken begrenzen. Er kann zugleich den Markt härter machen. Das ist kein Widerspruch, sondern typisch für Regulierung in technischen Hochrisikobereichen. Wer Sicherheit formalisiert, schafft Eintrittsbarrieren. Wer Eintrittsbarrieren schafft, stabilisiert häufig die Position der bereits großen Akteure.
350 Millionen Dollar gegen den Arbeitsmarktschock
Auffällig ist, dass Anthropic den politischen Vorstoß nicht auf Sicherheitsfragen beschränkt. Das Unternehmen hat 350 Millionen US-Dollar für ein Economic Policy Framework zugesagt. Davon sollen 200 Millionen US-Dollar in einen Economic Futures Research Fund fließen, 150 Millionen US-Dollar in ein nationales Stipendienprogramm.
Diese Zahl ist weniger als die Investitionssummen, die in Rechenzentren, Chips und Modelltraining laufen. Trotzdem ist sie politisch relevant. Sie markiert Arbeitsplatzverdrängung nicht als Nebenfolge, sondern als planbaren Schadensbereich. Amodeis Essay behandelt KI nicht nur als Sicherheitsproblem, sondern als makroökonomische Maschine, die Erwerbsarbeit verschieben kann.
Auch hier ist die technische Lesart nüchtern. Wenn KI-Systeme kognitive Routinen in Software, Verwaltung, Analyse, Support, Programmierung oder Forschung teilweise übernehmen, entsteht kein einheitlicher Arbeitsmarkteffekt. Einige Tätigkeiten werden beschleunigt, andere entwertet, manche Jobs neu zugeschnitten. Der Vorschlag für Forschung und Stipendien löst dieses Problem nicht. Er ist eher ein Hinweis darauf, dass die großen Labore selbst nicht mehr davon ausgehen, dass der Markt die Anpassung geräuschlos erledigt.
Wer die Startfreigabe kontrolliert
Der wichtigste Gewinner eines solchen Modells wäre der Staat, sofern er die technische Kompetenz aufbaut. Behörden bekämen nicht nur Berichtspflichten, sondern eine Blockademacht. Ebenfalls profitieren würden Unternehmen, die Prüfungen, Sicherheitsbewertungen und formale Risikomessung anbieten.
Verlierer wären Entwickler, die bisher von niedrigen Veröffentlichungshürden lebten. Das betrifft nicht automatisch jedes Start-up. Aber es trifft jene, die nahe an Frontier-Fähigkeiten arbeiten und keine Infrastruktur für umfangreiche Zulassungsprozesse besitzen. Auch offene Modellveröffentlichungen könnten unter Druck geraten, wenn Behörden die Weitergabe bestimmter Fähigkeiten als Sicherheitsrisiko einstufen.
Anthropic positioniert sich damit in einer heiklen Rolle. Das Unternehmen warnt vor Risiken, die es mit seinen eigenen Systemen sichtbar macht. Es fordert Regeln, die es selbst vermutlich besser erfüllen kann als kleinere Konkurrenten. Beides kann gleichzeitig wahr sein. In technischen Industrien kommen die präzisesten Gefahrenbeschreibungen oft von den Akteuren, die am nächsten an der gefährlichen Maschine stehen.
Der Essay ist deshalb kein gewöhnliches Positionspapier. Er beschreibt einen möglichen Wechsel der Betriebslogik. Frontier-KI würde nicht mehr nur nach Fähigkeiten sortiert, sondern nach Zulassungsfähigkeit. Der entscheidende Moment wäre dann nicht die Präsentation eines neuen Modells, sondern die Frage, wer den Start genehmigt.
