Die Debatte über künstliche Intelligenz hat einen neuen Wendepunkt erreicht. In einem umfangreichen Grundsatzpapier mit dem Titel „Policy on the AI Exponential“ fordert Anthropic-CEO Dario Amodei deutlich schärfere Maßnahmen für den Umgang mit leistungsfähigen KI-Systemen.
Der vollständige Text ist auf Amodeis persönlicher Webseite veröffentlicht worden: https://darioamodei.com/post/policy-on-the-ai-exponential
Bemerkenswert ist dabei weniger die Warnung vor Risiken als die Veränderung der Position selbst. Während viele KI-Unternehmen in den vergangenen Jahren vor allem auf freiwillige Sicherheitsmaßnahmen und Transparenz gesetzt hatten, erklärt Amodei nun offen, dass diese Phase aus seiner Sicht vorbei ist.
In den Jahren 2023 und 2024 argumentierte Anthropic vor allem für Transparenzgesetze. Entwickler sollten offenlegen, welche Tests sie durchführen, welche Sicherheitsmaßnahmen existieren und welche Risiken bei neuen Modellen auftreten.
Nun geht Amodei einen deutlichen Schritt weiter. Er fordert ein verpflichtendes Prüf- und Zulassungssystem für besonders leistungsfähige KI-Modelle. Als Vorbild nennt er Behörden wie die amerikanische Luftfahrtaufsicht FAA oder die Arzneimittelbehörde FDA.
Modelle oberhalb bestimmter Rechenleistungsgrenzen sollen demnach vor ihrer Veröffentlichung durch unabhängige Stellen getestet werden. Im Extremfall soll die Regierung sogar die Möglichkeit erhalten, die Freigabe eines Modells zu verhindern.
Als zentralen Auslöser nennt Amodei die Erfahrungen mit Claude Mythos Preview. Das Modell habe gezeigt, dass moderne KI-Systeme inzwischen reale Auswirkungen auf die globale Cybersicherheitslage haben können.
Aus Sicht von Anthropic ist damit eine Schwelle überschritten worden. Risiken seien nicht länger hypothetisch, sondern praktisch nachweisbar.
Amodei warnt ausdrücklich davor, dass Cyberrisiken nur der Anfang sein könnten. Als nächste mögliche Problemfelder nennt er biologische Risiken sowie autonome KI-Systeme, die zunehmend eigenständig handeln können.
Besonders auffällig ist die wirtschaftliche Einschätzung des Anthropic-Chefs. Während viele Technologieunternehmen weiterhin davon ausgehen, dass neue Berufe die durch KI verdrängten Arbeitsplätze ersetzen werden, zeigt sich Amodei deutlich skeptischer.
Er hält es für möglich, dass KI erstmals in der Geschichte nicht nur einzelne Tätigkeiten automatisiert, sondern menschliche Wissensarbeit insgesamt ersetzt. Dadurch könnten dauerhafte Verwerfungen auf dem Arbeitsmarkt entstehen.
Als mögliche Gegenmaßnahmen nennt er unter anderem staatliche Lohnzuschüsse, Beschäftigungsanreize, Umschulungsprogramme und langfristig sogar Modelle wie ein bedingungsloses Grundeinkommen oder staatlich finanzierte Kapitalbeteiligungen.
Besonders weitreichend sind die geopolitischen Schlussfolgerungen des Essays. Amodei beschreibt leistungsfähige KI als eine Technologie auf einer Stufe mit Atomwaffen oder strategischen Halbleitern.
Seiner Einschätzung nach könnte ein Land mit deutlich fortschrittlicherer KI einen ähnlichen Vorteil besitzen wie eine moderne Armee gegenüber einem Gegner mit jahrhundertealter Technologie.
Daraus leitet er die Forderung ab, dass demokratische Staaten ihre KI-Strategien enger koordinieren, den Zugang zu Schlüsseltechnologien gemeinsam kontrollieren und kritische Komponenten der KI-Lieferkette absichern sollten.
Das Dokument liest sich nicht wie ein klassischer Technologiekommentar. Es wirkt vielmehr wie ein politisches Programm für die kommenden Jahre der KI-Entwicklung.
Die zentrale Botschaft lautet nicht, dass künstliche Intelligenz gefährlich sein könnte. Die zentrale Botschaft lautet, dass leistungsfähige KI bereits heute als strategische Infrastruktur betrachtet werden sollte.
Damit markiert das Papier einen bemerkenswerten Kurswechsel. Einer der wichtigsten Akteure der Branche fordert nicht mehr nur Transparenz und freiwillige Selbstverpflichtungen, sondern ein dauerhaftes regulatorisches System mit verbindlichen Sicherheitsprüfungen.
Ob Regierungen schnell genug reagieren können, bleibt offen. Genau darin sieht Amodei jedoch das eigentliche Problem: Die Entwicklung der KI beschleunigt sich aus seiner Sicht deutlich schneller als politische Entscheidungsprozesse.
Quelle: Dario Amodei, „Policy on the AI Exponential“ (Juni 2026)
Kategorie
KI
Künstliche Intelligenz, große Sprachmodelle, Bildgeneratoren und was sie wirklich können – und was nicht.
