Der harte Kern von Sanders’ Superintelligenz-Verbot

Der Entwurf von Bernie Sanders und Greg Casar ist weniger interessant als Schlagwort gegen KI-Milliardäre, sondern als technische Regulierungsarchitektur. Der Anfang September 2026 bekannt gewordene Ban Artificial Superintelligence Act versucht, eine schwer greifbare Kategorie in ein staatlich kontrollierbares System zu übersetzen: künstliche Superintelligenz. Dafür reicht kein Verbotssatz. Ein solches Gesetz braucht Schwellenwerte, Prüfprozesse, Eingriffsrechte, Sanktionen und eine Behörde, die tief genug in die KI-Entwicklung hineinsehen kann.

Genau dort liegt der Kern des Vorstoßes. Sanders und Casar schlagen nach den bekannten Beschreibungen ein dauerhaftes Verbot für Entwicklung und Einsatz superintelligenter KI vor. Zusätzlich soll die Entwicklung fortgeschrittener KI-Systeme vorübergehend pausieren, bis eine neue Bundesbehörde, dem Vorschlag zufolge auf Kabinettsebene, Sicherheitsregeln geschaffen hat. Bei Verstößen droht Unternehmen die sogenannte Corporate Death Penalty; Einzelpersonen könnten mit bis zu 20 Jahren Haft bestraft werden. Diese Straflogik rückt den Entwurf in die Nähe besonders schwerer technischer Gefahren.

Technisch betrachtet entsteht damit kein einzelnes Verbot, sondern eine Kette: Definition, Erkennung, Genehmigung, Kontrolle, Eingriff, Sanktion. Jede Stufe muss funktionieren, sonst bleibt der Entwurf politischer Druck ohne operativen Unterbau.

Der Entwurf baut eine Regulierungskette

Die erste Ebene ist die Kategorie selbst. Der Entwurf beschreibt künstliche Superintelligenz als Systeme, die menschliche kognitive Leistungen übertreffen oder die Fähigkeit besitzen, die Menschheit zu entmachten oder Regierungen zu untergraben. Das ist bewusst weit gefasst. Es soll nicht nur heutige Chatbots oder Bildgeneratoren erfassen, sondern Systeme mit strategischer, technischer oder organisatorischer Handlungsfähigkeit.

Aus dieser Definition folgt die zweite Ebene: das permanente Verbot. Entwicklung und Einsatz solcher Systeme sollen untersagt werden. Das klingt eindeutig, wirft aber sofort eine technische Anschlussfrage auf. Wann wird aus einem fortgeschrittenen KI-System ein verbotenes System? Beim Training? Beim Test? Beim Erreichen bestimmter Benchmark-Werte? Bei der Fähigkeit, autonome Folgehandlungen zu planen? Oder erst, wenn ein System in einer realen Umgebung entsprechende Effekte zeigen kann?

Die dritte Ebene ist die Pause für fortgeschrittene KI. Sie betrifft einen Bereich unterhalb der Superintelligenz-Schwelle. Der Entwurf sieht vor, dass diese Entwicklung vorübergehend ausgesetzt wird, bis die neue Bundesbehörde Sicherheitsregeln etabliert hat. Damit entsteht ein Pufferbereich. Er soll verhindern, dass Unternehmen ein System bis kurz vor eine gefährliche Schwelle treiben und sich anschließend auf Definitionslücken berufen.

Die Definition ist der erste Engpass

Jede harte KI-Regulierung steht an derselben Stelle vor einem Messproblem. Software lässt sich nicht wie eine Chemikalie allein über Stoffeigenschaften erfassen. Ein Modell besteht aus Gewichten, Trainingsdaten, Architektur, Werkzeugzugang, Laufzeitumgebung, Sicherheitsfiltern und Einsatzkontext. Dieselben Modellfähigkeiten können harmlos wirken, wenn ein System isoliert getestet wird, und riskanter werden, wenn es Zugriff auf Code-Repositories, Cloud-Ressourcen, Zahlungssysteme oder Kommunikationskanäle erhält.

Der Begriff Superintelligenz enthält daher zwei unterschiedliche Prüfachsen. Die erste Achse misst kognitive Leistung: Kann ein System Aufgaben lösen, die Menschen allgemein nicht oder nur mit hohem Aufwand lösen können? Die zweite Achse misst Kontrollfähigkeit: Kann ein System Handlungen auslösen, die politische Institutionen, Unternehmen oder kritische Infrastrukturen unter Druck setzen? Der Entwurf verbindet beide Achsen. Das macht ihn breit, aber auch schwer administrierbar.

Für eine Behörde wäre die praktische Frage nicht, ob ein Modell in einer Präsentation beeindruckt. Sie müsste festlegen, welche Tests verpflichtend sind, welche Fähigkeiten meldepflichtig werden und welche Kombinationen aus Modell, Tools und Deployment als unzulässig gelten. Ohne solche Schnittstellen wäre die Regulierung kaum überprüfbar.

Die Behörde müsste in die Entwicklungspipeline

Der vorgeschlagene Entwurf sieht eine neue Bundesbehörde auf Kabinettsebene vor. Ihre Aufgaben gehen über klassische Berichtspflichten hinaus. Sie soll KI-Systeme überwachen, gefährliche Fähigkeiten entfernen lassen und gegebenenfalls die Vernichtung oder Außerbetriebnahme entsprechender Systeme anordnen können. Das setzt Zugriff auf technische Artefakte voraus.

In der Praxis betrifft das mehrere Ebenen der KI-Entwicklung. Vor dem Training wären Trainingsziele, Rechenpläne und Sicherheitskonzepte relevant. Während des Trainings könnten Zwischenstände, Evaluierungen und unerwartete Fähigkeiten wichtig werden. Nach dem Training kämen Red-Teaming, Zugriffskontrollen, Modellgewichte, Schnittstellen, Tool-Nutzung und Deployment-Umgebungen hinzu. Die Behörde müsste also nicht nur fertige Produkte prüfen, sondern Entwicklungsprozesse.

Damit nähert sich der Entwurf einer Kontrollform, die in der Softwareindustrie ungewohnt tief liegt. Viele heutige Regulierungen setzen am Produkt oder am Marktverhalten an. Dieser Ansatz setzt früher an: bei Modellfähigkeiten, Laborprozessen und Infrastruktur. Wer eine Pause für fortgeschrittene KI durchsetzen will, muss wissen, welche Projekte laufen, welche Rechenressourcen eingesetzt werden und wann ein System eine neue Fähigkeit zeigt.

Sanktionen setzen Nachweise voraus

Die Corporate Death Penalty ist der sichtbarste Teil des Entwurfs. Gemeint ist nach den bekannten Beschreibungen eine Sanktion, bei der ein Unternehmen bei Verstößen faktisch keine Geschäfte mehr tätigen könnte. Für Einzelpersonen nennt der Vorschlag Haftstrafen von bis zu 20 Jahren. Solche Strafen verändern die Anforderungen an Nachweise. Eine Behörde müsste nicht nur vermuten, dass ein Unternehmen in Richtung Superintelligenz arbeitet. Sie müsste belastbar zeigen können, dass ein Verbotstatbestand erfüllt wurde.

Das führt zurück zur technischen Dokumentation. Welche Logs gelten als belastbar? Wie werden Modellversionen gesichert? Wer prüft, ob gefährliche Fähigkeiten entfernt wurden? Wie verhindert man, dass relevante Entwicklung in Tochtergesellschaften, Forschungskooperationen oder ausländische Standorte verlagert wird? Der Entwurf beantwortet diese operativen Details nach aktuellem bekannten Stand nicht vollständig; er setzt aber voraus, dass sie lösbar sind.

Auch die Abgrenzung zwischen Forschung und Entwicklung wird wichtig. KI-Forschung arbeitet häufig mit offenen Veröffentlichungen, Modellvergleichen und experimentellen Systemen. Ein hartes Verbot muss entscheiden, wann wissenschaftliche Untersuchung noch zulässig ist und wann sie als Entwicklung eines verbotenen Systems gilt. Diese Grenze ist für Universitäten, Labore und Unternehmen technisch schwieriger als politisch.

Die offene Schnittstelle bleibt der Maßstab

Der Sanders-Casar-Entwurf verschiebt die Debatte über KI-Regulierung auf eine konkrete Architekturfrage. Er behandelt Superintelligenz nicht nur als hypothetisches Risiko, sondern als Gegenstand, der verboten, überwacht, deaktiviert und sanktioniert werden soll. Das ist ein hoher Anspruch an staatliche Technikaufsicht.

Ob der Entwurf politisch Mehrheiten findet, ist eine andere Frage. Technisch entscheidend ist, ob sich die zentralen Begriffe in prüfbare Kontrollpunkte übersetzen lassen. Ein KI-System ist kein einzelnes Gerät mit Seriennummer. Es ist ein Verbund aus Modell, Daten, Recheninfrastruktur, Softwareumgebung und Zugriffen. Wer es regulieren will, muss an diesen Verbund heran.

Der Gesetzentwurf zeigt damit vor allem, welche Bauteile eine harte KI-Regulierung benötigen würde: eine Schwelle für verbotene Fähigkeiten, eine Pause im Vorfeld, eine Behörde mit Einblick in Entwicklungsprozesse, Eingriffsrechte in Modelle und Sanktionen mit abschreckender Wirkung. Der schwierigste Teil ist nicht die Formulierung des Verbots. Der schwierigste Teil ist die technische Nachweisbarkeit.