Sanders’ KI-Entwurf setzt bei der Systemgrenze an

Der auffälligste Teil des von Bernie Sanders und Greg Casar angekündigten Ban Artificial Superintelligence Act ist die Strafandrohung: bis zu 20 Jahre Gefängnis für Einzelpersonen, die gegen das geplante Verbot verstoßen. Unternehmen könnten im Extremfall gerichtlich aufgelöst werden. Das ist die harte Oberfläche des Entwurfs.

Technisch interessanter ist aber die Stelle, an der der Gesetzentwurf die Grenze zieht. Er versucht nicht nur, einzelne Anwendungen zu regulieren, etwa Chatbots, Bildgeneratoren oder autonome Agenten. Er setzt eine Systemschwelle: Künstliche Superintelligenz soll nach dem Vorschlag verboten werden. Fortgeschrittene KI-Entwicklung soll vorübergehend ausgesetzt werden, bis eine neue Bundesbehörde Sicherheitsregeln festgelegt hat.

Damit verschiebt der Vorschlag die Regulierung von der Nutzungsebene auf die Architekturebene. Entscheidend wäre nicht erst, was ein System im Markt tut. Entscheidend wäre, ob es in seiner Leistungsfähigkeit, Anpassbarkeit oder strategischen Wirkung in einen Bereich fällt, den der Staat nicht mehr als kontrollierbare Technologie behandelt.

Die Definition ist der technische Kern

Nach den bekannten Eckpunkten definiert der Entwurf künstliche Superintelligenz als ein KI-System, das menschliche kognitive Leistung übertrifft oder leicht angepasst werden kann, um dies zu tun. Ebenfalls erfasst wären Systeme, die die Menschheit entmachten oder Regierungen untergraben könnten.

Diese Definition arbeitet mit drei unterschiedlichen Prüfebenen. Die erste ist eine Leistungsgrenze: Ein System überschreitet menschliche kognitive Fähigkeiten. Die zweite ist eine Anpassungsgrenze: Ein System ist vielleicht noch nicht offen superintelligent, kann aber leicht in diese Richtung verändert werden. Die dritte ist eine Wirkungsgrenze: Ein System hätte Fähigkeiten, die politische oder gesellschaftliche Kontrollstrukturen gefährden könnten.

Für Gesetzgebung ist das ungewöhnlich breit. Für KI-Systeme ist es nachvollziehbar schwierig. Moderne Modelle sind keine Maschinen mit einer einzigen festen Funktion. Sie bestehen aus Trainingsdaten, Modellgewichten, Laufzeitumgebungen, Werkzeugzugriffen, Schnittstellen, Sicherheitsfiltern und Anwendungsschichten. Ein Modell kann in einer isolierten Testumgebung harmlos wirken und in Verbindung mit Code-Ausführung, Datenbankzugriffen oder externen Aktionsrechten eine andere Risikoklasse erreichen.

Der Entwurf scheint deshalb nicht nur das fertige Produkt im Blick zu haben, sondern auch Anpassbarkeit. Genau dort liegt die technische Spannung. In der KI-Entwicklung ist Anpassung kein Randfall. Fine-Tuning, Systemprompts, Werkzeuganbindung, Agenten-Frameworks und neue Evaluationsverfahren sind Teil der normalen Arbeit. Eine Regulierung, die „leicht angepasst“ als Kriterium nutzt, müsste sehr genau bestimmen, welche Änderungen noch Forschung, welche schon verbotene Eskalation und welche bloß produktbezogene Konfiguration sind.

Pause, Behörde, Sicherheitsregeln

Der zweite Baustein des Vorschlags ist eine vorübergehende Aussetzung fortgeschrittener KI-Entwicklung. Sie soll gelten, bis eine neue Bundesregulierungsbehörde Sicherheitsregeln festgelegt hat. Das ist nicht nur ein politisches Signal, sondern ein anderer Betriebsmodus für die Branche.

Eine solche Behörde müsste zuerst festlegen, welche Systeme überhaupt meldepflichtig oder genehmigungspflichtig sind. Dafür bräuchte sie technische Schwellenwerte. Möglich wären Kriterien auf Basis von Modellfähigkeiten, Trainingsumfang, Autonomiegrad, Werkzeugzugriff, Recheninfrastruktur oder Risiko in bestimmten Einsatzkontexten. Der Entwurf selbst wird in den bekannten Zusammenfassungen vor allem über Ziel und Sanktionen beschrieben. Die operative Frage wäre aber: Wie erkennt eine Behörde zuverlässig, wann ein Forschungsprojekt die Grenze zu „fortgeschrittener KI“ oder „Superintelligenz“ berührt?

Bei klassischer Software ist diese Frage oft einfacher. Ein Zahlungssystem verarbeitet Transaktionen. Eine medizinische Software unterstützt Diagnosen. Eine Verschlüsselungstechnologie hat bestimmte kryptografische Eigenschaften. Bei allgemeinen KI-Modellen ist der Verwendungsraum offener. Dasselbe Basismodell kann Texte schreiben, Code generieren, Pläne erstellen, Werkzeuge bedienen oder mit externen Systemen verbunden werden. Die Regulierung müsste deshalb nicht nur Modellparameter betrachten, sondern die gesamte Umgebung.

Eine geplante Behörde wäre damit nicht bloß eine Zulassungsstelle für Produkte. Sie müsste eine technische Aufsicht über Entwicklungsprozesse aufbauen: Tests, Dokumentation, Zugriffskontrollen, Sicherheitsbewertungen, Modellfreigaben, vielleicht auch Rechenzentren und Trainingsläufe. Der Entwurf nennt das Ziel, die Öffentlichkeit vor den Gefahren der KI zu schützen und das Verbot superintelligenter KI durchzusetzen. In der Praxis hängt diese Durchsetzung an Messbarkeit.

Warum die Sanktionen an Entwickler und Unternehmen adressiert sind

Die Strafandrohung von bis zu 20 Jahren Haft richtet sich gegen Einzelpersonen, die gegen das geplante Gesetz verstoßen. Die vorgesehene „corporate death penalty“ für Unternehmen würde noch weiter gehen: Ein Gericht könnte ein Unternehmen auflösen. Die Logik dahinter ist erkennbar. Der Entwurf behandelt bestimmte KI-Entwicklung nicht als normales Compliance-Problem, sondern als Gefahrenklasse, die schon vor dem Einsatz verhindert werden soll.

Ob diese Einstufung trägt, ist eine politische und rechtliche Streitfrage. Technisch erklärt sie aber die Architektur des Gesetzes. Es geht nicht um Bußgelder nach einem Datenschutzverstoß oder um nachträgliche Haftung nach einem Produktschaden. Es geht um Abschreckung vor dem Bau eines Systems, dessen Fähigkeiten nach Ansicht der Initiatoren nicht beherrschbar wären.

Dadurch rückt die Verantwortung in der Entwicklungskette nach vorn. Nicht erst Betreiber oder Endnutzer wären relevant. Auch Forscher, Modellanbieter, Infrastrukturbetreiber und Unternehmensleitungen könnten in den Blick geraten, wenn sie ein System entwickeln oder einsetzen, das unter die Definition fällt. Der Entwurf macht aus der Frage „Was darf ein KI-Produkt tun?“ eine vorgelagerte Frage: „Welche Art von KI-System darf überhaupt gebaut werden?“

Die Schnittstellenfrage bleibt offen

Der schwierigste Teil einer solchen Regulierung liegt an den Schnittstellen. Superintelligenz wäre selten ein einzelner Knopf in einer Software. Sie könnte aus mehreren Schichten entstehen: einem Basismodell, zusätzlichem Training, Zugriff auf Werkzeuge, Speichersystemen, Automatisierung, Netzwerkzugang und menschlicher Delegation. Je stärker solche Komponenten kombiniert werden, desto schwerer wird die Grenzziehung.

Ein Modell ohne externe Werkzeuge kann anders bewertet werden als ein Modell, das Code ausführt, Finanztransaktionen anstößt oder Systeme administriert. Ein Laborprototyp unterscheidet sich von einem breit ausgerollten Dienst. Ein geschlossenes Modell mit internen Zugriffskontrollen ist nicht dasselbe wie ein veröffentlichter Baukasten, der von Dritten verändert werden kann. Wenn der Entwurf „leicht angepasst“ einbezieht, müsste Regulierung diese Übergänge erfassen.

Damit entsteht ein Prüfproblem, das tiefer reicht als übliche Produktaufsicht. Die Behörde müsste nicht nur Endzustände bewerten, sondern Entwicklungspfade. Welche Kombinationen von Fähigkeiten, Werkzeugen und Autonomie sind verboten? Welche Tests gelten als ausreichender Nachweis? Wer dokumentiert Trainingsläufe, Modellversionen und Sicherheitsgrenzen? Welche Rolle spielen Cloud-Anbieter, wenn Rechenleistung für verbotene Entwicklung genutzt wird?

Diese Fragen sind nicht nur juristische Detailarbeit. Sie bestimmen, ob ein Verbot technisch durchsetzbar ist oder vor allem als politisches Signal wirkt.

Internationale Ächtung als notwendige Erweiterung

Der Entwurf zielt auch auf internationale Abkommen zur weltweiten Ächtung von Superintelligenz. Dieser Teil ist für die Systemlogik zentral. Ein nationales Verbot kann in einer global verteilten Technologiebranche nur begrenzt wirken, wenn Forschung, Rechenzentren, Modelle und Entwicklerteams über Grenzen hinweg arbeiten.

KI-Entwicklung ist nicht vollständig ortlos. Große Trainingsläufe brauchen Rechenleistung, Energie, Chips, Kapital und spezialisierte Teams. Diese Infrastruktur ist sichtbar und konzentriert. Gleichzeitig können Modellgewichte, Forschungscode, Methoden und kleinere Anpassungen international zirkulieren. Ein US-Verbot hätte deshalb andere Durchsetzungspunkte als ein Exportverbot für eine klar umrissene Maschine.

Internationale Abkommen wären der Versuch, diese Lücke zu schließen. Ohne sie könnten strenge nationale Regeln Entwicklung in weniger regulierte Räume verschieben. Mit ihnen entstünde eine deutlich härtere globale Governance-Struktur, deren technische Durchsetzung wiederum an Prüfstandards, Meldepflichten und Kontrolle von Hochleistungsrechenkapazität hängen würde.

Der Entwurf beginnt bei der Kontrollierbarkeit

Der Ban Artificial Superintelligence Act ist nach aktuellem Stand ein angekündigter Gesetzentwurf, kein geltendes Recht. Seine Bedeutung liegt weniger darin, dass die US-KI-Branche morgen stillsteht. Sie liegt darin, wie der Vorschlag KI beschreibt: nicht als Produktkategorie, sondern als potenziell nicht mehr kontrollierbare technische Architektur.

Das macht den Entwurf scharf, aber auch schwer umzusetzen. Je allgemeiner KI-Systeme werden, desto weniger genügt eine Regulierung einzelner Anwendungen. Gleichzeitig wird jede Grenze schwieriger, wenn Fähigkeiten aus Kombinationen entstehen: Modell plus Werkzeuge, Training plus Anpassung, Labor plus Deployment.

Die zentrale technische Frage lautet deshalb nicht nur, ob Superintelligenz verboten werden soll. Sie lautet, wie ein Staat überhaupt belastbar feststellen will, wann ein KI-System diese Grenze erreicht oder mit geringem Aufwand erreichen kann. An dieser Stelle entscheidet sich, ob aus dem Verbot ein kontrollierbares Regime wird oder ein sehr hart formulierter Rahmen mit ungeklärter Messmethode.