LLMs suchen nach Schwachstellen im deutschen Recht

Forscher haben Large Language Models eingesetzt, um nach Schwachstellen im deutschen Recht zu suchen. Nach ihren Angaben identifizierten die Systeme eine erhebliche Zahl bislang nicht dokumentierter Lücken und entwickelten dazu mögliche Formen der Ausnutzung. Der Sicherheitsforscher Bruce Schneier verweist in einem am 3. November veröffentlichten Beitrag auf die Demonstrationen als frühes Beispiel dafür, wie KI nicht nur Software, sondern auch Rechtssysteme systematisch auf verwertbare Fehler untersuchen kann.

Die entscheidende Einschränkung: Berichtet wird über eine Forschungsdemonstration, nicht über einen beobachteten Angriff auf das Rechtssystem. Die Forscher veröffentlichten nach eigener Darstellung nur eine Auswahl von Schwachstellen, deren Ausnutzung ihrer Einschätzung nach keinen schweren Schaden verursachen würde. Hinweise auf aktive Ausnutzung, konkrete Missbrauchsfälle oder bereits entstandene Schäden enthält die Meldung nicht.

Auch lässt sich aus dem vorliegenden Material nicht ableiten, welche Gesetze und Personengruppen konkret betroffen sind. Es werden weder einzelne Vorschriften noch überprüfbare Fallbeispiele genannt. Die Aussage, dass die gefundenen Schwachstellen zuvor nicht erfasst waren, stammt von den Forschern selbst. Sie ist deshalb nicht mit einer unabhängig bestätigten Bestandsaufnahme des gesamten deutschen Rechts gleichzusetzen.

Kein CVE, kein Patch und kein deterministischer Exploit

Der Begriff „Schwachstelle“ stammt hier aus der Computersicherheit, lässt sich aber nur begrenzt auf Gesetze übertragen. Es gibt keine CVE-Nummer, keinen CVSS-Wert, keine betroffene Softwareversion und kein Update, das Betreiber installieren könnten. Ein möglicher Exploit besteht vielmehr aus einer rechtlichen Konstruktion, die den Wortlaut einer Norm auf eine Weise nutzt, die deren Zweck oder gesellschaftlich erwarteter Wirkung widerspricht.

Schneier beschäftigt sich mit diesem Gedanken bereits seit einem Essay aus dem Jahr 2021 und seinem 2022 erschienenen Buch A Hacker’s Mind. Die zugrunde liegende Analogie lautet: Rechtssysteme kodieren Regeln in natürlicher Sprache. Wie technische Systeme können auch sie unbeabsichtigte Wechselwirkungen, Lücken oder widersprüchliche Bedingungen enthalten.

Damit endet die Ähnlichkeit jedoch nicht nur sprachlich. Software führt einen gültigen Befehl unter definierten Bedingungen reproduzierbar aus. Recht wird von Behörden und Gerichten ausgelegt. Die zitierte Untersuchung weist selbst darauf hin, dass Gerichte viele Versuche der Ausnutzung durch Interpretation auffangen. Eine vom Modell gefundene Argumentation ist daher zunächst eine Hypothese. Ob sie praktisch funktioniert, hängt von Verfahren, Zuständigkeiten, Beweisen und richterlicher Auslegung ab.

Der neue Faktor ist die Menge der prüfbaren Konstruktionen

Das operative Risiko liegt weniger in einer einzelnen spektakulären Rechtslücke als in der Skalierung der Suche. Juristische Analysen waren bislang teuer, langsam und an knappe Fachkompetenz gebunden. Wenn LLMs große Mengen an Vorschriften kombinieren und mögliche Umgehungskonstruktionen erzeugen können, sinken zumindest die Kosten für die erste Suche nach ungewöhnlichen Lesarten.

Das bedeutet nicht, dass juristische Prüfung überflüssig wird. Im Gegenteil: Je mehr Modelle potenzielle Lücken produzieren, desto wichtiger wird die fachliche Validierung. Ein plausibel formulierter Modelloutput belegt weder, dass eine Vorschrift tatsächlich widersprüchlich ist, noch dass ein Gericht der vorgeschlagenen Auslegung folgen würde. Die Engstelle verschiebt sich von der Generierung möglicher Argumente zu ihrer belastbaren rechtlichen Bewertung.

Für missbräuchliche Akteure kann diese Vorarbeit trotzdem nützlich sein. Sie müssen nicht mehr jede Verbindung selbst entdecken, sondern können viele Varianten erzeugen und anschließend nur die aussichtsreichsten prüfen lassen. Genau darin unterscheidet sich die Entwicklung von bekannten Steuergestaltungen, regulatorischer Arbitrage oder strategischer Prozessführung: Nicht das Prinzip ist neu, sondern die potenziell verfügbare Suchkapazität.

Gerichtliche Korrektur kommt häufig erst nach dem Versuch

Die Rolle der Gerichte begrenzt das Risiko, beseitigt es aber nicht. Eine gerichtliche Korrektur setzt in der Regel voraus, dass eine Konstruktion in einem konkreten Verfahren sichtbar wird. Bis dahin können Behörden, Unternehmen oder Privatpersonen Zeit und Geld für Prüfung, Abwehr und Rechtsstreit aufwenden. Auch ein am Ende erfolgloser Exploit kann somit operative Kosten erzeugen.

Hinzu kommt eine ungleiche Verteilung der Möglichkeiten. Wer Zugang zu leistungsfähigen Modellen, juristischen Daten und qualifizierter Nachprüfung hat, kann mehr Varianten untersuchen als eine Behörde oder Gegenpartei mit begrenzten Ressourcen. Die relevante Sicherheitsfrage lautet deshalb nicht nur, ob eine KI eine Lücke findet. Entscheidend ist, wer die erzeugten Vorschläge zuverlässig filtern, testen und in ein reales Verfahren übersetzen kann.

Gesetzgebung braucht einen Prüfprozess für maschinelle Suche

Die Forscher leiten daraus ab, dass Gesetzgeber ihre Verfahren härten und dafür möglicherweise selbst fortgeschrittene KI einsetzen müssen. Praktisch würde dies bedeuten, Gesetzentwürfe nicht nur auf politische Wirkung, Verfassungsmäßigkeit und handwerkliche Qualität zu prüfen, sondern gezielt auf unerwartete Kombinationen und strategische Umgehungsmöglichkeiten.

Ein solcher Ansatz wäre mit Security-Tests vergleichbar, ohne Recht mit Software gleichzusetzen: Modelle könnten alternative Auslegungen erzeugen, Fachleute müssten die belastbaren Fälle identifizieren, und die Ergebnisse könnten vor Inkrafttreten in Wortlaut oder Begründung einfließen. Ebenso wichtig wäre eine dokumentierte Entscheidung darüber, welche Modellhinweise verworfen wurden. Sonst produziert die zusätzliche Prüfung vor allem eine große Menge juristisch klingender Verdachtsfälle.

Für Bürger und Unternehmen ergibt sich aus der Meldung noch keine konkrete Schutzmaßnahme. Es gibt keine benannte Vorschrift, keinen Patch und keinen Hinweis auf laufende Angriffe. Für Gesetzgeber und Verwaltungen ist die Demonstration dennoch relevant: Wenn die Suche nach juristischen Grenzfällen billiger wird, reicht es nicht, erst im Gerichtsverfahren auf sie zu reagieren. Der übersehene Engpass ist nicht die Erzeugung weiterer Rechtsargumente, sondern die Fähigkeit staatlicher Institutionen, diese in vergleichbarer Geschwindigkeit zu prüfen.