Startseite / News
News

Together AI: KI-Coding-Agent leakt Schlüssel – Kundeneingaben gestohlen

Together AI: KI-Coding-Agent leakt Schlüssel – Kundeneingaben gestohlen
← Alle Beiträge

Ein KI-Coding-Agent hat bei Together AI einen Zugangsschlüssel in einem öffentlichen GitHub-Repository hinterlassen. Über diesen Schlüssel konnte ein Unbefugter gespeicherte Kundeneingaben aus einem privaten Hugging-Face-Repository herunterladen. Das bestätigte der KI-Infrastrukturanbieter am 21. November 2026. Der Vorfall ist besonders aufschlussreich, weil er zeigt, dass die Sicherheitsrisiken von KI-Diensten nicht am Modell-Endpunkt enden: Testdaten, Entwicklerwerkzeuge und Zugangsdaten bilden eine zweite, oft weniger sichtbare Angriffsfläche.

Was Together AI bestätigt

Für routinemäßige Softwaretests hatte Together AI nach eigenen Angaben Stichproben von Prompts aus seiner Serverless-Inferenz gesammelt und in einem privaten Hugging-Face-Repository abgelegt. Die Daten stammten überwiegend von Anfragen an MiniMax M3, GLM 5.2 und Kimi 2.6 an vier Tagen: 24. Juni sowie 4., 8. und 14. Juli 2026.

Bei der Arbeit am öffentlichen Projekt xorl übernahm ein KI-Coding-Agent ein Zugangstoken in den veröffentlichten Code. Automatische Prüfungen erkannten das Geheimnis, und der betreffende Commit wurde zurückgenommen. Doch innerhalb des Zeitfensters hatte ein Unbefugter den Schlüssel bereits kopiert und damit die privaten Prompt-Stichproben heruntergeladen. Anschließend suchte er darin nach weiteren Zugangsdaten und testete deren Gültigkeit. Fünf getestete Schlüssel waren sogenannte Canary-Credentials des Sicherheitsunternehmens Dragos.

Die Stellungnahme von Together AI vom 21. November spricht ausdrücklich von einem tatsächlichen Download, nicht bloß von einer theoretischen Zugriffsmöglichkeit. Welche Kundendaten im Einzelnen enthalten waren, wird noch untersucht. Das Unternehmen erklärt, keine Hinweise auf weitere Veröffentlichungen der Daten zu haben und davon auszugehen, dass der Angreifer sie gelöscht habe. Eine unabhängig überprüfbare Löschung ist damit nicht belegt.

Warum ein zurückgenommener Commit nicht genügt

Ein öffentlich eingecheckter Schlüssel gilt als kompromittiert, sobald Dritte ihn lesen konnten. Das Entfernen der Datei oder ein Git-Revert macht frühere Kopien nicht ungültig. Entscheidend ist die serverseitige Sperrung beziehungsweise Rotation des Tokens und die Prüfung seiner tatsächlichen Nutzung. Genau dieser Unterschied zwischen Codekorrektur und Credential-Reaktion ist die technische Kernfrage des Vorfalls.

Der KI-Agent war nach Angaben des Unternehmens der Auslöser des versehentlichen Commits. Er ist aber nicht der eigenständige Angreifer: Den unbefugten Download und die Suche nach weiteren Schlüsseln führte eine andere Partei durch. Ob ein Mensch oder automatisierte Werkzeuge den Zugriff steuerten, geht aus der Mitteilung nicht hervor.

Dragos hatte den Datenabfluss mit Ködern sichtbar gemacht

Die Verbindung zum größeren Problem der KI-Lieferkette liefert eine Untersuchung von Dragos vom 19. November. Die Forscher verschickten über fünf Monate annähernd zwei Millionen KI-Anfragen mit eindeutigen Test-URLs und fingierten Zugangsdaten. Tauchen solche Schlüssel später bei Zugriffen auf kontrollierte Testkonten auf, ist das ein starkes Indiz, dass jemand den Inhalt einer Anfrage außerhalb ihres vorgesehenen Verarbeitungswegs gesehen hat.

Dragos beobachtete Hinweise auf Datenabflüsse bei mindestens drei KI-Anbietern. Außerdem zeigte die Analyse, dass bei Inferenz-Marktplätzen mehrere zwischengeschaltete Dienstleister Prompts einsehen oder protokollieren konnten. Nicht jeder auffällige Zugriff ist automatisch ein bestätigter Hackerangriff: Logging durch einen Unteranbieter, nicht eingehaltene Datenschutzoptionen und tatsächlicher Datendiebstahl sind unterschiedliche Probleme. Im Fall Together AI bestätigt der Anbieter nun aber einen konkreten unbefugten Download und die Nutzung von fünf Dragos-Testschlüsseln.

Was Zero Data Retention leisten kann – und was nicht

Together AI will Zero Data Retention (ZDR) für neue Konten standardmäßig aktivieren und empfiehlt bestehenden Kunden mit sensiblen Prompts, die Option einzuschalten. Laut Nutzungsbedingungen verhindert ZDR die Speicherung von Eingaben und Ausgaben über die unmittelbare Verarbeitung hinaus und gilt erst ab Aktivierung. Die nun betroffenen Prompt-Stichproben lagen jedoch in einem gesonderten Testdaten-Repository. Der Vorfall zeigt deshalb, dass Datenschutzversprechen nur dann belastbar sind, wenn auch Entwicklungs-, Test- und Supportprozesse erfasst und geprüft werden.

Der Anbieter nennt als weitere Maßnahmen kürzer gültige und enger berechtigte Schlüssel, Credential-Prüfungen bei allen Pull Requests sowie überarbeitete Regeln für KI-Coding-Agenten. Ob diese Maßnahmen das konkrete Risiko vollständig beseitigen, lässt sich ohne unabhängige Prüfung nicht beurteilen.

Was deutsche Unternehmen daraus ableiten sollten

Wer KI-APIs für Kundenservice, Entwicklung oder interne Automatisierung nutzt, sollte nicht nur Modell und Hauptanbieter dokumentieren, sondern auch die tatsächlichen Datenwege, beteiligte Inferenzdienstleister, Log-Speicherung und Testkopien. Bei besonders sensiblen Daten sind vertragliche Zusagen, technische ZDR-Kontrollen und die Möglichkeit einer Anbieterprüfung wichtig. API-Schlüssel und personenbezogene Daten gehören grundsätzlich nicht ungeschützt in Prompts.

Kunden von Together AI, die an den genannten Tagen die betroffenen Serverless-Modelle nutzten, sollten ihre Nutzung nachvollziehen, möglicherweise mitgesendete Geheimnisse vorsorglich austauschen und bei Bedarf beim Anbieter eine individuelle Prüfung anfordern. Eine generelle Kompromittierung aller Together-AI-Kunden ist nicht belegt.

Der eigentliche Befund

Die spektakuläre Komponente ist nicht, dass eine KI selbstständig ein System gehackt hätte. Ein Coding-Agent hat einen klassischen Entwicklerfehler begünstigt: Ein zu weitreichender Schlüssel landete in öffentlichem Quellcode. Erst die Kombination aus dauerhaft gespeicherten Prompt-Stichproben, nutzbarem Repository-Zugang und einem Unbefugten machte daraus einen echten Datenabfluss. Gerade weil Unternehmen KI-Workflows zunehmend automatisieren, ist diese unspektakuläre Fehlerkette relevant.

Quellen

J

Über den Autor

Jens Könnig

Jens analysiert seit Jahren digitale Märkte, Preisbewegungen und Plattform-Strategien. Als Betreiber mehrerer datengetriebener Systeme wertet er täglich große Mengen an Produkt- und Trenddaten aus. Sein Fokus liegt auf Einordnung statt Hype: Was bedeutet eine Entwicklung wirklich für Nutzer, Preise und Märkte?

Alle Artikel von Jens Könnig →