Ein KI-Chip wird normalerweise nicht für ein einzelnes Modell gebaut. Er wird für Rechenmuster gebaut: Matrixmultiplikationen, Speicherzugriffe, Datenbewegung, Parallelisierung. Googles TPUs folgen genau dieser Logik. Sie sind spezialisierter als CPUs oder GPUs, aber flexibel genug, um verschiedene Modellgenerationen, Trainingsläufe und Inferenzaufgaben zu bedienen.
Der intern als Frozen v2 bezeichnete Chip, an dem Google Berichten zufolge arbeitet, verschiebt diese Grenze. Nach der bisherigen Berichterstattung soll der Server-Chip Teile der Architektur von Gemini-Modellen direkt in Silizium abbilden. Die Gewichte des Modells sollen weiter aktualisierbar bleiben. Eingefroren wäre also nicht das gesamte Modell, sondern ein Teil der zugrunde liegenden Struktur, über die das Modell rechnet.
Der Name lässt sich so lesen: Frozen v2 steht nicht für ein statisches KI-Modell, sondern für eine feste Hardware-Annahme. Bestimmte Bausteine der Gemini-Architektur würden sich demnach nicht oder zumindest nicht so stark ändern, dass ein darauf ausgelegter Chip unbrauchbar würde. Genau daraus könnte der Effizienzgewinn entstehen, aber auch das technische Risiko.
Der Unterschied zu einer TPU liegt nicht nur in der Leistung
TPUs sind bereits kundenspezifische Beschleuniger. Sie sind nicht neutral im Sinne klassischer Universalprozessoren. Dennoch bleiben sie programmierbare Infrastruktur. Ein Modell wird über Compiler, Laufzeitumgebung, Speicherplanung und Operatoren auf die Hardware gebracht. Diese Zwischenschichten sind notwendig, weil die Hardware verschiedene Modelle und Modellvarianten unterstützen muss.
Frozen v2 als spezialisierter Inferenzpfad
Die Grafik zeigt die technische Trennung zwischen flexiblen TPUs und einem enger auf Gemini-Inferenz ausgelegten Frozen-v2-Chip.
Frozen v2 würde diese Trennung teilweise aufheben. Wenn häufige Berechnungsmuster, Datenflüsse oder Architekturannahmen eines Gemini-Modells direkt im Chipdesign berücksichtigt werden, kann die Hardware enger geführt werden. Weniger allgemeine Steuerlogik, weniger Umwege über generische Operatoren, passendere Speicherpfade, möglicherweise weniger Datenbewegung zwischen Recheneinheiten und Speicher. In großen Inferenzsystemen ist gerade diese Datenbewegung ein entscheidender Kostenfaktor.
Die genannte Zielgröße macht das sichtbar: Ingenieure des Projekts sollen prognostizieren, dass Frozen v2 sechs- bis zehnmal mehr Token pro Watt liefern könnte als die neueste Generation von Googles TPUs. Das ist keine bestätigte Produkteigenschaft, sondern eine interne Ziel- oder Erwartungsgröße aus der Berichterstattung. Technisch ist nachvollziehbar, warum ausgerechnet Token pro Watt im Mittelpunkt steht. Bei generativer KI zählt nicht nur, wie viele Chips ein Modell ausführen können. Entscheidend ist, wie viel nutzbare Ausgabe pro Energieeinheit entsteht.
Inferenz ist ein anderer Engpass als Training
Frozen v2 soll nach aktuellem Stand nicht die vorhandenen TPUs ersetzen. Der Chip ist für die Inferenz von Gemini-Modellen gedacht. Das ist eine andere Lastklasse als Training. Beim Training werden Modelle aufgebaut, Gewichte angepasst, Gradienten berechnet und sehr große Datenmengen durch die Hardware geschoben. Dafür ist Flexibilität wichtig, weil Modellarchitekturen, Trainingsverfahren und Experimente häufig wechseln.
Inferenz ist wiederholbarer. Ein Nutzer stellt eine Anfrage, das Modell erzeugt Token, der Vorgang läuft millionenfach in ähnlichen Mustern ab. Für einen Betreiber wie Google ist diese Wiederholung interessant. Wenn ein Modell in eigenen Produkten und über Google Cloud in hoher Stückzahl läuft, lohnt sich Optimierung auf genau diesen Ausführungspfad stärker als bei experimentellen Trainingslasten.
Die Architekturfrage lautet deshalb: Wie viel Modellstruktur lässt sich fest verdrahten, ohne die Updatefähigkeit zu verlieren? Die bekannten Informationen deuten auf eine Trennung hin. Die Gewichte bleiben austauschbar. Das bedeutet, Google könnte neue Varianten innerhalb einer kompatiblen Gemini-Familie betreiben. Die Hardware wäre aber nur dann effizient, wenn die zugrunde liegende Architektur ähnlich bleibt. Ändert Google Gemini später deutlich, kann der Vorteil schrumpfen oder der Chip nur noch für ältere Modelllinien sinnvoll sein.
Der eigentliche Hebel ist die Datenbewegung
In KI-Rechenzentren wird viel über Rechenleistung gesprochen. Praktisch entscheidet oft die Bewegung der Daten. Modellgewichte müssen geladen, Zwischenergebnisse gespeichert, Attention-Mechanismen ausgeführt und Token Schritt für Schritt erzeugt werden. Jede Bewegung durch Speicherhierarchien kostet Energie und Zeit. Ein universellerer Beschleuniger muss für viele mögliche Datenlayouts und Operatoren offen bleiben. Ein enger auf Gemini zugeschnittener Chip kann Pfade kürzen.
Das kann mehrere Ebenen betreffen. Die Recheneinheiten können besser zu den benötigten Operationen passen. Die Speicherhierarchie kann auf typische Sequenzlängen, Zugriffsmuster oder Modellblöcke optimiert sein. Die Steuerlogik kann weniger allgemein ausfallen. Auch der Compiler kann einfacher werden, wenn weniger Zielvarianten unterstützt werden müssen. Der Effekt entsteht also nicht durch einen einzelnen Trick, sondern durch das Zusammenziehen von Modellarchitektur, Laufzeitumgebung und Chipdesign.
Genau hier unterscheidet sich Frozen v2 von der üblichen Erzählung über schnellere KI-Chips. Es geht nicht nur um mehr Recheneinheiten. Es geht um weniger Reibung zwischen Modell und Hardware. Je stabiler die Modellarchitektur, desto stärker kann man diese Reibung reduzieren. Je schneller sich die Architektur ändert, desto riskanter wird das Design.
Der Preis der Spezialisierung
Ein Chip mit enger Modellbindung ist eine Wette auf Kontinuität. Silizium hat lange Entwicklungszyklen. Berichten zufolge wird ein Einsatz von Frozen v2 bereits für 2028 angestrebt. Zwischen Architekturentscheidung, Tape-out, Fertigung, Validierung, Serverintegration und Betrieb liegen Jahre. Ein Sprachmodell kann sich in derselben Zeit mehrfach verändern.
Google kann dieses Risiko besser tragen als viele andere Unternehmen, weil das Unternehmen sowohl das Modell als auch die Infrastruktur kontrolliert. Gemini entsteht intern, TPUs entstehen intern, Google Cloud betreibt die Rechenzentren, und eigene Produkte liefern große Inferenzlasten. Diese vertikale Struktur macht ein solches Hardware-Software-Co-Design überhaupt plausibel. Ein externer Chiphersteller müsste viel allgemeiner bauen, weil er nicht weiß, welche Modellarchitekturen seine Kunden in drei Jahren verwenden.
Trotzdem bleibt die Einschränkung technisch hart. Wenn Frozen v2 nur innerhalb bestimmter Gemini-Annahmen effizient arbeitet, ist der Chip weniger frei umnutzbar als eine TPU. Das ist für Training, Forschung und wechselnde Kundenlasten ein Nachteil. Für stabile, massenhaft wiederholte Inferenz kann es ein Vorteil sein. Der Chip wäre dann eher ein Spezialwerkzeug im Rechenzentrum als eine neue Grundform für alle KI-Lasten.
Warum Google diesen Weg prüft
Der Kontext ist Kapazität. Das Projekt gilt teilweise als Reaktion auf einen Mangel an KI-Rechenleistung, der Google Cloud Berichten zufolge dazu zwang, Anfragen externer Kunden abzulehnen. Ob und in welchem Umfang das geschah, ist nicht öffentlich im Detail bestätigt. Die Richtung ist aber nachvollziehbar: Wenn Nachfrage nach Inferenz schneller wächst als verfügbare Beschleuniger, wird Effizienz zur Betriebsfrage.
Mehr Token pro Watt bedeuten nicht nur niedrigere Stromkosten. Sie bedeuten auch mehr nutzbare Ausgabe innerhalb derselben Rechenzentrumsgrenzen. Stromanschlüsse, Kühlung, Platz, Netzkapazität und Lieferketten für Beschleuniger setzen harte Obergrenzen. Ein Inferenzchip, der bei gleicher elektrischer Leistung deutlich mehr Token erzeugt, entspannt mehrere dieser Grenzen zugleich.
Google hat Frozen v2 bislang nicht offiziell als Produkt bestätigt. Ein Sprecher hat laut Berichten darauf verwiesen, dass nicht jedes interne Forschungsprojekt die Produktion erreicht. Diese Einschränkung ist wichtig. Zwischen internem Designziel und einsatzfähigem Serverchip liegt ein weiter Weg. Entscheidend ist deshalb nicht, ob Frozen v2 exakt in der beschriebenen Form kommt. Entscheidend ist, welche technische Richtung sichtbar wird: Für sehr große KI-Betreiber reicht flexible Beschleunigung allein möglicherweise nicht mehr aus. Die nächste Effizienzstufe entsteht dort, wo Modellarchitektur und Silizium enger aufeinander gelegt werden.
Frozen v2 wäre damit kein Ersatz für TPUs, sondern eine zusätzliche Schicht im Rechenzentrum. TPUs bleiben für flexible Lasten, Training und breitere Modellunterstützung relevant. Der spezialisierte Chip übernimmt dort, wo Gemini-Inferenz planbar, wiederholbar und teuer genug ist, um feste Hardwarepfade zu rechtfertigen. Das ist eine nüchterne Architekturentscheidung: weniger Freiheit auf dem Chip, dafür mehr Ausgabe pro Watt, solange das Modell zur Hardware passt.
Jens analysiert seit Jahren digitale Märkte, Preisbewegungen und Plattform-Strategien. Als Betreiber mehrerer datengetriebener Systeme wertet er täglich große Mengen an Produkt- und Trenddaten aus. Sein Fokus liegt auf Einordnung statt Hype: Was bedeutet eine Entwicklung wirklich für Nutzer, Preise und Märkte?
