Die große, böse GPU steht nicht nur im Rechenzentrum. Sie steht inzwischen in jeder Budgetplanung, in jeder Cloud-Rechnung, in jeder KI-Strategie, die halbwegs ernst gemeint sein will. Wer Modelle trainieren, anpassen oder im großen Stil betreiben will, braucht Zugriff auf Beschleuniger. Wer keinen Zugriff hat, wartet, mietet teuer oder baut kleiner.
Das ist die sichtbare Geschichte: knappe Chips, steigende Preise, Nvidia als Taktgeber. Die unbequemere Geschichte lautet anders. Ein großer Teil dieser teuren Infrastruktur wird offenbar erschreckend schlecht genutzt. Laut dem Cast AI 2026 State of Kubernetes Optimization Report liegt die durchschnittliche Auslastung von GPUs in Produktionsclustern bei nur fünf Prozent. Fünf Prozent. In einem Markt, in dem über Lieferengpässe, Exportkontrollen, Milliardenbestellungen und Kartelluntersuchungen diskutiert wird, ist das keine technische Fußnote. Es ist ein Hinweis darauf, dass die KI-Ökonomie nicht nur ein Beschaffungsproblem hat. Sie hat ein Betriebsproblem.
Knappheit allein erklärt zu wenig
Natürlich ist die Angebotsseite angespannt. Marktexperten rechnen damit, dass sich Angebot und Nachfrage bei GPU-Fertigungskapazitäten erst ab 2027 oder 2028 angleichen. Gleichzeitig steigen die Kosten in angrenzenden Komponenten. SSD-Speicher verteuerte sich um 178 Prozent, Arbeitsspeicher um 142 Prozent. Die Vertragspreise für Arbeitsspeicher stiegen im ersten Quartal 2026 um bis zu 95 Prozent. AMD erhöhte im Juni 2026 Grafikkartenpreise um bis zu 15 Prozent und verwies auf verdreifachte GDDR6-Speicherkosten.
Auch der Consumer-Markt bekommt die Verlagerung zu spüren. Eine Nvidia GeForce RTX 5090 erreichte im Juli 2026 Spitzenwerte von knapp 5.000 Euro, nachdem sie im Juli 2025 noch stabil bei 2.499 Euro lag. Das ist nicht bloß ärgerlich für Spieler oder Workstation-Nutzer. Es zeigt, wie stark der KI-Sektor die Preislogik im gesamten Hardwaremarkt verzerrt.
Aber Knappheit ist nur die halbe Erklärung. Wenn Chips knapp sind und zugleich Cluster im Durchschnitt kaum ausgelastet werden, dann ist das Problem nicht nur, dass zu wenig Hardware existiert. Es ist auch, dass vorhandene Hardware schlecht geplant, schlecht geteilt oder falsch priorisiert wird.
Die GPU als Vorratskammer
Viele Unternehmen behandeln GPUs inzwischen wie strategische Rohstoffe. Man kauft oder reserviert Kapazität nicht nur für den aktuellen Bedarf, sondern aus Angst vor späterer Nichtverfügbarkeit. Das ist verständlich. Es ist aber auch teuer und ineffizient.
Die Logik ähnelt einer überfüllten Lagerhalle: Alle wissen, dass die Ware knapp ist, also bestellt jeder mehr, als er sofort braucht. Dadurch wird die Ware noch knapper. Wer Kapital hat, gewinnt. Wer genau kalkulieren muss, verliert. Besonders hart trifft das kleinere KI-Start-ups, Forschungseinrichtungen und mittelständische Unternehmen, die nicht mit Hyperscalern oder finanzstarken Neocloud-Anbietern um ganze Kontingente konkurrieren können.
Der Kauf von 555.000 GPUs für xAIs Anlage „Colossus“ zu etwa 18 Milliarden US-Dollar verdeutlicht die Größenordnung. Das entspricht durchschnittlich rund 32.400 US-Dollar pro GPU. Solche Zahlen verschieben den Maßstab. Sie machen aus Rechenhardware eine Anlageklasse, aus Rechenzentren Finanzierungsvehikel und aus Verfügbarkeit eine Eintrittsbarriere.
Nvidia verkauft nicht nur Chips
Nvidia profitiert von dieser Lage in einer Weise, die über hohe Stückpreise hinausgeht. Die Stärke des Unternehmens liegt nicht allein in der Hardware, sondern im CUDA-Ökosystem, in Software, Bibliotheken, Entwicklergewohnheiten und der Vertrautheit ganzer Teams mit einem bestimmten Stack. Diese Bindung ist technisch erklärbar, wirtschaftlich aber hochwirksam.
Dass US-Wettbewerbsbehörden im Juli 2026 eine Kartelluntersuchung gegen Nvidia einleiteten, passt in diese Lage. Es geht nicht nur um Marktanteile auf einem Datenblatt. Es geht um die Frage, ob ein Anbieter in einem zentralen Teil der KI-Infrastruktur so viel Kontrolle bündelt, dass Alternativen praktisch schwerer werden, selbst wenn sie theoretisch existieren.
Gleichzeitig ist Nvidia nicht allmächtig. Rund 90 Prozent der Produktionskosten entfallen auf asiatische Komponenten und Montage, nach 65 Prozent in früheren Zyklen. Das Unternehmen ist also selbst Teil einer Lieferkette, die sich politisch und industriell kaum schnell entflechten lässt. Die GPU wirkt wie ein Objekt der Kontrolle, ist aber selbst abhängig von Foundries, Speicherpreisen, Packaging, Logistik und geopolitischer Stabilität.
Deutschland mietet seine KI-Basis
Für Deutschland ist die Lage besonders nüchtern. Rund 80 bis 90 Prozent der KI-Recheninfrastruktur hierzulande, insbesondere GPU-Cluster, entfallen auf US-Hyperscaler wie AWS, Microsoft Azure und Google Cloud. Das bedeutet nicht automatisch Kontrollverlust in jedem einzelnen Projekt. Es bedeutet aber, dass der operative Unterbau vieler KI-Vorhaben nicht im eigenen Einflussbereich liegt.
Wer KI nur als Modellfrage betrachtet, übersieht diese Ebene. Entscheidend ist nicht allein, wer den besten Algorithmus schreibt. Entscheidend ist, wer ihn zuverlässig, bezahlbar und skalierbar betreiben kann. Wenn Kapazität über US-Clouds läuft, wenn Beschleuniger von wenigen Herstellern kommen und wenn die effizienteste Softwareumgebung an einen dominanten Anbieter gebunden ist, dann wird digitale Souveränität sehr konkret: Sie steht in Serverschränken, Verträgen und Auslastungsquoten.
Die Gegenbewegung läuft längst. Hyperscaler entwickeln eigene KI-Chips, etwa spezialisierte Beschleuniger für Training und Inferenz. Auch offene Standards und alternative Hardware gewinnen in der Beschaffungsstrategie an Gewicht. Nicht aus Idealismus, sondern weil Abhängigkeit teuer wird. DeepSeek hat zusätzlich gezeigt, dass nicht jedes KI-Projekt die teuersten H100-Klassen benötigt und dass generalüberholte A100-, V100- oder H800-GPUs für bestimmte Zwecke ausreichen können. Das ist kein Ende der GPU-Knappheit, aber ein Angriff auf die Gewohnheit, jedes Problem mit der teuersten Karte zu beantworten.
Die unangenehme Frage: Wer optimiert den Betrieb?
Die Branche redet gern über neue Chips. Weniger gern redet sie über Scheduler, Belegungsquoten, Kubernetes-Konfigurationen, Speicherflaschenhälse, Datenpipelines und die schlichte Frage, ob ein Cluster wirklich läuft oder nur teuer herumsteht. Genau dort liegt aber ein Teil der Antwort.
Wenn GPU-Auslastung in Produktionsumgebungen im Schnitt bei fünf Prozent liegt, muss man nicht zuerst auf die nächste Fertigungsgeneration warten. Man muss fragen, warum vorhandene Kapazität nicht besser genutzt wird. Liegt es an schlecht gebündelten Workloads? An Teams, die Kapazität reservieren und nicht freigeben? An Software, die GPU-Zeit verschwendet? An Organisationsstrukturen, in denen jeder Bereich seine eigene kleine Festung baut?
Das klingt weniger glamourös als ein neues Chipdesign. Es ist aber vermutlich schneller wirksam. Bessere Auslastung senkt Kosten, reduziert Druck auf Beschaffung und macht kleinere Akteure weniger abhängig von kurzfristigen Cloud-Preisen. Sie löst nicht das Problem der Marktkonzentration. Aber sie nimmt ihm einen Teil der Schärfe.
Die Angst ist berechtigt, aber falsch adressiert
Man kann vor der großen GPU Angst haben: vor Nvidia-Dominanz, vor asiatischen Lieferkettenrisiken, vor Preisen, die ganze Projekte unfinanzierbar machen, vor Hyperscalern als Torwächtern der KI-Infrastruktur. Diese Angst ist nicht irrational.
Aber sie wird zu oft als reine Angebotsfrage behandelt. Mehr Chips, mehr Fabriken, mehr Kapazität. Das wird gebraucht. Nur reicht es nicht. Solange Unternehmen knappe Beschleuniger wie Trophäen horten und gleichzeitig schlecht auslasten, bleibt der Markt künstlich enger, als er sein müsste.
Die GPU-Krise ist deshalb auch ein Test für operative Reife. Wer KI ernst nimmt, muss nicht nur GPUs bekommen. Er muss sie nutzen können. Alles andere ist teure Pose im Maschinenraum.
