Der knappste Rohstoff der KI-Ökonomie ist in vielen Unternehmen offenbar nicht mehr der Chip. Es ist die Fähigkeit, ihn sinnvoll auszulasten.
In drei monatlichen VentureBeat-Pulse-Umfragen von Juli bis September gaben 79 Prozent der 218 Befragten, die Angaben zur GPU-Auslastung machten, an, dass ihre GPUs mindestens die Hälfte der Zeit untätig sind. Gleichzeitig planen 70 Prozent dieser Unternehmen innerhalb der nächsten zwölf Monate eine neue, zusätzliche oder ersetzende KI-Compute-Plattform.
Diese Kombination ist bemerkenswert, weil sie die gängige Erzählung vom permanenten GPU-Mangel verschiebt. Es gibt weiterhin reale Nachfrage nach Rechenleistung, vor allem bei großen Modellanbietern und Cloud-Betreibern. Aber in vielen Unternehmen entsteht ein anderes Bild: Kapazität wird beschafft, bevor klar ist, wer sie nutzt, wie sie gemessen wird und welche Plattformschicht darüber Kontrolle bekommt.
Die Zahlen aus den Umfragen sind kein vollständiger Marktspiegel. 218 Antworten sind begrenzt, und Selbstangaben zur Auslastung ersetzen kein Telemetriesystem. Trotzdem passen sie zu einem breiteren Befund: Laut Cast AI liegt die durchschnittliche GPU-Auslastung in zehntausenden Produktions-Kubernetes-Clustern über AWS, Azure und Google Cloud hinweg bei nur 5 Prozent. McKinsey kam in einer Analyse zu dem Ergebnis, dass 40 bis 60 Prozent der KI-Compute-Leistung durch überdimensionierte Modelle, redundante Inferenzaufrufe, ungenutzte GPU-Kapazität und ineffiziente Pipelines verloren gehen können.
Das ist kein Randproblem. Einer Gartner-Schätzung zufolge könnten die weltweiten Ausgaben für KI-Infrastruktur im Jahr 2026 bei 401 Milliarden US-Dollar liegen. Wenn ein relevanter Teil dieser Ausgaben in Cluster fließt, die selten unter Last laufen, wird die Frage nach der Plattformstrategie konkreter: Wer entscheidet, welche Workloads auf welche GPUs kommen? Wer sieht die Kosten pro Inferenz? Wer kann Teams davon abhalten, Kapazität zu reservieren, die später nicht genutzt wird?
Viele Unternehmen haben KI-Compute bisher wie eine strategische Vorratsposition behandelt. GPUs galten als schwer verfügbar, also wurden sie gesichert. Das ist aus Beschaffungssicht nachvollziehbar. Operativ entsteht daraus aber eine Schieflage: Die Hardware ist da, doch die internen Prozesse, Abrechnungsmodelle, Scheduling-Regeln und Produktfälle sind nicht gleich weit.
Der auffällige Teil der VentureBeat-Daten ist nicht nur der Leerlauf. Es ist die Kaufabsicht danach. Wenn 70 Prozent der Unternehmen mit schlecht ausgelasteten GPUs trotzdem neue KI-Compute-Plattformen planen, zeigt sich ein typisches Plattformmuster: Das Problem wird an die nächste Ebene delegiert.
Eine neue Plattform kann helfen, wenn sie Workloads bündelt, Prioritäten setzt, Kosten sichtbar macht und Teams zwingt, Ressourcen nach tatsächlicher Nutzung zu buchen. Sie kann aber auch zur nächsten Schicht ungenutzter Kapazität werden, wenn sie lediglich zusätzliche Infrastruktur neben bestehende Cluster stellt.
Hier verschiebt sich Kontrolle. Solange einzelne Teams GPUs direkt reservieren oder Cluster projektweise aufbauen, bleibt die Nutzung fragmentiert. Eine zentrale KI-Plattform verspricht dagegen Kontrolle über Scheduling, Modellzugriff, Datenpfade, Kostenstellen und Sicherheitsregeln. Das kann Effizienz schaffen. Es kann aber auch Entwickler abhängiger von internen Plattformteams oder externen Cloud-Anbietern machen.
Die entscheidende Frage ist deshalb nicht, ob ein Unternehmen „eine KI-Plattform“ hat. Entscheidend ist, ob diese Plattform die operative Kontrolle über Compute wirklich zusammenführt. Ohne diese Kontrolle bleibt sie Beschaffungsarchitektur mit besserem Namen.
Dass GPU-Unterauslastung kein Naturgesetz ist, zeigt das Gegenbeispiel Oracle. Laut damaligen Berichten nannte Oracle im September 2026 eine GPU-Auslastungsrate von 97,9 Prozent für seine Cloud-Dienste. Diese Zahl steht deutlich gegen das Bild brachliegender Unternehmenscluster.
Der Unterschied liegt weniger im Chip als im Betriebsmodell. Ein Cloud-Anbieter kann Nachfrage aus vielen Kunden, Regionen und Workloads bündeln. Er kann Preise, Verträge, Kapazitätsplanung und technische Orchestrierung zentral steuern. Ein einzelnes Unternehmen mit internen KI-Projekten hat diese Mischung oft nicht. Dort hängen GPUs an Budgetzyklen, Pilotprojekten, Sicherheitsfreigaben und Produktteams, die ihre Nutzung nur langsam hochfahren.
Das ist der Punkt, an dem Plattformstrategie ökonomisch wird. Wer die Nachfrage aggregiert, kann Auslastung optimieren. Wer nur Kapazität besitzt, trägt Fixkosten. Für Hyperscaler und spezialisierte Cloud-Anbieter ist das ein Vorteil: Sie verkaufen Zugang, Reservierungen und Verfügbarkeit. Ob der einzelne Unternehmenskunde seine gebuchte Kapazität produktiv nutzt, ist nicht immer ihr Problem.
Für Unternehmen wird daraus eine unangenehme Kontrollfrage. Eigene GPUs versprechen Unabhängigkeit, Datenschutzkontrolle und planbare Verfügbarkeit. Cloud-Modelle versprechen Elastizität und bessere Auslastung. Beides hat seinen Preis. Die schlechteste Variante ist eine hybride Zwischenlage, in der eigene Cluster leer laufen und zusätzlich Cloud-Kapazität gebucht wird, weil interne Plattformen zu langsam, zu fragmentiert oder zu schwer nutzbar sind.
Der nächste Druckpunkt liegt nicht im Training großer Modelle, sondern im laufenden Betrieb. Wenn KI-Anwendungen in Produktion gehen, entstehen wiederkehrende Kosten: Prompts, Antworten, Suche, Reranking, Agenten-Schritte, Monitoring, Sicherheitsprüfungen. Analystenschätzungen zufolge entfallen bei Teams, die KI produktiv betreiben, 70 bis 80 Prozent der GPU-Cloud-Ausgaben auf Inferenz.
Das verändert die Metrik. Die Frage lautet nicht mehr nur, wie viele GPUs ein Unternehmen besitzt oder reserviert hat. Relevant werden Kosten pro Anfrage, Latenz, Modellgröße, Auslastung, Wiederverwendung von Ergebnissen und die Zahl unnötiger Modellaufrufe. Ein überdimensioniertes Modell in einer schlecht gesteuerten Pipeline kann dieselbe Plattformrechnung sprengen wie ein leerer Cluster.
Nur 10 Prozent der in einer VentureBeat-Umfrage befragten Unternehmen verfügen über einen finanzgeprüften Return on Investment für ihre bestehende KI-Infrastruktur. Das bedeutet nicht, dass 90 Prozent keinen Nutzen erzielen. Es bedeutet aber, dass die Verbindung zwischen Investition, Nutzung und Ergebnis vielerorts noch nicht belastbar gemessen wird.
Genau dort entsteht der Markt für die nächste Kontrollschicht: GPU-Orchestrierung, Kostenmanagement, Workload-Optimierung, Modell-Routing, interne Abrechnung, automatisches Abschalten ungenutzter Ressourcen. Diese Werkzeuge sind weniger sichtbar als neue Modelle oder Chips. Für die Wirtschaftlichkeit von KI-Plattformen können sie wichtiger sein.
Ken Griffin, CEO von Citadel, hat die Welt nach vorliegenden Berichten als „fast sicher“ in einer KI-Blase beschrieben und Parallelen zur Telekommunikationsbranche um das Jahr 2000 gezogen. Der Vergleich ist naheliegend, aber er erklärt nicht alles. Damals wie heute kann gleichzeitig zu viel Kapital in falsche Strukturen fließen und langfristig nützliche Infrastruktur entstehen.
Bei KI-Compute ist der Markt bereits gespalten. Auf der einen Seite stehen Anbieter mit hoher realer Nachfrage, großen Kundenverträgen und eng gesteuerter Auslastung. Auf der anderen Seite stehen Unternehmen, die aus Angst vor Knappheit Kapazität sichern, bevor ihre Anwendungen, Datenprozesse und Governance reif genug sind.
Die Blase sitzt deshalb nicht nur in Bewertungen oder Aktienkursen. Sie sitzt in internen Plattformentscheidungen: in Clustern ohne klare Zuständigkeit, in Budgets ohne Nutzungsdisziplin, in Projekten ohne geprüften ROI und in der Annahme, dass die nächste Plattform automatisch Ordnung schafft.
Der harte Teil beginnt nach dem Kauf. Unternehmen müssen entscheiden, ob KI-Compute wie allgemeine IT-Kapazität verwaltet wird oder wie eine knappe Produktionsressource mit Messung, Priorisierung und Abrechnung. Wer diese Kontrolle nicht aufbaut, kauft Infrastruktur und verschenkt den Hebel. Wer sie aufbaut, verschiebt Macht nach innen: weg von einzelnen Projektteams, hin zu Plattform-, FinOps- und Architekturgruppen.
Das ist weniger spektakulär als neue Modellankündigungen. Aber es dürfte darüber entscheiden, ob die nächste Welle von KI-Ausgaben produktive Infrastruktur schafft oder nur weitere leere Racks mit besseren Namen.
Kategorie
KI
Künstliche Intelligenz, große Sprachmodelle, Bildgeneratoren und was sie wirklich können – und was nicht.
