Wenn Vernunft zu einer knappen Ressource wird, wer sichert sich dann ihren Wert?

Autor: Frank Fu, IOSG

Die von David Cahn im Jahr 2023 vorgeschlagene „Lücke“ wurde im Trainingsbereich nie geschlossen. Im Bereich der Inferenz hingegen schon, und der Markt hat erst in den letzten Wochen begonnen, dies in der Preisgestaltung zu berücksichtigen. Als Nvidia seine Finanzberichterstattung auf „Service-Token“ umstellte und Cerebras mit einer 20-fachen Überzeichnung an die Börse ging, war die Debatte um den Flaschenhals bereits beendet, und die eigentliche Frage lautete: Wo konzentriert sich der Wert im Computing-Stack, wenn Inferenz zu einer knappen Ressource wird?

1. Der GPU folgen: Von der 200-Milliarden-Dollar-Frage zur 600-Milliarden-Dollar-Frage

2023 warf David Cahn von Sequoia die Frage auf, die über der gesamten KI-Infrastruktur schwebt: die sogenannte „200-Milliarden-Dollar-Frage“. Für jeden Dollar, der in GPUs investiert wird, muss etwa ein weiterer Dollar für deren Betrieb in Rechenzentren ausgegeben werden. Das bedeutet, dass die jährlichen Investitionsausgaben für GPUs letztendlich einen Umsatz von rund 200 Milliarden Dollar generieren müssen, um die Investitionen wieder hereinzuholen. Selbst bei sehr großzügigen Annahmen zum KI-Umsatz stellte er eine Lücke von über 125 Milliarden Dollar zwischen „Investitionen“ und „tatsächlichen Zahlungen von Endkunden“ fest. Die Befürchtung ist offensichtlich: GPUs werden im Verhältnis zur tatsächlichen Nachfrage überproportional produziert.

Ein Jahr später hatte sich die Kluft nicht nur nicht verringert, sondern sogar noch vergrößert. In seiner Folgestudie von 2024 bezeichnete Cahn sie angesichts der explodierenden Investitionsausgaben der Hyperscale-Anbieter als die „600-Milliarden-Dollar-Frage“. Die pessimistische Logik lief auf ein bekanntes Muster hinaus: Überkapazitäten führen zu einem Überangebot, und ein Überangebot verbrennt Kapital.

Beide Artikel stellen im Wesentlichen dieselbe Frage: Wer wird diese Lücke füllen? Die Antwort darauf findet sich bisher nicht im Bereich der praktischen Ausbildung. Sie zeigt sich erst in den Schlussfolgerungen, und der Markt hat erst in den letzten Wochen begonnen, dies bei der Preisgestaltung zu berücksichtigen.

2. Cerebras IPO und Inferenz-Squeeze

Cerebras ging am Donnerstag an die Börse. Der Börsengang war 20-fach überzeichnet, der Ausgabepreis lag fast doppelt so hoch wie die letzte Erhöhung am Mittwoch. Die hohe Nachfrage resultierte nicht aus der Wette auf den „nächsten Nvidia-Killer“, sondern aus einer einfacheren Erkenntnis: Der Markt beginnt zu verstehen, dass der eigentliche Flaschenhals bei KI die Inferenz und nicht das Training ist.

Cerebras' Spezialität ist eine Chiparchitektur, die extrem schnelle Inferenz ermöglicht. Es geht nicht um Training, sondern um Inferenz. Genau das begeistert die Wall Street. Der Markt für Inferenz ist stetig und wächst mit der Nutzung. Jedes Mal, wenn Claude eine Frage beantwortet oder ein Agent eine Aufgabe ausführt, wird Rechenleistung benötigt. Training findet einmalig statt, Inferenz hingegen kontinuierlich.

JP Morgan schätzt den Markt für Inferenz auf das 10- bis 50-fache des Trainingsmarktes. Sobald Maschinen Aufgaben ausführen, die ihnen von anderen Maschinen zugewiesen werden (agentische Expansion), wächst die Nachfrage nach Inferenz nicht mehr mit der Anzahl der Nutzer, sondern mit der Rechenleistung selbst.

3. Nvidia gestaltet die Landschaft neu: Inferenz rückt in den Mittelpunkt

Wenn Cerebras den Durchbruch des Marktes markiert, dann bestätigt Nvidias jüngster Quartalsbericht dies von der Spitze der Lieferkette. Im letzten Earnings Call brachte Jensen Huang die unausgesprochene Wahrheit auf den Punkt: Die Nachfrage nach KI wächst exponentiell. Der Grund ist einfach: Agentische KI ist Realität geworden. Mainstream-KI hat den Übergang von einmaligen Schlussfolgerungen zu logischem Denken und nun zur Agentenphase vollzogen, in der sie selbstständig Tools aufrufen und Aufgaben orchestrieren kann. Huang erklärte: „Token sind jetzt profitabel.“ Im KI-Zeitalter entspricht Rechenleistung Umsatz und Gewinn.

Dies verändert die gesamte Branche. Das Training verursacht einmalige Kosten für die Erstellung eines Modells, während die Inferenz die wiederkehrenden Kosten für dessen Betrieb darstellt. Der aktuelle Engpass liegt bei der Inferenz, nicht beim Training.

Nvidia hat diese Entscheidung in seine Finanzberichterstattung integriert. Die Ergebnisse werden nun für zwei Plattformen anstatt nur einer ausgewiesen: Rechenzentrum und Edge Computing. Das Rechenzentrum (ca. 75 Milliarden US-Dollar in diesem Quartal, +92 % im Vergleich zum Vorjahr) gliedert sich weiter in Hyperscale (ca. 38 Milliarden US-Dollar, +12 % im Vergleich zum Vorquartal) und ACIE, das KI-Cloud, Industrie und Unternehmen umfasst (ca. 37 Milliarden US-Dollar, +31 % im Vergleich zum Vorquartal). Neu hinzugekommen ist Edge Computing: 6,4 Milliarden US-Dollar, +29 % im Vergleich zum Vorjahr. Dieser Bereich umfasst die Endgeräte, an denen agentenbasierte und physische KI tatsächlich zum Einsatz kommen, wie beispielsweise PCs, Workstations, KI-RAN-Basisstationen, Roboter und Fahrzeuge.

Edge-Computing macht derzeit weniger als 8 % des Gesamtumsatzes aus, doch Nvidia hat es neben Data Center zu einer „zweiten Plattform“ erhoben. Dies deutet darauf hin, dass sich Inferenz in zwei Bereiche aufspaltet: Cloud-Inferenz in Rechenzentren und Endpoint-Inferenz am Edge, wo KI in der physischen Welt sehen, sich bewegen und handeln muss. Die Roadmap folgt dieser Logik: Vera Rubin, dessen Auslieferung im dritten Quartal beginnt, erreicht einen bis zu 35-mal höheren Inferenz-Durchsatz als Blackwell. Huang bezifferte zudem den gesamten adressierbaren Markt (TAM) für die Vera-CPU, die für agentenbasierte Workloads entwickelt wurde, auf 200 Milliarden US-Dollar. Es wird erwartet, dass alle führenden Unternehmen von Anfang an vollständig auf diese Technologie umsteigen werden.

Da das wertvollste Unternehmen der Welt seine Finanzberichterstattung auf „Service-Token“ umstellt, ist die Debatte um den Flaschenhals bereits beigelegt. Im Folgenden wird erörtert, wer den Wert generiert, wenn Schlussfolgerungen (und nicht etwa Training) zu einer knappen Ressource werden.

Zunächst eine Klarstellung des Themenbereichs. Dieser Artikel behandelt Cloud-Inferenz, also die Nutzung gemieteter GPUs in Rechenzentren zur Bereitstellung von API-Token-Diensten. Endpoint-Inferenz hingegen läuft auf lokalen Chips in den Geräten selbst (Nvidias Jetson, RTX, Drive, AI-RAN) und umgeht so vollständig die darunterliegende GPU-Miete und Aggregation. Betrachten Sie dies hier als einen positiven Faktor für die gesamte Inferenzwirtschaft und als Argument für einen Flaschenhals, nicht als Fokus auf die Märkte, in denen Hyperbolic und Venice tätig sind, die ausschließlich im Cloud-Bereich angesiedelt sind.

4. Der Druck hat begonnen

Anthropic ist der Frühwarnindikator. Die Auslastung übersteigt die vorkonfigurierte Kapazität bei Weitem, und Beschwerden über die angebliche Überlastung von Claude häufen sich im Internet. Dazu gehören gedrosselte Reaktionszeiten, verlangsamte Inferenz und komprimierte Kontextfenster. Die Lösung liegt in der Rechenleistung: Im Mai 2026 übernahm Anthropic das gesamte Rechenzentrum Colossus 1 von SpaceX mit über 220.000 Nvidia-GPUs und mehr als 300 Megawatt Leistung und widmet es ausschließlich der Inferenz anstatt dem Training.

Diese Kapazität ermöglicht eine Reihe von Kontingentänderungen, die jeweils als Signal dienen. Am 6. Mai verdoppelte Anthropic das Fünf-Stunden-Limit für Claude Code, hob die Drosselung während der Spitzenzeiten auf und erhöhte die API-Ratenbegrenzungen für Opus deutlich. Am 13. Mai wurde das Wochenlimit für Claude Code um weitere 50 % angehoben (bis zum 13. Juli). Ab dem 15. Juni tat Anthropic dann das Gegenteil von „großzügig“: Die agentenbasierte und programmatische Nutzung (Agent SDK, Headless-Modus „claude -p“, CI-Pipeline) wurde vom Pauschalabonnement in einen separat abgerechneten Guthabenpool (zwischen 20 und 200 US-Dollar pro Monat, abgerechnet zu API-Tarifen) ausgelagert. Dieser letzte Schritt verdichtete die gesamte Argumentation auf eine einzige Maßnahme: Die Geschwindigkeit, mit der Agenten Inferenzdaten verarbeiten, übersteigt die Kapazität von Pauschalabonnements bei Weitem, daher muss sie entsprechend ihren ursprünglichen „wiederkehrenden Kosten“ abgerechnet werden.

Schulungen stellen eine einmalige Investitionsausgabe dar. Die Auswertung hingegen verursacht laufende Betriebskosten, die sich mit jedem neuen Benutzer und jedem neuen Agenten erhöhen.

5. Dieser Stapel: Sechs Schichten, ein Flaschenhals

Jede KI-Anwendung ist in eine Lieferkette eingebunden, die mit der Waferfertigung von TSMC beginnt und am API-Endpunkt endet:

Die meisten Unternehmen besitzen nur eine Ebene dieses Technologie-Stacks. Nvidia besitzt die Silizium-Komponenten, CoreWeave die Hardware-Hardware, Together AI die Inferenzoptimierung und OpenRouter das Routing über die Modell-API.

Es gibt nur eine Ausnahme.

6. Hyperbolic: Das einzige Unternehmen, das sich über drei Ebenen erstreckt

Hyperbolic brachte seinen On-Demand-GPU-Marktplatz im Juni 2025 auf den Markt. In den ersten Monaten überstieg die Zahl der Entwickler 200.000+, darunter hochmoderne KI-Labore, Suchmaschinen und große Verbraucherplattformen.

Interessant ist vor allem die Architektur.

Hyperbolic besitzt keine eigene GPU. Alle Grafikkarten stammen von Neocloud-Anbietern und Rechenzentren, darunter CoreWeave, Lambda Labs, Nebius und kleinere Betreiber mit freien Kapazitäten. Das mag wie eine Schwäche klingen, ist aber in Wirklichkeit ein Wettbewerbsvorteil.

Durch die Vermittlung zwischen GPU-Anbietern und -Kunden erhält Hyperbolic Echtzeitdaten, die anderen verborgen bleiben. Das Unternehmen weiß, wer welche GPU zu welchem Preis und wann kauft. Es erkennt Überkapazitäten, bevor diese öffentlich werden, und identifiziert Nachfragespitzen, bevor sie den Markt erreichen.

Heute liegt der eigentliche Wettbewerbsvorteil in dieser Multi-Cloud-Aggregation. Hyperbolic bündelt fragmentierte Kapazitäten aus Dutzenden unabhängiger Clouds und Rechenzentren zu einem standardisierten, einheitlichen Pool. So können Entwickler die günstigsten verfügbaren GPUs mieten, ohne mit jedem einzelnen Betreiber verhandeln oder unzählige Konten verwalten zu müssen. Je mehr Clouds angebunden sind, desto höher ist die Liquidität und desto umfangreicher sind die Preisdaten. Darüber hinaus untersucht das Team, wie sich GPU-Preiskurven mithilfe dieser Daten modellieren lassen und letztendlich eigenes Kapital investieren kann, um Angebot und Nachfrage auszugleichen und als Market Maker für physische Rechenleistung zu agieren. Dieses Ziel befindet sich jedoch noch in der Anfangsphase, und die Aggregationsebene ist derzeit der entscheidende Faktor.

Dies ist das Schwungrad:

Mehr Clouds verbinden → Aggregiertes Angebot

Mehr Angebot → Tiefere Märkte und Echtzeit-Preisdaten

Bessere Daten → Intelligenteres Routing jetzt und langfristige Preismodelle

Bessere Liquidität und Preise → Mehr Entwickler → Mehr Cloud-Anbieter wollen sich verbinden

Kein anderes Unternehmen versucht dies. Hyperbolic ist das einzige Unternehmen, das die GPU-Leasing-Ebene, die Bereitstellungsebene und die Modell-API-Ebene abdeckt.

7. Venedig als Spiegel

Venice ist das deutlichste Beispiel für die Inferenzökonomie auf Anwendungsebene und bildet einen hilfreichen Kontrast zu Hyperbolics Position. Es handelt sich um eine datenschutzorientierte Inferenzanwendung: Ein Satz OpenAI-kompatibler APIs sowie Abonnements für Endkunden (Free/Pro/Pro+/Max) leiten Anfragen an etwa 75 Modelle weiter. Zwei Drittel davon sind Open-Source- oder selbstgehostete Modelle (Llama, Mistral, Qwen, DeepSeek), während die restlichen anonyme Weiterleitungen von proprietären, hochmodernen Modellen darstellen. Der entscheidende Punkt ist, dass Venice keine nennenswerte Rechenleistung besitzt. Es mietet GPUs von nicht offengelegten Partnern und Anbietern vertraulicher Rechenleistung (NEAR AI Cloud, Phala) und bezahlt Spitzenforschungslabore für die Weiterleitung von Anfragen. Die tatsächlichen Umsatzkosten bestehen daher aus der Rechenleistung für die Inferenz, nicht aus dem SaaS-Hosting.

Was Venice im Kern verkauft, ist Datenschutz. Die „Privatisierung“ bedeutet hier nicht, öffentliche Rechenleistung in Privateigentum zu verwandeln, sondern vielmehr, standardisierte Inferenzprozesse mit einer Schicht von Garantien zu umhüllen: keine Datenspeicherung, kein Training, Anonymisierung von Anfragen und die Ausführung bestimmter Workloads in einer TEE (Technical Environment), wodurch es für die Bediener unmöglich ist, Klartext einzusehen. Die zugrundeliegende Rechenleistung ist Standard, der Mehrwert ergibt sich aus dieser Datenschutzschicht. Darüber hinaus ist diese Garantie mehrschichtig und nicht homogen: Für Open-Source-Modelle, die auf GPUs unter ihrer Kontrolle oder in einer TEE laufen, kann nahezu durchgängig vertrauliches Rechnen erreicht werden; bei anonymen Durchleitungen von proprietären Modellen wie Claude und GPT entfernt der Datenschutz lediglich die Identität, während die hochmodernen Labore am anderen Ende weiterhin Ihre ursprüngliche Anfrage verarbeiten. Somit deckt der stärkste Datenschutz nur den Open-Source-Teil ab, während der Teil mit den hochmodernen Modellen eher „anonym“ als „wirklich vertraulich“ ist. Der Bruttogewinn von Venice entspricht dem Abonnementpreis abzüglich der nachgelagerten Inferenzkosten. Der Teil, den Venice über den reinen API-Preis hinaus verlangen kann, basiert fast ausschließlich auf dieser zusätzlichen Datenschutzebene. Deshalb arbeitet Venice mit geringen Gewinnmargen und ist durch innovative Passthrough-Preisgestaltung eingeschränkt.

Das Token-Design deckt diesen Teil der Inferenznachfrage ab. Venice arbeitet mit zwei Token: VVV (Staking und Plattformzugang) und DIEM. Letzterer stellt ein Inferenzguthaben dar, wobei ein DIEM etwa 1 US-Dollar Rechenleistung pro Tag entspricht. Bezahlte Abonnements lösen programmatische Rückkäufe von VVV aus (Pro/Pro+/Max ca. 2 US-Dollar/5 US-Dollar/10 US-Dollar). Die Emissionen sinken nach einem festen Zeitplan: von 6 Mio. → 5 Mio. → 4 Mio. VVV pro Monat und werden am 1. Juli auf 3 Mio. reduziert. Die Rückkäufe sind real, aber diskretionär und noch gering: Im April und Mai wurden jeweils etwa 103.000 US-Dollar vernichtet, und im Juni steigt der Wert langsam auf etwa 110.000 US-Dollar, weit unter der monatlichen Grenze von 200.000 US-Dollar.

Die Fundamentaldaten sind solider als die Schlagzeilen vermuten lassen. Die öffentlich kursierende Zahl von „70 Millionen US-Dollar ARR“ beruht mit ziemlicher Sicherheit auf einer Verwechslung von Abonnementverlängerungen mit Neukundengewinnung; ein realistischer Bereich liegt eher zwischen 6 und 15 Millionen US-Dollar ARR. Darunter ist das Wachstum deutlich: rund 136.000 eindeutige Wallet-Adressen, etwa 9,9 Millionen Website-Besuche pro Monat (rund 330.000 täglich) und rund 1.400 neue Pro-Abonnements pro Tag. Es handelt sich um ein reales, aber margenschwaches Geschäft, dessen Wirtschaftlichkeit durch die eingekaufte Rechenleistung begrenzt ist.

Genau deshalb ist Hyperbolic eine Ebene darüber positioniert. Wenn man Venedig mit einer Tankstelle vergleicht, ist Hyperbolic die Raffinerie. Venedig bezieht Rechenleistung aus demselben begrenzten Angebot, auf das alle angewiesen sind; Hyperbolic bündelt und standardisiert dieses fragmentierte Angebot und verkauft es an Venedig und alle anderen Akteure. Mit steigender Nachfrage nach Inferenz steigt der Wert nicht nur für die rechenleistungsintensiven Anwendungen, sondern auch für die Ebene, die Rechenleistung bündelt, weiterleitet und die von diesen Anwendungen gezahlten Umsatzkosten erfasst.

8. Warum das jetzt wichtig ist

Nvidia hat seine Finanzen auf „Service-Token“ umgestellt. Der Börsengang von Cerebras beweist, dass der Markt erkannt hat, dass Inferenz der Flaschenhals ist. Anthropics fieberhafte Suche nach Kapazitäten zeigt, dass dies ein reales Problem ist. Agentische und physische KI werden die Nachfrage um ein Vielfaches steigern und sowohl Cloud- als auch Edge-Computing-Bereiche umfassen.

Darüber hinaus hat es die „600-Milliarden-Dollar-Frage“ auch aus einer anderen Perspektive beleuchtet. Cahns pessimistische Argumentation, dass Überkapazitäten zu einem Überangebot führen, dürfte sich bewahrheiten. Doch genau dieses Überangebot ist das optimale Szenario für Asset-Light-Aggregatoren: Wenn die GPU-Preise sinken und sich das Angebot auf Dutzende von Cloud-Anbietern verteilt, profitiert der Anbieter, der keine eigene Hardware besitzt und alle Workloads auf die günstigsten verfügbaren Karten verteilt, von der Preisdifferenz, während Betreiber mit an Wert verlierenden GPUs die Verluste tragen. Hyperbolic setzt auf ein Überangebot, anstatt es zu shorten.

Das Unternehmen, das sich letztendlich durchsetzen wird, ist nicht das mit den meisten GPUs, sondern dasjenige, das Ihnen sagen kann, welche GPUs wo und zu welchem Preis verfügbar sind, und das jede Arbeitslast dorthin leitet, wo sie am kostengünstigsten ausgeführt werden kann.

Hyperbolic baut ein solches Unternehmen auf. Es besitzt keine GPUs, arbeitet ausschließlich mit Software, erstreckt sich über drei Schichten und entwickelt sich dennoch zur ultimativen Aggregationsschicht für Inferenzrechenleistung.