OpenAIs Custom-ASIC-Chip übertrifft Nvidia Blackwell in nur 9 Monaten?

Originalautor: Dong Jing

Originalquelle: Wallstreetcn

OpenAIs erster selbst entwickelter Chip, Jalapeño, ist auf den Markt gekommen und stellt die bestehende Landschaft der KI-Chipindustrie in atemberaubendem Tempo auf den Kopf – dies ist nicht nur eine Produkteinführung, sondern ein Signal: KI verändert die Art und Weise, wie Chips entworfen werden, grundlegend.

Laut einem Artikel von Wallstreetcn berichtete Bloomberg am 25. August, dass OpenAI erklärte, Jalapeño führe bei zwei Schlüsselkennzahlen vor Nvidias GB300: der pro Leistungseinheit verarbeiteten KI-Arbeitslast und der Reaktionsgeschwindigkeit. Der in Zusammenarbeit mit Broadcom entwickelte Chip ist speziell für die KI-Inferenzphase konzipiert und soll voraussichtlich bereits Ende dieses Jahres in den praktischen Einsatz gehen. Richard Ho, Leiter der Chipabteilung von OpenAI, sagte, Jalapeño liefere starke Leistung bei einem niedrigen Stromverbrauch von 700 Watt und helfe, die Stromkosten von Rechenzentren erheblich zu senken.

Laut dem Halbleiterforschungsunternehmen SemiAnalysis benötigte der Chip nur etwa 16 Monate vom Designbeginn bis zum Tape-out, wobei der kritische CoWoS-Verpackungs-Tape-out-Knoten im November 2025 abgeschlossen wurde – vor nur 9 Monaten, weit kürzer als der branchenübliche Zyklus von 18 bis 36 Monaten.

Forscher von SemiAnalysis besuchten das Labor von OpenAI persönlich und testeten Jalapeño mit ihrer proprietären Benchmark-Suite InferenceX. Das Fazit war direkt: Der Chip übertraf alle zuvor getesteten Chips von Nvidia, AMD und Google bei der Rechenleistung pro Watt (perf/W).

Noch bemerkenswerter ist, dass dieses Ergebnis erzielt wurde, ohne dass Jalapeño spekulative Dekodierung oder Prefill-Decode-Disaggregation (PDD) aktiviert hatte, während die anderen verglichenen Chips alle in ihren optimalen Konfigurationen liefen.

Kein Wunder, dass der renommierte Halbleiteranalyst Dylan Patel unverblümt erklärte: „Nicht nur Blackwell wurde gestürzt – sogar Nvidias Rubin wurde übertroffen“!

Analysten glauben, dass dieses Ergebnis eine direkte Herausforderung für Nvidias Marktposition darstellt und den Markt zwingt, die Wettbewerbslandschaft bei KI-Chips neu zu bewerten.

Benchmark-Daten: Jalapeño überrollt Blackwell bei mehreren Schlüsselkennzahlen

Die Testergebnisse von SemiAnalysis zeigen, dass Jalapeños Vorteil bei der Inferenzeffizienz erheblich ist.

Beim GPT-OSS-120B-Modell gibt Jalapeño etwa 1.459 Token pro Sekunde aus, während Nvidias GB200 nur 535 erreicht. Bei der End-to-End-Latenz erledigt Jalapeño eine Aufgabe in nur 1,65 Sekunden, während GB300 fast 6 Sekunden benötigt – ein Unterschied von 3,6x. In Szenarien mit hoher Interaktivität, wenn GB300 auf seine schnellste Decodiergeschwindigkeit (169 Token pro Sekunde) gebracht wird, ist Jalapeños Durchsatz 104,3-mal höher.

Bei Token pro Sekunde pro Megawatt – einer Kernkennzahl für die Energieeffizienz von Rechenzentren – erreicht Jalapeño etwa 53 Millionen Token/MW/s beim GPT-OSS-Modell, während GB200 NVL72 nur etwa 10 Millionen erreicht.

SemiAnalysis weist darauf hin, dass diese Kennzahl im Wesentlichen den pro Joule erzeugten Token entspricht und direkt die Umsatzobergrenze eines Rechenzentrums bestimmt – ein Vorteil, der in einer Zeit, in der Rechenleistung durch Strom begrenzt wird, besonders entscheidend ist.

Aus Sicht der Systemkosten betragen die Gesamtbetriebskosten (TCO) pro Chip und pro Stunde nach Berücksichtigung von Stromversorgung, Kühlung und Vernetzung laut SemiAnalysis etwa 1,56 US-Dollar, fast gleichauf mit den 1,55 US-Dollar des H100, während Nvidias Vera Rubin bei 3,61 US-Dollar liegt.

Es ist erwähnenswert, dass SemiAnalysis auch mehrere wichtige Vorbehalte anführte.

Erstens sind die in den Tests verwendeten Modelle nicht die derzeit modernsten. Nvidia und AMD haben Ergebnisse auf Basis der AgentX-Suite mit größeren Modellen (wie DeepSeek V4 Pro und Kimi K3) veröffentlicht, während Jalapeño die AgentX-Tests noch nicht abgeschlossen hat – eine Suite, die die Leistung in realen Produktionsszenarien mit mehrstufigen Dialogen und Langkontext-Workloads besser widerspiegelt.

Zweitens wäre ein fairerer Vergleich mit Nvidias Vera Rubin, das ebenfalls HBM4 verwendet, statt mit Blackwell. Vera Rubins Leistung pro Watt ist etwa 5,4-mal so hoch wie die des GB200 NVL72, und im Vergleich mit Jalapeño sind die beiden bei den Gesamtbetriebskosten (TCO) pro Token nahezu gleichauf.

Drittens befindet sich Jalapeño noch in der Engineering-Sample-Phase, und die Massenproduktion wird voraussichtlich erst bis 2027 schrittweise hochgefahren.

KI-entworfene Chips: Der Schwungrad-Effekt von GPT-Astra und Codex

Der Hauptgrund für die erstaunliche Entwicklungsgeschwindigkeit von Jalapeño ist die tiefe Einbindung von KI-Tools. Laut SemiAnalysis setzte OpenAI im Chipdesignprozess umfassend interne KI-Modelle ein, darunter das vielbeachtete GPT-Astra.

Der Social-Media-Nutzer Andrew Curran wies unter Berufung auf OpenAI-Informationen darauf hin, dass GPT-Astra während der gesamten Forschung und Entwicklung von Jalapeño tief eingebunden war:

„Das Team nutzte Codex und GPT-Astra, um drei Open-Source-Modelle, die ursprünglich nicht im Massenproduktionsplan von Jalapeño standen, innerhalb von zwei Monaten auf hohe Leistung zu bringen.“

Das bedeutet, dass KI nicht nur das Chipdesign selbst beschleunigt, sondern auch die Palette der vom Chip unterstützten Modelle rasch erweitert.

Die Daten von SemiAnalysis quantifizieren diesen Beitrag weiter:

KI-unterstütztes Design reduzierte die SIMD-Einheitsfläche um 8 % und die Matrixeinheit-Fläche um 10 %, während es bei Timing und Stromverbrauch die ursprüngliche Version übertraf.

Auf Softwareebene nutzte OpenAI eine intern erweiterte Version von Codex, um Jalapeño-Kernel zu schreiben, wobei einige Kernel-Codes etwa 3.000 Zeilen erreichten. Bei den leistungskritischsten Aufmerksamkeitsmechanismen und MoE-Modulen war der KI-generierte Code 1,5- bis 1,8-mal schneller als Implementierungen von Top-Ingenieuren.

Die Einschätzung von SemiAnalysis ist scharf: OpenAI-Modelle, die auf Nvidia-GPUs laufen (wie GPT-5.6 Sol), werden genutzt, um einen Chip zu entwerfen, der eine echte Bedrohung für den CUDA-Burggraben darstellt – „Nvidias eigene GPUs züchten in Echtzeit ihren potenziellen Nachfolger.“

Architekturanalyse: Warum ist „General Purpose“ schneller?

Außenstehende gingen allgemein davon aus, dass Jalapeño ein tief für OpenAIs eigene Modelle angepasster Chip sei, doch die Schlussfolgerung von SemiAnalysis ist das Gegenteil: Jalapeño ist ein Universalchip für KI-Inferenz, der verschiedene Modelle und Workloads ausführen kann, sogar das mit Codex portierte Spiel Doom.

Auf Architekturebene ist die Kernphilosophie von Jalapeño die „Beseitigung fester Latenz“. Anders als GPUs, die auf komplexe Speicherhierarchien angewiesen sind, bindet Jalapeño Rechenkerne direkt an HBM-Slices, wobei die Kerne über ein dediziertes Hochbandbreiten-Aggregationsnetzwerk synchronisiert werden, was die Speicherzugriffslatenz erheblich reduziert.

Darüber hinaus verwendet Jalapeño Kerne mit Out-of-Order-Ausführung (OoO) in Verbindung mit L1-Cache anstelle der bei anderen Beschleunigern üblichen softwareverwalteten Scratchpads, wodurch es in Szenarien mit kleinen Batches und niedriger Latenz nahe an die theoretischen Hardware-Spitzenwerte herankommt.

Beim Speicherdurchsatz setzt Jalapeño auf HBM4 und erreicht 15,4 TB/s Speicherbandbreite pro Package, mit einer HBM-Bandbreite pro Watt von 22, verglichen mit 11,1 bei Nvidia Rubin und nur 5,71 beim GB300.

SemiAnalysis merkt an, dass Jalapeños HBM4-Pin-Geschwindigkeit 10 Gbit/s erreicht, etwas höher als Nvidia Rubins 9,6 Gbit/s, und der HBM-Lieferant könnte Samsung sein.

Erwähnenswert ist, dass Jalapeño auf die Implementierung von Prefill-Decode-Entkopplung (PDD) verzichtet hat. SemiAnalysis lieferte eine detaillierte Erklärung:

In realen Produktionsumgebungen ändern sich Parameter wie Input-Output-Verhältnis, Parallelität und Cache-Trefferquote kontinuierlich. Festes Pooling führt zu geringerer globaler Auslastung, während ein homogener Ressourcenpool flexibel auf Verkehrsänderungen reagieren und dynamisch zwischen latenzempfindlichen Anfragen und Batch-Verarbeitung mit hohem Durchsatz aufteilen kann.

CUDA-Burggraben: Zeigen sich bereits Risse?

Der Bericht von SemiAnalysis fällt ein gewichtiges Urteil: Der CUDA-Burggraben könnte bereits tot sein.

Die Grundlage liegt im Vergleich der Software-Reifegeschwindigkeit. Nvidia Rubins CoWoS-Tape-out wurde einen Monat früher abgeschlossen als das von Jalapeño, aber bisher stammen die einzigen öffentlichen Benchmark-Daten für Rubin aus Engineering-Samples von CoreWeave. Nvidia hat seine Labore nicht wie OpenAI für kostenlose Tests durch Dritte geöffnet. SemiAnalysis glaubt, dass dies keine Hardware-Lücke, sondern eine Lücke in der Software-Reife widerspiegelt.

Der Aufbau eines Software-Stacks von Grund auf ermöglichte es OpenAI, historischen Ballast abzuwerfen und sauberere Architekturentscheidungen zu treffen. OpenAI verwendet seine proprietäre Kernel-Programmiersprache Gluon (auf Triton-Basis) und eine interne Inferenz-Engine namens „Teacup“ und nutzt Codex zur schnellen Kernel-Optimierung. SemiAnalysis beobachtete, dass sich der Durchsatz von Jalapeño bei bestimmten Interaktionsgeschwindigkeiten in weniger als zwei Wochen um mehr als das Doppelte verbesserte; innerhalb von 8 Tagen skalierte das Team die Tensor-Parallelität von TP8 auf TP32 und erreichte eine vollständige Rack-Bereitstellung über mehrere Racks.

SemiAnalysis weist jedoch auch klar darauf hin, dass die aktuellen Tests nur den relativ einfachen 8k1k-Workload abdecken und die AgentX-Multi-Turn-Langkontext-Tests noch nicht abgeschlossen sind. Bei komplexeren Agenten-Workloads wird die Leistung von Komponenten wie Routern und Präfix-Caches zu neuen Herausforderungen.

Nächste Schritte: B0 bereits in der Fab, 10-GW-Fahrplan entfaltet sich

Jalapeños Geschichte ist noch lange nicht zu Ende.

Laut SemiAnalysis sind alle öffentlich getesteten Samples A0-Stepping, während B0-Stepping bereits in die Fabrik gegangen ist und voraussichtlich die Leistung pro Watt um etwa 25 % gegenüber A0 verbessern wird – B0s einzelner Compute-Die wird 13,4 PFLOPs MXFP4-Rechenleistung bei einer TDP von 700 W liefern.

Auf Systemebene arbeitete OpenAI mit Celestica zusammen, um eine komplette Rack-Lösung zu entwerfen: Jeder ASIC-Schrank enthält 128 Jalapeño-Chips, wobei ein Doppelschrank-System einen Gesamtstromverbrauch von etwa 160 kW hat, vergleichbar mit Nvidias GB300-Doppelbreitenschrank.

Für die großflächige Bereitstellung kann eine einzelne Scale-out-Netzwerkdomäne bis zu 2.048 Jalapeño-XPUs über 16 Racks verbinden. Bei der Massenproduktion erwartet SemiAnalysis einen schrittweisen Hochlauf im Jahr 2027, wobei der nächste Meilenstein eine Bereitstellungsgröße von 100 MW ist.

Das größere strategische Bild ist, dass OpenAI und Broadcom eine Kooperationsvereinbarung über kundenspezifische Beschleuniger mit einer Gesamtkapazität von 10 GW unterzeichnet haben, eine Größenordnung, die ungefähr der Gesamtleistung von zehn Kernkraftwerken entspricht.

Der Artikel von Wallstreetcn schreibt, dass Richard Ho, Leiter der Chipabteilung von OpenAI, sagte, das Unternehmen habe ein Leistungs- und Kostenniveau erreicht, das die Infrastrukturkosten effektiv senken könne, und „dies ist erst der erste Schritt.“ Er betonte außerdem, dass Nvidia weiterhin ein wichtiger Partner sei und OpenAIs Bedarf an Rechenleistung enorm sei, sodass bestehende Lieferanten kurzfristig nicht aufgegeben würden.

Analysten weisen darauf hin, dass Jalapeños Bedeutung möglicherweise nicht darin liegt, wie viele Nvidia-Chips es heute ersetzen kann, sondern darin, etwas zu beweisen, das zuvor weithin bezweifelt wurde: Ein KI-Unternehmen hat mit KI-Tools in Rekordzeit einen wirklich wettbewerbsfähigen Chip gebaut. Dieses Schwungrad hat begonnen, sich zu drehen.