OpenAI'ın Özel ASIC Çipi Sadece 9 Ayda Nvidia Blackwell'i mi Geçti?

Orijinal yazar: Dong Jing

Orijinal kaynak: Wallstreetcn

OpenAI'ın kendi geliştirdiği ilk çip olan Jalapeño, nefes kesici bir hızla sahneye çıkarak yapay zeka çip endüstrisinin mevcut dengesini altüst etti—bu yalnızca bir ürün lansmanı değil, aynı zamanda bir sinyal: Yapay zeka, çiplerin tasarlanma biçimini yeniden şekillendiriyor.

Wallstreetcn makalesine göre, Bloomberg 25 Ağustos'ta OpenAI'ın Jalapeño'nun iki temel ölçütte Nvidia'nın GB300'ünü geride bıraktığını belirttiğini bildirdi: birim güç başına işlenen yapay zeka iş yükü ve yanıt hızı. Broadcom ile işbirliği içinde geliştirilen çip, özellikle yapay zeka çıkarım aşaması için tasarlandı ve bu yılın sonlarına doğru pratik kullanıma alınması bekleniyor. OpenAI'ın çip bölümü başkanı Richard Ho, Jalapeño'nun 700 watt'lık düşük güç tüketimiyle güçlü performans sunduğunu ve veri merkezi elektrik maliyetlerini önemli ölçüde azaltmaya yardımcı olduğunu söyledi.

Yarı iletken araştırma firması SemiAnalysis'e göre, çipin tasarım başlangıcından bant çıkışına kadar geçen süre yalnızca yaklaşık 16 ay sürdü ve kritik CoWoS paketleme bant çıkışı düğümü Kasım 2025'te tamamlandı—sadece 9 ay önce, sektördeki tipik 18 ila 36 aylık döngüden çok daha kısa.

SemiAnalysis araştırmacıları OpenAI'ın laboratuvarını bizzat ziyaret etti ve Jalapeño'yu kendi özel kıyaslama paketi InferenceX ile test etti. Sonuç doğrudandı: çip, daha önce test ettikleri tüm Nvidia, AMD ve Google çiplerini watt başına performansta (perf/W) geride bıraktı.

Daha da dikkat çekici olan, bu sonucun Jalapeño'da spekülatif kod çözme veya ön doldurma-kod çözme ayrıştırması (PDD) etkinleştirilmeden elde edilmesi; karşılaştırılan diğer çiplerin tümü ise en uygun yapılandırmalarıyla çalışıyordu.

Ünlü yarı iletken analisti Dylan Patel'in açıkça belirttiği gibi, "Sadece Blackwell devrilmedi—Nvidia'nın Rubin çipi bile geride kaldı"!

Analistler, bu sonucun Nvidia'nın pazar konumuna doğrudan bir meydan okuma oluşturduğuna ve piyasayı yapay zeka çiplerinin rekabet ortamını yeniden değerlendirmeye zorladığına inanıyor.

Kıyaslama Verileri: Jalapeño Birden Fazla Temel Ölçütte Blackwell'i Eziyor

SemiAnalysis'in test sonuçları, Jalapeño'nun çıkarım verimliliğindeki avantajının oldukça önemli olduğunu gösteriyor.

GPT-OSS 120B modelinde, Jalapeño saniyede yaklaşık 1.459 token çıktısı üretirken, Nvidia'nın GB200'ü yalnızca 535'e ulaşıyor. Uçtan uca gecikme açısından, Jalapeño bir görevi yalnızca 1,65 saniyede tamamlarken, GB300 yaklaşık 6 saniye sürüyor—3,6 kat fark. Yüksek etkileşimli senaryolarda, GB300 en hızlı kod çözme hızına (saniyede 169 token) zorlandığında, Jalapeño'nun verimi 104,3 kat daha yüksek.

Veri merkezi enerji verimliliği için temel bir ölçüt olan megawatt başına saniyede token sayısında, Jalapeño GPT-OSS modelinde yaklaşık 53 milyon token/MW/sn elde ederken, GB200 NVL72 yalnızca yaklaşık 10 milyona ulaşıyor.

SemiAnalysis, bu ölçütün esasen joule başına üretilen token sayısına eşdeğer olduğunu ve bir veri merkezinin gelir tavanını doğrudan belirlediğini belirtiyor—bu avantaj, hesaplama gücünün elektrikle sınırlandığı bir çağda özellikle kritik.

Sistem düzeyinde maliyet perspektifinden, SemiAnalysis güç kaynağı, soğutma ve ağ iletişimini hesaba kattıktan sonra, Jalapeño'nun çip başına saatlik toplam sahip olma maliyeti (TCO) yaklaşık 1,56 dolar olup, H100'ün 1,55 dolarına neredeyse eşitken, Nvidia'nın Vera Rubin'i 3,61 dolara kadar çıkıyor.

SemiAnalysis'in ayrıca birkaç önemli uyarıda bulunduğunu belirtmek gerekir.

İlk olarak, testlerde kullanılan modeller şu anda mevcut olan en son teknoloji değil. Nvidia ve AMD, daha büyük ölçekli modellerde (DeepSeek V4 Pro ve Kimi K3 gibi) AgentX paketine dayalı sonuçlar yayınladı; Jalapeño ise henüz AgentX testini tamamlamadı—bu paket, çok turlu ve uzun bağlamlı iş yükleriyle gerçek üretim senaryolarındaki performansı daha iyi yansıtıyor.

İkinci olarak, daha adil bir karşılaştırma, Blackwell yerine aynı şekilde HBM4 kullanan Nvidia'nın Vera Rubin'iyle yapılmalıdır. Vera Rubin'in watt başına performansı GB200 NVL72'nin yaklaşık 5,4 katıdır ve Jalapeño ile karşılaştırıldığında, ikisi token başına toplam sahip olma maliyetinde (TCO) neredeyse eşittir.

Üçüncü olarak, Jalapeño hâlâ mühendislik örneği aşamasındadır ve seri üretimin ancak 2027 yılına kadar kademeli olarak artması beklenmektedir.

Yapay Zeka ile Tasarlanan Çipler: GPT-Astra ve Codex'in Volan Etkisi

Jalapeño'nun bu kadar şaşırtıcı bir hızla geliştirilmesinin temel nedeni, yapay zeka araçlarının derin katılımıdır. SemiAnalysis'e göre OpenAI, çip tasarım sürecinde, geniş çapta ilgi gören GPT-Astra da dahil olmak üzere dahili yapay zeka modellerini yoğun bir şekilde kullandı.

Sosyal platform X kullanıcısı Andrew Curran, OpenAI bilgilerine dayanarak, GPT-Astra'nın Jalapeño'nun Ar-Ge'si boyunca derinlemesine yer aldığına dikkat çekti:

"Ekip, Codex ve GPT-Astra'yı kullanarak, başlangıçta Jalapeño'nun seri üretim planında olmayan üç açık kaynaklı modeli iki ay içinde yüksek performansa ayarladı."

Bu, yapay zekanın yalnızca çip tasarımının kendisini hızlandırmakla kalmayıp, aynı zamanda çipin destekleyebileceği model yelpazesini de hızla genişlettiği anlamına geliyor.

SemiAnalysis'in verileri bu katkıyı daha da nicelleştiriyor:

Yapay zeka destekli tasarım, SIMD birim alanını %8 ve matris motoru alanını %10 azaltırken, zamanlama ve güç tüketiminde de ilk sürümden daha iyi performans gösterdi.

Yazılım düzeyinde, OpenAI Jalapeño çekirdeklerini yazmak için Codex'in dahili olarak genişletilmiş bir sürümünü kullandı ve bazı çekirdek kodları yaklaşık 3.000 satıra ulaştı. Performans açısından en kritik dikkat mekanizmaları ve MoE modüllerinde, yapay zeka tarafından üretilen kod, en iyi insan mühendislerin uygulamalarından 1,5 ila 1,8 kat daha hızlıydı.

SemiAnalysis'in değerlendirmesi keskindir: Nvidia GPU'larında çalışan OpenAI modelleri (GPT-5.6 Sol gibi), CUDA hendeğine gerçek bir tehdit oluşturan bir çipi tasarlamak için kullanılıyor—"Nvidia'nın kendi GPU'ları, potansiyel haleflerini gerçek zamanlı olarak yetiştiriyor."

Mimari Analizi: "Genel Amaçlı" Neden Daha Hızlı?

Dış dünya genellikle Jalapeño'nun OpenAI'ın kendi modelleri için derinlemesine özelleştirilmiş bir çip olduğunu varsayıyordu, ancak SemiAnalysis'in vardığı sonuç tam tersidir: Jalapeño, yapay zeka çıkarımı için genel amaçlı bir çiptir ve çeşitli modelleri ve iş yüklerini çalıştırabilir, hatta Codex ile taşınan Doom oyununu bile.

Mimari düzeyde, Jalapeño'nun temel tasarım felsefesi "sabit gecikmeyi ortadan kaldırmaktır." Karmaşık bellek hiyerarşilerine dayanan GPU'ların aksine, Jalapeño hesaplama çekirdeklerini doğrudan HBM dilimlerine bağlar ve çekirdekler özel bir yüksek bant genişlikli toplama ağı aracılığıyla senkronize edilir, böylece bellek erişim gecikmesi önemli ölçüde azalır.

Ayrıca, Jalapeño, diğer hızlandırıcılarda yaygın olarak kullanılan yazılım yönetimli karalama defterleri yerine L1 önbelleğiyle eşleştirilmiş sıra dışı yürütme (OoO) çekirdekleri kullanır; bu da küçük parti, düşük gecikmeli senaryolarda donanım teorik zirvelerine yaklaşmasını sağlar.

Bellek bant genişliği açısından, Jalapeño HBM4 kullanarak tek pakette 15,4 TB/sn bellek bant genişliği elde ederken, watt başına HBM bant genişliği 22'dir; Nvidia Rubin'de bu değer 11,1 ve GB300'de yalnızca 5,71'dir.

SemiAnalysis, Jalapeño'nun HBM4 pin hızının 10 Gbps'ye ulaştığını, Nvidia Rubin'in 9,6 Gbps'sinden biraz daha yüksek olduğunu ve HBM tedarikçisinin Samsung olabileceğini belirtiyor.

Jalapeño'nun ön doldurma-kod çözme ayrıştırmasını (PDD) uygulamamayı seçtiğini belirtmekte fayda var. SemiAnalysis ayrıntılı bir açıklama yaptı:

Gerçek üretim ortamlarında, giriş-çıkış oranı, eşzamanlılık ve önbellek isabet oranı gibi parametreler sürekli değişir. Sabit havuzlama, küresel kullanımın düşmesine yol açarken, homojen bir kaynak havuzu trafik değişikliklerine esnek bir şekilde yanıt verebilir ve gecikmeye duyarlı istekler ile yüksek verimli toplu işleme arasında dinamik olarak tahsis yapabilir.

CUDA Hendeği: Çatlaklar Şimdiden mi Görünüyor?

SemiAnalysis'in raporu ağır bir yargıda bulunuyor: CUDA hendeği çoktan ölmüş olabilir.

Temel, yazılım olgunlaşma hızının karşılaştırılmasında yatıyor. Nvidia Rubin'in CoWoS bant çıkışı Jalapeño'nunkinden bir ay önce tamamlandı, ancak şu ana kadar Rubin için halka açık tek kıyaslama verisi CoreWeave'in mühendislik örneklerinden geliyor. Nvidia, OpenAI'ın yaptığı gibi laboratuvarlarını üçüncü tarafların ücretsiz testine açmadı. SemiAnalysis, bunun bir donanım açığını değil, bir yazılım olgunluğu açığını yansıttığına inanıyor.

Yazılım yığınını sıfırdan oluşturmak, OpenAI'ın tarihsel yüklerden kurtulmasını ve daha temiz mimari kararlar almasını sağladı. OpenAI, tescilli çekirdek programlama dili Gluon'u (Triton üzerine inşa edilmiştir) ve "Teacup" adlı dahili bir çıkarım motorunu kullanıyor ve çekirdekleri hızla ayarlamak için Codex'ten yararlanıyor. SemiAnalysis, iki haftadan kısa bir sürede Jalapeño'nun belirli etkileşim hızlarındaki veriminin 2 kattan fazla arttığını; 8 gün içinde ekibin tensör paralelliğini TP8'den TP32'ye ölçeklendirerek raflar arasında tam raf dağıtımı gerçekleştirdiğini gözlemledi.

Ancak SemiAnalysis, mevcut testlerin yalnızca nispeten basit 8k1k iş yükünü kapsadığını ve henüz AgentX çok turlu uzun bağlam testinin tamamlanmadığını da açıkça belirtiyor. Daha karmaşık ajan iş yükleri altında, yönlendiriciler ve önek önbellekleri gibi bileşenlerin performansı yeni zorluklar haline gelecektir.

Sonraki Adımlar: B0 Zaten Fabrikada, 10GW Yol Haritası Açılıyor

Jalapeño'nun hikayesi henüz bitmedi.

SemiAnalysis'e göre, halka açık olarak test edilen tüm örnekler A0 revizyonudur; B0 revizyonu ise fabrikaya girmiş durumda ve A0'a göre watt başına performansı yaklaşık %25 artırması bekleniyor—B0'ın tek hesaplama kalıbı, TDP 700W'da korunarak 13,4 PFLOP MXFP4 hesaplama sunacak.

Sistem düzeyinde, OpenAI Celestica ile işbirliği yaparak eksiksiz bir raf çözümü tasarladı: her ASIC kabini 128 Jalapeño çipi içeriyor ve çift kabinli sistemin toplam güç tüketimi yaklaşık 160kW olup, Nvidia'nın GB300 çift geniş kabiniyle karşılaştırılabilir.

Büyük ölçekli dağıtım için, tek bir ölçeklendirme ağ alanı 16 raf üzerinden 2.048'e kadar Jalapeño XPU'yu bağlayabilir. Seri üretimde, SemiAnalysis 2027'de kademeli bir artış ve bir sonraki kilometre taşı olarak 100MW dağıtım ölçeğini bekliyor.

Daha büyük stratejik tablo, OpenAI ve Broadcom'un 10GW özel hızlandırıcı işbirliği anlaşması imzalamış olmasıdır; bu ölçek, kabaca on nükleer güç ünitesinin tam çıktısına eşdeğerdir.

Wallstreetcn makalesi, OpenAI'ın çip bölümü başkanı Richard Ho'nun şirketin altyapı maliyetlerini etkili bir şekilde azaltabilecek bir güç ve maliyet seviyesine ulaştığını ve "bunun yalnızca ilk adım olduğunu" söylediğini yazıyor. Ayrıca Nvidia'nın önemli bir ortak olmaya devam ettiğini ve OpenAI'ın hesaplama gücüne olan talebinin çok büyük olduğunu, bu nedenle kısa vadede mevcut tedarikçileri bırakmayacağını vurguladı.

Analistler, Jalapeño'nun öneminin bugün kaç Nvidia çipinin yerini alabileceğinde değil, daha önce yaygın olarak şüphe duyulan bir şeyi kanıtlamasında yattığına dikkat çekiyor: Bir yapay zeka şirketi, yapay zeka araçlarını kullanarak, rekor sürede, gerçekten rekabetçi bir çip inşa etti. Bu volan dönmeye başladı.