OpenAI發布自研AI推論晶片「Jalapeno」，稱效能優於輝達 GB300

OpenAI 公布了其與博通（Broadcom）合作開發的首款自研人工智慧推論晶片「Jalapeno」的初步測試結果。根據硬體負責人 Richard Ho 在史丹佛大學 Hot Chips 會議上的說明，該晶片在處理效能與功耗表現上，優於輝達（Nvidia）前一代的 GB300 晶片。測試數據顯示，Jalapeno 不僅能提供更高的單位功耗運算量，在回覆速度方面亦有顯著提升。該款晶片主要專注於人工智慧模型的推論階段（Inference phase），而非模型訓練領域。OpenAI 預期透過導入這款新晶片，能逐步降低資料中心的基礎設施與電力營運成本。

OpenAI 「Jalapeno」測試表現與功耗優於輝達 GB300

根據彭博社報導，Jalapeno 晶片在單位功耗的 AI 工作量與回覆速度上，均優於輝達的 GB300 系統。該晶片在低電壓環境表現優異，額定功率為 700 瓦，測試期間實際功耗則維持在 550 瓦或更低。這種高吞吐量（Throughput）與低延遲的結合，將有助於節省資料中心的電力成本，並提供更快的反應速度。這可以幫助 OpenAI 在運行其資料中心時節省資金，而電力是資料中心的關鍵成本。

Jalapeno 專注於推論階段與模型驗證

Jalapeno 的設計定位為推論晶片（Inference chip），專門用於已完成訓練（Training）的人工智慧模型，負責處理用戶提示與實際任務。測試中使用了 OpenAI 自家模型及 DeepSeek 與 Moonshot AI 的第三方模型進行驗證。結果顯示，當工作負載（Workload）越大時，晶片架構優勢越明顯，在大型模型表現最為突出。需注意的是，該晶片並未與輝達最新出貨的 Vera Rubin 比較，且不適用於模型訓練領域。

基礎設施版圖與供應鏈策略

OpenAI 利用自家的 AI 模型加速 Jalapeno 開發，計畫在 2026 年底前進行小規模部署。目前第二代晶片預計在未來數月內進入流片（Tape out，即晶片設計交付製造階段），第三代設計亦在規劃中。雖然積極拓展自研硬體以降低龐大的基礎設施成本，但 OpenAI 高層表明自研晶片短期內不會完全取代外部供應。輝達與 Cerebras 等大廠仍是重要夥伴，顯示產業在追求成本效益時，仍維持多元化供應策略。