OpenAI推自研晶片 稱測試性能表現贏過輝達處理器
OpenAI表示,其新款自研晶片Jalapeno在測試中表現贏過輝達目前的晶片產品。(路透資料照)
〔財經頻道/綜合報導〕OpenAI表示,其新款自研晶片Jalapeno在測試中表現贏過輝達目前的晶片產品,凸顯出該公司在自主研發AI處理器方面取得的進展。
《彭博》報導,在測試中,Jalapeno處理器在兩個領域領先,包括每單位耗能下可處理的AI工作量,以及回應的速度。OpenAI晶片負責人Richard Ho受訪時表示,這款晶片與輝達的GB300進行了比較,這是公共基準測試中的首選。
OpenAI計畫在今年稍晚開始使用新晶片來支援其AI模型,這是建構自身AI基礎設施更廣泛措施的一部份,加入了眾多致力於開發自研AI晶片的公司行列。
Richard Ho表示,隨著新晶片的廣泛應用,他將明顯降低OpenAI的成本。只要OpenAI能夠提高Jalapeno的產量,而且成本能夠像預期那樣明顯下降,那麼OpenAI將採用自研晶片處理更多的AI任務。
OpenAI和博通去年合作研發晶片Jalapeno,這兩家公司在去年宣佈達成協議,並在6月大力宣傳該處理器的開發速度,宣稱以創紀錄的時間內完成。
Richard Ho指出,在一般情況下,有些晶片更擅長運行AI任務,有些晶片更擅長快速回應,但Jalapeno兩者兼具。OpenAI將決定哪些AI模型將採用Jalapeno晶片,進而使客戶能夠透過選擇更節省成本或性能更佳的產品而受惠。
Jalapeno並沒有與輝達剛開始出貨的新一代晶片Vera Rubin進行比較測試,這款晶片也不是專為訓練AI模型而設計,這一領域正式輝達技術的強項。Jalapeno的目標是AI的推論階段,在這個階段,模型已經完成訓練,可以開始回應提示並處理任務。
不過,OpenAI也透露,短期內,公司不會用自研晶片取代Cerebras等供應商,因為公司對運算能力的需求非常大,因此才和這麼多不同的服務供應者簽約,這種情況預計還會持續一段時間。
OpenAI表示,他們利用自主研發的AI模型加速了晶片的研發速度,第2版的晶片開發工作已接近尾聲,預計將在未來幾個月完成tape out(下線)。
儘管OpenAI大力宣傳自身成果,並將其與輝達進行比較,但Richard Ho強調,OpenAI仍視輝達為重要的晶片供應商,輝達是一個非常好的合作夥伴,公司仍非常需要輝達的產品。
登入回覆
登入分享您的看法評論
相關文章