Cerebras發表CS-4 AI加速器,稱推理速度最高達GPU方案30倍
0
PANews 8月19日消息,根據界面新聞報道,Cerebras發布新一代AI加速器CS-4,稱其推理速度最高可達基於GPU方案的30倍。 CS-4採用三顆新型WSE-3Turbo晶圓級引擎,AI算力達750PFLOPS,記憶體頻寬達129.6PB/s。 Cerebras表示,在GPT-OSS-120B測試中,CS-4每用戶每秒產生超過4400個Token,最高達到GPU方案的30倍;其每瓦吞吐量最高為CS-3的10倍,並可支援超過50兆參數的模型。 CS-4預計將於今年第三季開始出貨。
來源:
登入回覆
登入分享您的看法評論
相關文章