Marvell發表新一代AI記憶體基礎設施方案組合提升Token效率

BTCC / BTCC Square / PanewslabTW /

Author:

發佈時間:

2026-08-04 13:16:00

PANews 8月4日消息，數據基礎設施半導體巨頭Marvell Technology宣布推出面向AI基礎設施的新一代內存解決方案組合，覆蓋服務器級AI存儲、機架級CXL內存擴展與池化，以及多機櫃光互聯共享內存，旨在解決Agentic AI推理過程中日益增長的內存容量和帶寬瓶頸。 Marvell表示，隨著AI模型規模擴大、上下文視窗延長以及KV Cache需求成長，傳統運算與記憶體緊密耦合架構正限制AI推理效率。透過記憶體解耦（memory disaggregation），可以讓記憶體資源更加獨立於運算資源擴展，提高GPU利用率並降低資料移動延遲。

來源:

登入回覆

登入分享您的看法

前一篇

<< 英偉達：人工智慧產業領袖提出網路安全指南 >>

本站轉載文章皆來自公開網絡，部分由AI整理，僅為傳遞產業訊息，不代表BTCC立場。原創權益歸原作者所有。如發現版權問題，請透過[email protected]聯絡我們，我們將依法處理。 BTCC不對資訊準確性、時效性及完整性作任何保證，不承擔因依賴資訊而產生的任何責任。內容僅供參考，不構成投資、法律或商業建議。