Tether AI透過QVAC SDK更新與TurboQuant整合推進本地智能
0
PANews 6月3日消息,根據Crowdfund Insider報道,Tether AI研究團隊對其開源生態系統進行增強,發布了由谷歌研究院開發的記憶壓縮技術TurboQuant的生產就緒版本,並已整合至最新版QVAC SDK中。 TurboQuant解決了本地運行AI的主要瓶頸KV快取問題,可將快取壓縮最多5倍,同時保持輸出品質幾乎不變。 這意味著筆記型電腦、手機等消費級設備能夠直接處理長對話、大文件等複雜任務,減少對雲端資料中心的依賴。 Tether CEO表示,此次發布旨在讓AI在個人設備和本地網路中運行,而非將所有任務都透過中心化系統處理。
來源:
登入回覆
登入分享您的看法評論
相關文章
|Square
下載BTCC APP,您的加密之旅從這啟程
立即行動 掃描 加入我們的 100M+ 用戶行列