Kimi 開源 K3 大模型權重並公佈技術報告
0
PANews 7月27日消息,Moonshot AI 團隊發布其最先進大模型 Kimi K3 的模型權重和技術報告。 Kimi K3 為 2.8 兆參數的 MoE 架構模型,具備原生多模態視覺理解能力,支援 100 萬 token 長上下文。 新架構號稱在相同算力下智慧水準提升約 2.5 倍。 除模型本身外,Kimi 同步開放高性能注意力算子、MoE 通信庫以及用於大規模運行智能體環境的基礎設施代碼,相關資源已於 Hugging Face、GitHub 與官網技術博客上線。
來源:
登入回覆
登入分享您的看法評論
相關文章