DeepSeek 開源 TileKernels 算子庫,支援 NVIDIA Blackwell 架構
0
PANews 4月23日訊息,GitHub頁面顯示,DeepSeek 開源高效能 GPU 運算子庫 TileKernels,該專案基於 TileLang 開發。 該函式庫針對大語言模型(LLM)的訓練與推理進行了深度優化,其算子性能已接近硬體計算強度與記憶體頻寬的極限。 TileKernels 涵蓋了 MoE 路由、FP8/FP4 量化及多種融合算子,並已在 DeepSeek 內部環境投入使用。 該庫目前適配 NVIDIA SM90 及最新的 SM100(Blackwell)架構,運行環境要求 CUDA 13.1 以上版本。
來源:
登入回覆
登入分享您的看法評論
|Square
下載BTCC APP,您的加密之旅從這啟程
立即行動 掃描 加入我們的 100M+ 用戶行列