英偉達推出Nemotron 3.5 Lightning開放模型,支援在RTX PC等設備本地運行
0
PANews 8月11日消息,據金十報道,英偉達推出Nemotron 3.5 Lightning開放模型,該模型可在英偉達RTX個人電腦、DGX Spark、搭載GB10的OEM系統及Jetson平台上本地運行。 英偉達已與vLLM、Ollama、llama.cpp、LM Studio和Unsloth合作,為此車型提供支援。 英偉達也表示,Nemo Switchyard可將基準測試的完成成本降至Opus 4.8的三分之一。 另根據The Information引述參與專案研發的英偉達員工消息,英偉達正在開發Nemotron 4開源AI模型,其最大版本預計至少擁有1兆個參數。
來源:
登入回覆
登入分享您的看法評論
相關文章