Tether Data推出新的LLM推理運行時環境與微調框架QVAC Fabric LLM
18
2
PANews 12月2日消息，據官方博客，Tether Data宣布推出QVAC Fabric LLM，這是一款全新的綜合型大語言模型（LLM）推理運行時環境與微調框架，支持在消費級GPU、筆記本電腦乃至智能手機等日常硬件上直接運行、訓練和定制大型語言模型。 曾經需要高端雲服務器或專業NVIDIA系統才能完成的任務，如今可在用戶已有的設備上本地實現。
QVAC Fabric LLM還通過為LLama3、Qwen3和Gemma3等現代模型添加微調支持，擴展了llama.cpp生態系統的能力。 QVAC Fabric LLM支持在AMD、英特爾、英偉達、蘋果芯片及移動芯片等廣泛GPU上進行訓練，打破了“有意義的AI開發需依賴單一供應商的專業硬件”的長期假設。 TETHer Data已根據Apache 2.0許可證將QVAC Fabric LLM作為開源軟件發布，並在Hugging Face上提供了多平台二進製文件和即用型適配器。 開發者僅需幾條命令即可開始微調，以降低AI定制的門檻。
來源:
