瞄準兆美元AI市場！Red Hat攜手NVIDIA推AI Factory平台

Red Hat攜手NVIDIA推出Red Hat AI Factory，加速實現大規模生產級AI。（業者提供）

〔記者邱巧貞／台北報導〕在企業加速導入生成式AI與代理式 AI（Agentic AI）應用之際，開放原始碼解決方案龍頭Red Hat與NVIDIA宣布深化合作，推出全新整合平台「Red Hat AI Factory with NVIDIA」，目標鎖定企業級、大規模生產環境的AI部署需求，協助企業從實驗階段真正邁向工業化營運。

根據IDC預測，至2029年全球企業在AI領域的支出將突破1兆美元。隨著企業將策略重心轉向高密度運算與代理式工作負載，AI推論效能、GPU資源調度、成本控管與資安治理，已成為IT部門面臨的核心挑戰，Red Hat與NVIDIA此次推出的整合平台，正是針對上述需求所打造的端到端解決方案。

隨著企業將策略重心轉向高密度運算與代理式AI工作負載，AI 推論能力與相關基礎架構需求也隨之快速提升。「Red Hat AI Factory with NVIDIA」主打賦能IT營運團隊，協助其簡化涵蓋傳統IT基礎架構與持續演進的AI技術堆疊的管理流程，使企業得以更有效率地部署與擴展AI應用，加速邁向生產級AI，同時為打造「AI 工廠」（AI factories）提供完整的軟體平台支援。

「Red Hat AI Factory with NVIDIA」整合Red Hat AI Enterprise與 NVIDIA AI Enterprise，並運行於NVIDIA加速運算架構之上，為企業提供涵蓋模型部署、推論最佳化、資源管理與安全機制的統一AI基礎架構。

該平台同時支援Cisco、Dell Technologies、Lenovo與SUPERmicro等系統製造商的AI工廠基礎設施，使企業得以如同管理傳統核心IT系統般，維持高度可預測的營運環境與管理嚴謹度，進一步擴展並維運各類AI工作負載。

在功能層面，該平台主打四大優勢。首先是加速價值實現時間，透過預先整合的模型與微服務架構，企業可快速部署包含IBM Granite、NVIDIA Nemotron等模型，並利用NVIDIA NeMo進行模型微調與企業資料對齊。

其次，在效能與成本最佳化方面，平台整合vLLM、TensorRT-LLM 與 NVIDIA Dynamo 驅動的 Red Hat AI 推論能力， 並內建可觀測性工具，協助企業達成嚴格的服務水準目標，同時降低AI總體擁有成本（TCO）。

此外，平台亦導入智慧GPU調度機制，透過資源池化與自動檢查點（checkpointing）以保護長時間執行的作業，並在動態環境中維持更可預測的運算成本。

在安全性方面，該方案以 Red Hat Enterprise Linux 為基礎，結合 NVIDIA DOCA 微服務架構建構零信任體系，使企業從部署初期即可具備內建的進階安全與合規機制。此架構不僅有助於降低營運風險，也能縮短建置與驗證時間，並減少系統停機帶來的影響，進一步確保 AI 應用在整體基礎設施中的運行過程具備端到端的安全保障。