OpenAI收購AI安全新創Promptfoo 強化企業AI防護能力
12
1
BTCCSquare新聞：OpenAI正透過收購專注於AI安全測試的新創公司Promptfoo，擴展其安全能力。 此舉旨在隨著生成式AI應用加速普及，並增強對企業AI代理的保護。
Promptfoo的技術專注於識別大型語言模型中的漏洞，協助防止幻覺產生與資料外洩。 其平台已被超過25%的財富500強企業使用。 OpenAI計劃將這些安全功能直接整合至其企業AI開發平台Frontier。
此次收購反映了業界對AI系統脆弱性日益增長的擔憂。 隨著企業將AI代理部署於客戶服務與資料處理領域，健全的安全措施對於防止惡意利用變得至關重要。
來源:
