OpenAI擴張安全版圖 宣佈收購AI安全測試新創Promptfoo
14
2
OpenAI宣布將收購AI安全新創公司Promptfoo，藉此強化其AI代理在企業場景中的安全防護能力。（路透）
〔記者邱巧貞／台北報導〕隨著企業加速導入生成式AI，AI的安全與治理議題也日益受到關注。OpenAI於9日宣布，將收購AI安全新創公司Promptfoo，藉此強化其AI代理（AI agents）在企業場景中的安全防護能力。
根據OpenAI官方部落格指出，Promptfoo是一個AI安全平台，其核心技術主要用於測試與評估AI系統的安全性，專注於保護大型語言模型（LLMs）免受各類網路攻擊，並協助企業在開發階段識別並修補AI系統中的漏洞，已獲得超過25%的《財星》500大企業採用，許多企業使用它來檢查模型是否會產生幻覺或洩漏敏感資訊。
OpenAI表示，待收購完成後，將把Promptfoo的技術直接整合進OpenAI Frontier，這是OpenAI專為企業設計、用於構建與運行「AI 同事」（AI coworkers/agents）的平台。
近年企業開始將AI代理導入實際業務流程，例如自動化客服、資料處理與決策輔助等應用，使AI能直接參與企業運作。然而，當AI系統能讀取外部資料或執行指令時，也可能面臨惡意輸入或資料操控的風險，因此如何確保AI系統的安全性，已成為整個產業的重要課題。
來源:
