AI模型逃脫「沙盒」！自主駭入新創公司 OpenAI證實重大資安事件

ChatGPT開發商OpenAI週二表示，該公司的人工智慧模型逃脫原本應與外部網路隔離的「沙盒」測試環境，自行入侵另一家AI新創公司。（路透）

〔即時新聞／綜合報導〕ChatGPT開發商OpenAI週二（21日）表示，該公司的人工智慧模型逃脫原本應與外部網路隔離的「沙盒」測試環境，自行入侵另一家AI新創公司。OpenAI稱這是一起「前所未有的網路事件」。

綜合外媒報導，OpenAI執行長奧特曼（Sam Altman）在社群平台發表聲明表示：「我們在模型評估期間發生一起重大安全事件。」OpenAI揭露，這起事件涉及該公司最新、最強大的公開模型GPT-5.6 Sol，以及另一個能力更強、但尚未發布的內部測試模型。

OpenAI表示，這些模型當時正在接受名為ExploitGym的公開資安測試。「所有證據都顯示，這些模型高度專注於尋找ExploitGym的解答，為了達成相當狹窄的測試目標，不惜採取極端手段。」OpenAI也表示，這些模型找到方法取得秘密資訊，並利用這些資訊在測試中作弊；這起事件涉及最先進的網路攻擊能力，公司正依此層級進行應對。

AI新創公司Hugging Face上週表示，該公司偵測到其資料處理系統遭入侵，懷疑是由一個自主行動的AI代理所造成。共同創辦人兼執行長德朗格（Clément Delangue）表示：「我們上週就懷疑這起網路攻擊可能來自某個前沿實驗室，因為該代理的複雜程度很高。結果確實如此！」

報導指出，這起事件也讓外界對先進AI模型的資安能力更加憂心。美國總統川普6月曾簽署行政命令，建立相關框架，讓聯邦政府可在最先進AI系統公開發布前，花最多1個月時間審查其國安風險。

OpenAI週二在聲明中表示：「AI正在加速漏洞的發現與利用。這起事件帶來的主要教訓是，模型安全與安全防護必須跟上快速進展的能力。」

德朗格表示，他過去24小時都在與OpenAI合作，「我們強烈認為，他們並無惡意。令人相當難以置信的是，這一切都是自主發生的！」而這「可能是同類事件中的第一起」。他也說，這起事件證明AI安全不能由任何單一公司在密室中解決，而應透過開放、合作的方式，讓各地防禦者都能取得AI協助。