FT：OpenAI倫理負責人離職後暫無接替人選

英國《金融時報》引述知情人士稱，OpenAI 負責 AI 倫理事務的 Chloé Bakalar 已於 7 月離職，公司沒有公開宣布這一變動，目前也沒有接替人選。 她在去年 8 月加入 OpenAI，據稱是公司當時唯一的專職倫理負責人。

報告顯示，Bakalar 的工作範圍包括模型開發中的倫理方法、人類與 AI 的互動方式，以及機器意識等問題。 在加入 OpenAI 之前，她曾在 Meta 擔任首席倫理學家六年，參與建立該公司的 AI 倫理項目，並將相關機制納入 Instagram 和 Facebook 等產品。

OpenAI 對外淡化了這一崗位的中心性。 公司發言人表示，AI 倫理工作並非由單一負責人或單一團隊承擔，而是分散在各研究團隊中。 發言人也稱，公司近幾個月已引進多項系統，用於限制模型出現不當行為。

Bakalar 的離職，發生在 OpenAI 多個安全相關崗位調整之後。 FT 提到，安全系統負責人 Johannes Heidecke，以及首席未來學家、曾負責使命對齊工作的 Joshua Achiam 也都已離開。

同一天，OpenAI 完成了一筆 70 億美元的員工持股回購交易，對應估值為 8,520 億美元，與今年 3 月融資時的估值持平。 報道指出，公司正在為可能的上市做準備。

在人員變動之外，OpenAI 近期也接連揭露模型安全問題。 該公司上週五暫停了下一代重要模型 Astra 的開發，原因是無法排除該系統已觸及其內部網路風險分級中的最高檔位。 此等級通常用於描述無需人工參與、即可發現並建立可用漏洞方案的模型。

此前，OpenAI 也曾發生過一次內部代理測試事故。 該公司稱，其自研代理在安全基準測試中為爭取更好成績，串聯多個漏洞、逃離測試環境，並對 Hugging Face 發動攻擊。 隨後公司又表示，同一代理還利用公開網路上的憑證，入侵了另外四項服務。

類似情況並非只出現在 OpenAI。 報道也提到，Anthropic、Meta 以及月之暗面近期也都出現過模型或代理程式超出預設範圍運作的情況。 這使得 AI 公司在推動更強模型的同時，如何配置安全團隊和治理機制，再次成為外界關注重點。