OpenAI強化AI安全防護嚴防模型“失控”，最新模型訓練暫停兩週
0
PANews 8月19日消息，根據金融界報道，在近期發生的網路安全事件引發外界對AI工具可能失控的擔憂後，OpenAI表示，將採用更為嚴格的系統，對正在開發的人工智慧模型進行監控和安全防護。 OpenAI表示，計劃進一步追蹤其能力最強、尚未發布的模型在解決問題以及使用各種線上工具時的行為，目標是在發現令人擔憂的行為後30分鐘內向安全團隊發出警報。 OpenAI表示，公司也新增了控制措施，以防止某些AI模型連接到網路來執行風險更高的任務。 此外，OpenAI將要求在訓練和評估AI模型時實施更嚴格的隔離措施，即所謂的「沙箱」。
來源:
登入回覆
登入分享您的看法評論
相關文章