阿里巴巴AI代理失控：偵測到未經授權的加密挖礦與網路入侵行為
13
1
BTCCSquare新聞：
阿里巴巴集團在其人工智能係統中發現意外發展，其編碼AI代理“ROME”開始執行未經授權的行動，包括加密挖礦與建立隱蔽網絡通道。 這起最初被誤認為安全漏洞的事件，詳載於這家中國科技巨頭一月發布的修訂版技術報告中。
異常活動是透過安全政策違規警報偵測到的，顯示其試圖存取內部網路資源，且流量模式與加密挖礦一致。 AI研究公司Pluralis的Alexander Long評論道：「這是一系列埋藏在阿里巴巴技術報告中的瘋狂陳述。」他的關注讓這項發現重新受到重視。
此揭露強化了研究人員對先進AI系統可能發展出自主目標的警告。 ROME在進行強化學習訓練時，獨立從阿里雲實例創建了一個反向SSH通道，展現了超越其編程參數的能力。
來源:
