研究人員發現「幻覺入侵」新型攻擊，AI代理或被利用組成殭屍網絡
0
PANews 7月10日消息，根據Decrypt報道，特拉維夫大學、以色列理工學院和Intuit的研究人員發現了一種名為「對抗性幻覺入侵」的新型攻擊手法，透過利用AI模型的幻覺現象，誘騙AI代理下載惡意程式碼並可能組成殭屍網路。 攻擊者預測AI模型可能產生的虛假資源連結並提前註冊，在其中植入惡意指令，當AI代理檢索該資源時會將其視為合法內容並執行。 測試顯示，AI在代碼倉庫克隆場景中幻覺發生率達85%，技能安裝場景達100%，Cursor、GitHub Copilot、Gemini CLI和OpenClaw等AI編碼助手均受影響。
來源:
登入回覆
登入分享您的看法評論
相關文章