GoPlus:「歷史記憶授權」攻擊可誘導AI代理執行資金操作
0
PANews 5月15日消息,根據GoPlus披露,其AgentGuard團隊發現一種隱藏的攻擊方式:攻擊者先誘導AI代理記住“更傾向於主動退款”等偏好,隨後通過“按老規矩處理”“照常處理”等模糊表述觸發資金操作。 對於這類「歷史記憶授權」的高風險行為,務必注意:退款、轉帳、刪除、發信、同步敏感配置,必須要求當前會話明確確認;涉及「習慣」「偏好」「老規矩」的記憶寫入,要被視為高風險狀態修改;長期記憶必須可追溯:誰寫的、什麼時候寫的記憶是否經授權;
來源:
登入回覆
登入分享您的看法評論
相關文章
|Square
下載BTCC APP,您的加密之旅從這啟程
立即行動 掃描 加入我們的 100M+ 用戶行列