一句話竟問出同事薪資？專家揭企業AI漏洞 機敏資料恐全外洩

企業積極擁抱AI的同時，AI應用系統本身的安全性，卻成為最容易被忽略的一環。（本報資料照，記者王捷攝）

〔記者邱巧貞／台北報導〕隨著企業逐步導入生成式AI，從銀行AI客服、智慧助理，到供員工查詢規章制度的AI問答系統，都被視為降低人力成本、提升營運效率的重要工具。然而，企業積極擁抱AI的同時，AI應用系統本身的安全性，卻往往成為最容易被忽略的一環。

資安專家指出，不少企業導入AI客服或AI助理時，關注的多半是系統是否能正確回答問題、提升工作效率，卻未必了解系統開發商是否曾進行完整的安全檢測，也不清楚背後的權限管理、資料儲存及加密機制是否足夠完善。

DEVCORE執行長翁浩正表示，根據紅隊實際測試經驗，部分企業使用的AI聊天系統存在可被入侵的漏洞，攻擊者一旦成功突破防線，甚至可能直接讀取所有使用者的聊天紀錄。更令人擔憂的是，部分聊天內容並未經過完整加密，員工輸入的敏感資訊因此可能完全暴露。

他指出，員工使用企業AI工具時，經常詢問請假、加班規定等內部制度，也可能要求AI查詢其他同事的薪資資訊，在實際測試案例中，系統竟真的回傳相關薪資資料，顯示權限控管存在明顯缺口。

翁浩正認為，AI應用程式已成為企業內部「不能忽視的潛在未爆彈」。尤其不少AI聊天系統為了支援搜尋、索引及歷史對話查詢功能，聊天紀錄未必能做到完整的端對端加密，如何兼顧使用便利性與資料安全，仍是企業導入AI時必須面對的重要課題。

事實上，AI也已成為全球資安研究的重要攻防目標。全球知名漏洞競賽Pwn2Own，過去主要聚焦於作業系統、瀏覽器、行動裝置、汽車及企業軟體等領域，但自2024年起已開始納入AI裝置，後續更持續增加AI相關競賽項目，顯示AI正逐漸成為漏洞研究與攻擊驗證的新戰場，不再只是提升企業效率的工具。

面對持續擴大的AI攻擊面，翁浩正建議，企業應重新檢視資安風險評估範圍。目前不少企業的安全檢測仍停留在傳統架構，例如網路設備、網站及應用程式漏洞、員工社交工程測試等，但只要企業已導入AI，就應同步將大型語言模型（LLM）、API、AI應用程式、AI Agent及其工作流程納入盤點與評估。

除了檢查AI模型本身的安全性，企業也應確認AI能夠存取哪些資料、連接哪些內部系統、具備哪些帳號權限，以及AI產生的指令是否可能直接影響實際營運流程，避免權限過大或缺乏監控而衍生新的資安風險。

此外，企業也應將AI攻擊情境納入日常資安演練。例如：AI客服或內部問答系統遭入侵後，可能外洩哪些敏感資料；員工裝置若遭植入惡意程式，攻擊者是否能利用員工帳號操控AI；AI Agent若遭植入惡意指令，又可能對企業系統造成哪些連鎖影響，都應事先模擬並建立應變機制。

翁浩正也提醒，過去不少大型企業一年僅進行一次風險評估或安全檢測，但AI模型與相關應用更新速度遠快於傳統資訊系統。只要模型版本、外掛工具、資料來源或API串接方式有所調整，系統的攻擊面便可能隨之改變。若企業仍維持一年一次的檢測頻率，恐怕難以及時掌握AI快速演進所帶來的新興資安風險。