研究發現：單一位元翻轉即可破壞AI模型
21
1
btccSquare新聞：
喬治梅森大學研究人員發現深度學習模型存在關鍵漏洞。 攻擊者僅需翻轉記憶體中的一個位元（將1改為0或反之），即可在不重新訓練、不改寫程式碼、不顯著降低準確度的情況下，微妙改變模型行為。 此破壞行為使模型性能下降不到0.1%，幾乎無法被檢測。
該攻擊利用「RoWhammer」硬體漏洞，透過重複記憶體存取導致相鄰位元意外翻轉。 駭客可透過惡意程式、遭入侵的雲端帳戶等途徑，在與AI相同的機器上執行此攻擊。 目標位元在RAM中被修改後，即會引入隱藏後門。
此缺陷對自動駕駛汽車和醫療AI等敏感應用構成風險，即使微小偏差也可能導致災難性後果。 研究凸顯了對抗條件下AI系統的脆弱性——隨著這些模型滲透關鍵基礎設施，此問題日益受到關注。
來源:
