AI建築後門難在現實發揮 日常圖像處理可干擾其作用

商傳媒｜何映辰／台北報導

根據 Georgia Institute of Technology（Georgia Tech）最新研究，AI 模型中深藏惡意指令的「建築後門」（Architectural Backdoors），在實際應用環境中比過去預期的更難以被有效利用。這項發現挑戰了學界對於這類進階 AI 網路安全漏洞的傳統假設。

「建築後門」是一種特殊的惡意手法，它將不法指令直接隱藏在定義 AI 模型運作方式的程式碼中。這與傳統上透過操縱模型學習參數來植入後門的行為不同，使得這類後門更難以被發現或移除，因為僅檢查模型參數或重新訓練可能無濟於事。

這項由該校博士生 David Oygenblik 帶領的研究團隊指出，過去在受控條件下，建築後門確實能發揮作用。然而，當 AI 系統在現實世界中處理圖像時，即便是裁剪、調整對比度或增加雜訊等日常圖像處理操作，都可能改變觸發模式，進而導致後門攻擊失效。

Oygenblik 表示，最大的誤解是「在受控條件下證明建築後門有效，就意味著它在現實世界中也能運作」。研究團隊開發了一套名為 FAULT 的框架，專門評估建築後門在真實條件下的表現。結果發現，攻擊者在追求後門的可靠性（即使圖像被處理也能觸發）與隱蔽性（避免被意外啟動）之間，存在著根本性的權衡。

這項權衡在五種不同的建築後門實施方法中都顯而易見。即使攻擊者能預先得知系統將如何處理圖像，也很難同時做到讓攻擊既可靠又難以偵測。研究團隊表示，這項發現對 AI 模型的開發者具有重要啟示，他們應在接近真實的條件下測試 AI 系統，並留意模型準確性是否出現意料之外的下降，同時檢查程式碼中是否有可疑的觸發偵測邏輯。這篇題為《Finding FAULTs in Architectural Backdoors: Why Trigger Detection Fails Under Real-World Conditions》的論文，將於十一月在荷蘭海牙舉行的 ACM Conference on Computer and Communications Security 會議上發表。