GuardFall攻擊鎖定開源AI程式開發代理,可繞過Shell命令防護

AI安全業者Adversa AI於6月30日揭露名為GuardFall的攻擊手法。研究指出,多款開源AI程式開發代理與電腦操作型AI代理在執行Shell命令前,安全檢查主要仰賴原始命令字串比對或阻擋清單,攻擊者可利用Bash等命令列直譯器(Shell)的特性,在實際執行命令前,先展開變數、移除引號並重新解析命令,避開代理程式檢查,讓惡意命令以開發者帳號權限,在開發者主機或CI環境執行。

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *