研究人員呼籲將 AI Agent 視為不可信系統以強化安全

AI Agent可自主調用瀏覽器、API、記憶與執行工具，遭提示注入後，風險可能從錯誤回答升高為資料外洩或未授權操作。Google、加州大學聖地牙哥分校、威斯康辛大學麥迪遜分校與康乃爾大學研究團隊因此主張，不能只靠模型強韌性，必須把模型視為不可信組件，由外部系統落實安全邊界。

論文《Agent Security is a Systems Problem》於2026年5月18日提交arXiv，5月20日更新。作者檢視11起真實攻擊，發現全部違反安全資訊流原則，多數也違反最小權限；並提出指令與資料分離、可驗證的最小權限沙箱、資訊流控制3項落地方向。研究未涉及交易，未列金額。