提示注入攻擊

提示注入攻擊是以惡意指令操控大語言模型或 AI Agent，使其忽略原有規則、外洩資料或執行未授權操作。近期案例已從文字提示擴及圖片、工作流、開發工具、AI 瀏覽器與代理市集，並出現繞過沙箱、竊取憑證及植入惡意程式等風險；OpenAI、微軟與資安業者則陸續推出修補、防護模式及紅隊評測。隨 AI Agent 取得更多工具與系統權限，攻擊影響可能跨越模型層，延伸至企業資料、帳號與 CI/CD 環境，值得持續追蹤。