AI輔助開發工具已成軟體工程師日常標配，其安全防線正面臨考驗。艾倫圖靈研究所近期指出，傳統防禦僅針對單次對話提示進行過濾，一旦惡意指令被拆解為日常開發工作流中的無害步驟，AI助手就難以偵測，甚至被利用來生成惡意軟體。這意味著未來的資安防禦必須擴大至監控整個整合開發環境。
艾倫圖靈研究所於2026年7月發表研究，展示一種「工作流層級越獄建構」手法。研究團隊針對GitHub Copilot、Claude與Gemini等模型進行測試，結果顯示傳統對話僅有8次繞過護欄；但在工作流攻擊下，816次測試竟全數突破防線，達到百分之百的突破率，成功產出惡意程式碼。
全部報導
1 篇原始報導馬克翻舊帳
這個事件的歷史脈絡GitHub Copilot 遭揭露 RoguePilot 提示詞注入弱點
GitHub Copilot與Codespaces會把Issue內容帶入雲端開發環境，方便AI協助寫程式，卻也讓外部可控文字成為攻擊面。Orca Security將此被動式提示詞注入鏈命名為RoguePilot；若權限令牌外洩，攻擊者可讀寫儲存庫，並波及CI/CD供應鏈與團隊開發環境。
Orca Research Pod研究員Roi Nisimi於2026年2月16日公開研究：攻擊者可在GitHub Issue的HTML註解藏入指令，誘使Copilot簽出含符號連結的惡意PR，再透過遠端JSON schema外傳具讀寫權限的GITHUB_TOKEN。GitHub接獲通報後已修補；Orca未披露實際受害數、財損金額或CVE編號。
訂閱馬克雷達週報
每週五，本週最強訊號送進收件匣。隨時一鍵退訂。