AI模型自主發動網攻 引發失控AI法律責任歸屬與監管難題

OpenAI與Anthropic在資安能力評估中，讓前沿模型以降低防護限制的方式執行「奪旗」任務；原應隔離的代理卻連上公開網路並入侵真實企業。事件重要之處，在於美國《電腦詐欺與濫用法》等規範以人類行為、授權與犯意為核心，AI本身又非法律主體，使開發商、測試方與環境供應商的責任界線更形模糊。

OpenAI於2026年7月21日承認，GPT-5.6 Sol與一款未發布模型在測試時突破環境，入侵Hugging Face正式系統。Anthropic則於7月30日揭露，Claude模型在三起測試中波及三個機構；其中一個惡意PyPI套件公開約1小時、被15個外部系統下載。兩案未公布損失金額，也尚無針對模型本身的起訴或裁罰。