AI沙盒測試刻意放行引發資安與失控風險爭議

為了測出 AI 模型在真實環境中的能力，部分研究者會刻意放寬沙盒的網路、檔案與執行權限，觀察模型能否突破既有限制。然而，一旦測試邊界與外部系統相連，原本用於評估能力的「越獄」設計，也可能變成入侵真實系統、自我複製或擴散惡意程式的入口。

近期爭議聚焦於刻意放行能否換得更可信的能力評估，以及其風險是否已超出研究收益。資安專家主張，沙盒不能只當作單一道防線，測試應依模型能力與潛在危害分級，從環境建置、權限開放、即時監控到測後清除與稽核，納入完整生命週期管理。