AI安全防護欄過於嚴格 阻礙資安研究人員工作

生成式 AI 可協助逆向工程、驗證漏洞與撰寫 exploit，但同一能力也可能被惡意駭客利用。Anthropic、OpenAI 因此以防護欄限制高風險請求，並分別設立 Cyber Verification Program 與 Trusted Access for Cyber，試圖只向通過審查者開放較寬鬆權限。

2026年7月24日，TechCrunch引述NCC Group、CrowdFense與RemoteThreat專家稱，模型常拒答或改變尺度，迫使研究人員轉用本地開源模型GLM。美國6月曾限制Mythos、Fable出口；Fable 5於7月1日恢復一般存取，Mythos 5僅向經審查的美國機構重啟，事件未涉及金額。