生成式 AI 業者正競逐更強、甚至可自我改進的系統，安全研究因而成為產業治理核心。曾任 OpenAI 與 Anthropic 的研究員 Jacob Coxon 認為，若能力快速躍升而控制方法與監管未能同步，超級智慧可能脫離人類掌握，對社會乃至人類存續構成重大風險。
Coxon 近日宣布離開 Anthropic，並退出 AI 產業，示警頂尖科技公司在競爭壓力下持續推進高能力模型，卻未承擔相稱的安全責任。他警告，具自我改進能力的超級智慧可能在未來十年內造成毀滅性後果；這項說法屬其風險判斷，而非已獲證實的發展時程。
全部報導
2 篇原始報導馬克翻舊帳
這個事件的歷史脈絡頂尖AI企業員工發表聯合聲明 呼籲美國政府加強前沿AI治理
OpenAI、Anthropic 與 Google 等前沿 AI 實驗室的員工認為，模型能力快速提升，可能讓 AI 研究本身走向自動化，進而大幅壓縮政府評估與應對風險的時間。聯署因此主張，治理速度若追不上開發進度，失控、濫用及國際競逐的風險將同步升高。
截至2026年7月30日，逾1,100名 AI 業界人士與專家已聯名呼籲美國政府建立可在高風險門檻出現時放慢前沿 AI 開發的「煞車機制」，或加速推動全球協調的共同護欄。聲明未要求全面停止研發，而是主張在自動化 AI 研發可能成真前，先建立可執行的監管與跨國協議。
訂閱馬克雷達週報
每週五，本週最強訊號送進收件匣。隨時一鍵退訂。