AI代理已能撰寫軟體、執行自主任務，甚至協助開發下一代AI系統，使能力進展可能快過監測與控制措施。Google DeepMind共同創辦人Shane Legg因此主張，發展人工通用智慧（AGI）時，安全機制必須同步推進；該公司將AGI界定為具有人類大腦認知能力的系統。
Legg於2026年9月16日成立DeepMind Institute，盼擴大社會對AGI部署的討論，首批文章涵蓋AI安全、經濟政策及「新烏托邦主義」。他認為Anthropic執行長Dario Amodei放慢、但不暫停前沿模型發布的主張值得考慮，並重申其預測：2028年前出現「最低限度AGI」的機率為50%。
全部報導
2 篇原始報導馬克翻舊帳
這個事件的歷史脈絡Google DeepMind研究員因憂AI失控離職 掀安全爭辯
Google DeepMind是Alphabet旗下主要AI研究機構，與OpenAI、Anthropic競逐更強大的前沿模型。爭議核心在於「對齊」：確保高能力系統遵循人類意圖；若能力進展快於控制技術，研究人員擔心AI可能逃脫約束，造成不可逆災難，也使產業自律與政府監管節奏成為焦點。
Google DeepMind研究員Bilal Chughtai於2026年7月離職，9月14日發文稱AI可能「殺死所有人」，因能力進展快於仍未解的對齊技術。他呼籲協調、放慢AI開發並提高透明度。此前Anthropic研究員Jacob Coxon辭職並估計，AI未來10年導致人類滅絕機率達10%；貼文瀏覽逾1.5億次。
Google DeepMind 執行長 Hassabis 示警 AI 威脅，呼籲各國加強監管與安全性研究
Google DeepMind 是 Google 旗下人工智慧研究機構，由共同創辦人兼執行長 Demis Hassabis 領導。隨著生成式 AI 加速發展，各國正面臨技術遭濫用、模型自主行動及系統失控等風險，如何兼顧創新與安全，已成全球監管核心議題。
Hassabis 近期在人工智慧影響高峰會示警，超級 AI 可能帶來人類滅絕等極端風險，並稱全球研發競賽已有失控跡象。他預估未來 10 年內 AI 將成為「超級力量」，呼籲各國推動智慧監管、強化安全性研究，及早建立跨國防護機制。
訂閱馬克雷達週報
每週五，本週最強訊號送進收件匣。隨時一鍵退訂。