AI 教父 Yoshua Bengio 警告超智慧機器威脅，呼籲建立安全機制防範滅絕風險

加拿大蒙特婁大學教授 Yoshua Bengio 與 Geoffrey Hinton、Yann LeCun 共同獲得 2018 年 ACM 圖靈獎，常被視為「AI 教父」。他認為，當科技公司競逐更強大的通用與超智慧系統，若模型形成自主目標及自我保全傾向，AI 安全便可能從產品風險升高為人類生存議題。

Bengio 最新重申，超智慧機器可能在未來十年內威脅甚至導致人類滅絕，激烈的 AI 競賽也可能促使企業低估安全成本。他呼籲建立獨立第三方測試、監督與問責機制，而非只依賴開發商自律；同時推動不具持續目標與自主行動能力的「非代理型」安全 AI，以降低系統失控風險。