OpenAI首席科學家探討AI對齊與國際安全防護挑戰

OpenAI首席科學家Jakub Pachocki以「異質心智」形容快速進步的人工智慧：模型可能展現超越人類的能力，卻未必共享人類的目標與價值。這使AI對齊不只是技術可靠性議題，也牽動國家安全、權力集中與全球治理，攸關先進系統能否在可控範圍內部署。

Pachocki近日在〈An Alien Mind〉中警告，隨著AI能力持續躍升，僅靠企業自律或單一國家監管，難以處理跨境擴散與競賽壓力。他主張各國深化合作，協調模型測試標準與部署防護，建立更嚴格的共同安全機制；文章未公布金額、量化門檻或政策生效日期。