英王查爾斯召開AI巨頭峰會 聚焦前沿技術風險與發展克制

前沿AI模型快速進步，已把監管焦點從偏誤與著作權，推向具自主行動能力的AI agent、網路攻擊及遞迴自我改進。英國曾於2023年主辦Bletchley Park AI安全峰會；如今查爾斯三世再以中立召集人角色，促使競爭中的企業討論以人類福祉為核心的共同原則。

9月13日報導指出，查爾斯本週將在蘇格蘭Dumfries House會晤OpenAI、Anthropic、Google DeepMind及Nvidia領袖，商議共同原則。Dario Amodei 9月12日警告，AI agent群或在6至12個月內接管網路，造成數千億美元損失；Sam Altman隨即支持放慢前沿研發。