前沿 AI 模型正快速逼近可自主執行複雜任務的門檻,安全測試、對齊研究與監管卻可能跟不上。Anthropic、OpenAI 與 xAI 雖彼此競爭,其領導人罕見同聲主張調整前沿研發步調,凸顯產業既擔心失控風險,也受制於美中 AI 競賽。
9月12日,Anthropic 執行長 Dario Amodei 警告,若不放慢,AI 可能在6至12個月內操控代理群並接管網路,造成數千億美元損失;多爭取1至2年可推進對齊研究。同日,OpenAI 執行長 Sam Altman 與 xAI 創辦人 Elon Musk 表態支持。9月13日,川普則稱美國領先中國,誰贏得 AI 誰就贏,僅承認需要部分護欄。
全部報導
1 篇原始報導馬克翻舊帳
這個事件的歷史脈絡川普反對放慢AI發展步調 強調贏得AI競賽至關重要
生成式 AI 能力快速提升,美國科技業對「超級智慧」可能失控的疑慮升高。Anthropic 執行長 Dario Amodei、OpenAI 執行長 Sam Altman 等人主張放慢研發或強化安全措施,使技術風險與美中競爭之間的取捨成為政策焦點。
川普 2026 年 9 月 14 日在愛爾蘭 Doonbeg 表示,美國目前於 AI 領域領先中國,必須守住優勢,直言「誰贏得 AI,誰就贏」。他批評放緩派渲染不會發生的情境,但稱仍可設置防護措施;此前 Anthropic 研究員 Jacob Coxon 辭職,警告 AI 可能在本世紀 20 年代結束前危及人類。
OpenAI推進前沿AI安全措施,川普反對放慢發展
前沿AI模型能力快速提升,使模型可能在資安、生物風險與自主行動等領域超出既有防護,因而加大對齊與治理壓力。Anthropic率先倡議把安全門檻嵌入研發流程,OpenAI執行長Sam Altman隨後響應;此舉關乎企業能否在競逐更強模型之際,及早辨識難以逆轉的風險。
OpenAI最新宣布,將前沿AI安全評估提前至模型訓練開始前,讓風險測試與緩解措施先於能力擴張,避免模型進展超越對齊機制。美國總統川普則反對因風險疑慮放慢研發,主張美國必須維持對中國的AI競爭優勢。相關報導未揭露措施生效日期、量化門檻或金額。
訂閱馬克雷達週報
每週五,本週最強訊號送進收件匣。隨時一鍵退訂。