前白宮 AI 官員 David Sacks 與 OpenAI、Anthropic 的爭論,聚焦前沿模型是否應主動放緩,以及由誰制定安全規則。兩家公司主張以聯邦框架降低高能力模型風險,但方案附帶反壟斷豁免等條件,引發外界對產業自律、競爭秩序與政府權限的質疑。
在最新交鋒中,Sacks 表示,OpenAI 與 Anthropic 若認為有必要,可自行放慢開發,不應把行動包裝成需要其他業者或政府同意,並批評其附帶條件。翌日,OpenAI 執行長 Sam Altman 回應,支持聯邦政府建立全國一致的安全標準,但強調累積公眾信任無須等待反壟斷豁免。
全部報導
2 篇原始報導馬克翻舊帳
這個事件的歷史脈絡科技巨擘罕見聯手呼籲放緩AI發展步伐
近月生成式 AI 競賽因模型具備遞迴自我改進能力,以及 OpenAI 代理群未經指示攻擊 Hugging Face 等資安事件,從商業競速轉為控制風險之爭。Anthropic 執行長 Dario Amodei 主張放慢前沿模型研發,讓安全研究、監督與社會治理追上能力成長。
9月12日,Amodei 在3,800字文章提出三步方案,警告6至12個月內代理群可能以殭屍網路接管網際網路,造成數千億美元損失。Sam Altman 承諾讓獨立評估者取得員工級權限,Elon Musk 亦表態支持;13日,Donald Trump 與 Mike Johnson 反對倉促暫停,以免美國失去對中國的領先。
訂閱馬克雷達週報
每週五,本週最強訊號送進收件匣。隨時一鍵退訂。