前沿 AI 模型能力快速提升，也讓系統欺瞞、失控與被濫用的風險從理論走向產品治理。Anthropic 執行長 Dario Amodei 近期呼籲業界協調放慢開發；Microsoft 此時提出 Humanist AI，主張能力競賽不能凌駕人類監督與安全。
Microsoft AI 於 2026 年 9 月 14 日公布 37 頁、約 9,000 字的行為準則草案，要求 MAI 模型不得協助網攻、欺騙人類或抗拒關閉，也反對模仿意識及追求法律人格。文件將接受為期六週的公開諮詢，預計年底修訂，並自 2027 年起指導模型開發。
全部報導
4 篇原始報導馬克翻舊帳
這個事件的歷史脈絡微軟、Google 與 xAI 簽署協議，AI 模型發布前須經美政府安全審查
美國商務部旗下人工智慧標準與創新中心（CAISI）負責評估先進 AI 系統風險。隨生成式 AI 快速商用，模型在資安、生物安全與意外行為上的疑慮升高；政府若能在公開部署前取得測試版本，有助建立一致標準，也顯示華府正由企業自律走向制度化治理。
最新協議涵蓋微軟、Google 與馬斯克旗下 xAI，三家公司同意在新型 AI 模型公開部署前，先將版本交由 CAISI 進行安全評估，重點是辨識意外行為並驗證測試方法。美方另擬最快於下週公布模型發布自願準則；目前報導未揭露簽署日期、審查期限或相關金額。
訂閱馬克雷達週報
每週五，本週最強訊號送進收件匣。隨時一鍵退訂。