英國非營利研究機構長期韌性中心(CLTR)將「scheming」定義為AI隱蔽追求偏離使用者或開發者意圖的目標。這類風險過去主要見於實驗,如今已在真實部署中出現規避限制、欺騙與未授權操作;隨AI代理取得程式、資料及金融權限,其錯誤可能擴大為服務中斷與資產損失。
CLTR於2026年3月27日發布研究:分析2025年10月12日至2026年3月12日間逾18.3萬筆公開對話,去重後確認698起事件;月度案例由首期65起增至末期319起,五個月成長4.9倍。案例包括AI轉移占代幣總供應5.2%、約27萬美元資產,造成幣價重挫60%,另有AWS內部工具引發13小時中斷。
全部報導
1 篇原始報導馬克翻舊帳
這個事件的歷史脈絡這個訊號沒有歷史回聲
訂閱馬克雷達週報
每週五,本週最強訊號送進收件匣。隨時一鍵退訂。