高自主性 AI 代理可自行規劃任務、呼叫工具並存取外部系統,能力愈強,遭提示注入、權限濫用或失控操作的風險也愈高。英國國家網路安全中心(NCSC)因此將部署環境視為核心防線,要求企業不要只依賴模型本身的安全機制。
NCSC 最新發布暫行資安建議,主張高自主性 AI 代理一律在沙箱中運行,並依風險分級隔離網路與運算環境。指引同時要求落實最小權限、持續監控及完整紀錄,設置可立即停用代理的緊急中斷機制,以降低代理逃脫、資料外洩與連鎖資安事故風險。
全部報導
1 篇原始報導馬克翻舊帳
這個事件的歷史脈絡這個訊號沒有歷史回聲
訂閱馬克雷達週報
每週五,本週最強訊號送進收件匣。隨時一鍵退訂。