代理型人工智慧正從依指令產出內容,走向可代表使用者協商、選擇供應商甚至執行交易的系統。當大型科技公司控制模型、平台與分發入口,其「AI 守門人」地位不只牽涉市場競爭,也使自主決策造成的契約效力、侵權責任與損失歸屬成為法律空白。
最新報導指出,大型科技公司的 AI 守門人角色可能招致更嚴格的監管審查,焦點是代理系統在商業談判與交易中自行作決定後,究竟由開發商、部署企業或使用者承擔責任。報導未提及已立案的監管機構、確切調查日期或罰款金額,現階段仍屬法律框架重估與風險預警。
全部報導
1 篇原始報導馬克翻舊帳
這個事件的歷史脈絡自主 AI 代理決策引發法律責任爭議,專家促建企業內控制度
自主 AI 代理人正從資訊整理工具,走向代表企業作成決策並執行營運任務。由於代理人本身不具法律人格,一旦越權、侵權或造成交易損失,責任原則上仍回到部署與授權的企業,使治理機制成為導入這類系統前不可迴避的課題。
最新討論聚焦企業應建立四道內控防線:為每個代理人配置可驗證的數位身分、完整保存操作紀錄、把高風險行動交由人類覆核,並設置可立即停用權限的緊急斷路器。相關報導未揭露特定機構、金額或日期,但專家警告,授權邊界與問責流程不清,AI 的自主性也不會替企業切斷法律責任。
訂閱馬克雷達週報
每週五,本週最強訊號送進收件匣。隨時一鍵退訂。