Billtrust CTO警告：AI 1%錯誤率每日恐引發百起問題

企業導入代理型 AI，正從單純生成內容走向自主執行帳務、付款與客戶溝通等流程。Billtrust 技術長 John Landy 指出，這類系統會直接影響日常營運，若缺乏乾淨數據、健全治理及人為監督，微小偏差也可能在大量交易中迅速放大，削弱自動化效益與企業信任。

Landy 最新警告，即使 AI 的錯誤率僅有 1%，在企業每日處理龐大工作量的情境下，仍可能衍生上百起問題。Billtrust 因此主張，企業在擴大代理型 AI 應用前，應先強化數據基礎設施、治理機制與人工覆核流程；真正可靠的 AI 自動化，取決於底層資料與控制措施，而非只追求部署速度。