AI代理耗電達傳統AI百倍，GPU空轉成效率致命傷

人工智慧代理不同於一次生成答案的傳統問答AI，會反覆呼叫大型語言模型、規劃步驟並使用搜尋等外部工具。韓國科學技術院（KAIST）研究顯示，這類流程讓GPU等待工具回傳時難以持續運算，能源效率因而成為代理大規模部署與資料中心供電規畫的關鍵風險。

最新研究量測發現，AI代理執行單次查詢的耗電量最高達傳統問答AI的136.5倍，GPU更有逾半數時間處於閒置空轉。現有資訊未列研究發表日期、測試模型與電費金額，但具體數據已揭示工具呼叫及等待時間帶來的能源負擔，未來普及恐加重全球電力基礎設施壓力。