AI實驗室掀價格競爭：主流模型Token調用成本大幅下降

大型語言模型的競爭正從單純追求更高效能，轉向比較每次推論的成本效益。史丹佛大學《AI Index》指出，達到約 GPT-3.5 水準的模型，處理每百萬 Token 的成本在不到兩年間大幅下滑；a16z 將此趨勢稱為「LLMflation」，並比擬寬頻價格下降後帶動網路應用普及的歷程。

《AI Index》數據顯示，同等能力模型的每百萬 Token 推論成本，已由 2022 年 11 月約 20 美元，降至 2024 年 10 月約 0.07 美元，跌幅超過 280 倍。OpenAI、Google 與 Anthropic 等實驗室持續調降 API 價格，顯示價格、延遲與部署效率正成為企業選擇模型時的關鍵戰場。