輝達與科技巨頭齊攻開源AI模型，加速推論分工帶動算力成長

企業導入生成式 AI 後，成本焦點正從訓練轉向長期推論。微軟 Azure、Amazon Web Services（AWS）等雲端平台因此同時供應開源與閉源模型，讓開發者依任務難度分流：摘要、分類與程式輔助交給較便宜的開源模型，複雜推理則使用頂級閉源模型，在效能、成本與資料控制之間取得平衡。

最新訊號來自輝達財報與科技巨頭的模型布局：企業擴大採用混合模型架構，並透過量化、蒸餾與加速推論降低單次運算成本。輝達也開放自家模型與工具，企圖把更多開源工作負載導入 CUDA 生態系；即使每次推論成本下降，使用量與 AI 代理執行頻率快速增加，仍可推升 GPU 需求及資料中心營收。