NVIDIA 公布整合 Groq 技術之新推論晶片並由三星代工

生成式 AI 市場正由模型訓練轉向大規模推論，晶片能否以低延遲、高吞吐量產生 Token，已成為雲端業者控制成本的關鍵。NVIDIA（輝達）整合 Groq 的 LPU 架構，意在補強 GPU 之外的推論產品線，迎戰 CSP 自研 ASIC。

黃仁勳於 2026 年 GTC 大會公布 NVIDIA Groq 3 LPU，為輝達首款整合 Groq 技術的推論晶片，由三星代工並預計第三季出貨；相關報導稱技術授權交易規模達 200 億美元。他並預期大型語言模型將依 Token 品質分層定價，由 AI 工廠動態分配訓練與推論負載。