生成式 AI 的運算需求正從模型訓練逐步轉向大規模推論,也就是讓模型持續回應使用者與企業服務。通用 GPU 雖具彈性,但在成本、功耗與延遲方面未必最有效率,促使雲端業者與模型公司尋求針對特定工作負載設計的客製化 ASIC,藉由軟硬體協同設計提高效能。
截至 2026 年 8 月,推論晶片競賽明顯升溫。AMD 收購晶片新創 Taalas,強化客製化運算布局;Etched 則取得 7 億美元融資,加速開發專為 Transformer 模型設計的晶片。OpenAI、Anthropic 等前沿 AI 實驗室也加快自研晶片計畫,試圖降低對通用 GPU 的依賴並掌握推論成本。
全部報導
1 篇原始報導馬克翻舊帳
這個事件的歷史脈絡這個訊號沒有歷史回聲
訂閱馬克雷達週報
每週五,本週最強訊號送進收件匣。隨時一鍵退訂。