AI 推理需求改寫 HBM 價值：Token 吞吐量公式拆解記憶體增長邏輯

傳統 DRAM 隨 PC 銷售與景氣循環起伏，但 AI 推理將衡量標準改為每單位成本與功耗可產生的 Token 數。半導體架構分析人士 fin 指出，批次量受 HBM 容量限制、生成速度受頻寬限制，兩者乘積因而成為 GPU 吞吐量與記憶體價值的核心。

鏈新聞 ABMedia 於 2026 年 5 月 4 日報導，若輝達每代 GPU 的 Token 吞吐量要成長 2 倍，HBM 容量與頻寬的乘積也須翻倍；從 A100 到 Rubin Ultra 的趨勢線高度吻合。供應集中於 SK 海力士、三星與美光，原文未提出採購金額，並提醒擴產仍可能重啟價格週期。