Nvidia 推出 BlueField-4 STX 與 CMX 平臺加速 AI 推論儲存性能

代理式 AI 進行長上下文推理時，會反覆讀寫 KV 快取；資料若在 GPU 記憶體與傳統儲存間搬移，容易拖慢推論並降低 GPU 利用率。Nvidia 因此以 BlueField-4 STX 建立模組化參考架構，CMX 則提供機架級高速上下文層，讓雲端與伺服器業者依共同規格部署。

Nvidia 於 2026 年 3 月 16 日在 GTC 2026 發布 BlueField-4 STX 與首款機架級實作 CMX，宣稱較傳統儲存最高提升 5 倍 Token 吞吐量、4 倍能源效率及 2 倍資料匯入速度。AIC、Supermicro、Quanta Cloud Technology（QCT）已投入製造，相關平臺預定 2026 年下半年上市，售價尚未公布。