輝達發表客製化 NVHBM 技術，AWS 自研晶片搶先導入

生成式 AI 推升高頻寬記憶體需求，雲端業者也加速開發自研加速器，以降低對通用 GPU 的依賴。輝達推出 NVHBM，將記憶體控制器整合至邏輯晶粒，藉此提高資料傳輸頻寬並釋放更多運算晶粒面積，企圖把自身技術延伸至客戶設計的晶片架構。

亞馬遜旗下晶片設計公司 Annapurna Labs 成為 NVHBM 首家採用夥伴，計畫在下一代 AWS Trainium4 AI 訓練晶片導入這項技術。輝達尚未公布具體出貨日期或商業金額，但此次合作顯示，即使雲端巨頭持續擴大自研晶片，輝達仍可透過記憶體與系統技術切入其供應鏈。