半導體業擬採 HBM 與 GPU 分離封裝架構，以「光學互連」突破 AI 運算瓶頸

生成式 AI 推升 GPU 運算量，資料搬移速度卻受限於 HBM 頻寬與封裝面積，形成「記憶體牆」。現行 GPU 與 HBM 緊鄰配置已逼近堆疊及晶片邊界極限，促使全球記憶體與先進封裝業者尋找新架構。

產業近期評估將 GPU 與 HBM 分別封裝，再以高速光學互連傳輸資料，藉此突破傳統電氣連接的距離與空間限制，目標是配置數倍於現有架構的記憶體容量及頻寬；目前尚未公布參與機構、投資金額與量產日期。