馬克雷達MARK RADAR
EN

圖靈獎得主 David Patterson 看好 HBF 成為 AI 推論下一個記憶體瓶頸技術

1 篇報導 · 首次偵測 2026-05-02 · 最後活動 2026-05-02

AI 運算重心正由模型訓練轉向大規模推論,記憶體需求也從追求頻寬,擴大至容納長上下文與大量中間狀態。現有 HBM 容量與成本受限,因此兼具高容量、低功耗特性的 HBF,被視為可能重塑 AI 伺服器儲存架構的關鍵技術。

圖靈獎得主 David Patterson 近日指出,HBF 可能接棒 HBM,成為化解 AI 推論記憶體瓶頸的下一項核心技術。其架構由堆疊 NAND Flash 負責大容量資料保存,並與承擔高速交換的 HBM 分工,以支援推論階段持續增加的上下文資料與運算狀態。

全部報導

1 篇原始報導

馬克翻舊帳

這個事件的歷史脈絡
跨越 AI 記憶體牆:HBF 技術與儲存階層重構剖析2026-05-05 · 1 報導 · 相似 0.82

AI推論的瓶頸正從算力轉向記憶體容量:MoE雖只啟用部分專家運算,全部模型權重仍須常駐顯存;長文本的KV Cache又會隨對話長度線性增長。昂貴的HBM難以獨力承擔所有資料,重構儲存階層遂成為降低成本與擴充容量的關鍵。

拓墣產業研究院於2026年4月23日發布報告,科技新報5月5日刊載,主張由HBM處理熱數據、HBF承載溫數據。HBF結合先進封裝與NAND Flash的容量及成本優勢,但商業化仍受封裝製程與NAND特性限制;報告未揭露投資金額、量產時程或具體規格數字。

馬克雷達|MARK RADAR
全站時間均為台北時間(GMT+8)