傳奇程式設計師倡議 AI 推論記憶體架構應改用 NAND Flash 降本

AI 加速器目前高度依賴 HBM 提供高頻寬，以支撐大型模型推論，但成本與供應已成資料中心擴建瓶頸。John Carmack 認為，推論的記憶體讀取順序可預測，可透過預先排程改採 NAND Flash；花旗也指出企業級 SSD 可能成為 AI 記憶體的替代方案。

最新討論聚焦 Carmack 提出的架構重設：以價格約為 HBM 百分之一的 NAND Flash 承擔推論資料存取，降低 AI 加速器記憶體成本。截至 2026 年 7 月 20 日，相關報導未揭露具體美元報價、發言日期或產品時程，「便宜百倍」仍屬成本級距比較，尚非量產硬體實測結果。