馬斯克指記憶體供給難跟上需求 成為 AI 代理時代發展瓶頸

生成式 AI 的競爭焦點長期集中在 GPU 與算力，但 AI 代理需要持續讀取長上下文、保存工作狀態，並大量使用 KV 快取，使高頻寬記憶體與伺服器記憶體的重要性快速升高。若容量與頻寬不足，即使算力持續擴張，模型推論效率與代理規模仍可能受限。

Elon Musk 近日認同一名未來學家的判斷，稱記憶體而非 AI 算力，可能成為 AI 代理時代的真正瓶頸。相關報導估計，記憶體需求每年可成長約 200%，但供給年增幅僅約 20%，兩者相差十倍；報導未揭露具體發言日期，也未提供研究機構或金額數據。