美光攜手輝達推 SOCAMM2 記憶體標準，大幅提升 AI 伺服器效能並降低功耗

AI 伺服器處理大型語言模型時，記憶體頻寬與耗能形成「記憶體牆」，限制運算效能並推高部署成本。美光與輝達因此合作推動 SOCAMM2，將原有 SOCAMM 技術轉為 JEDEC 產業標準，盼統一高效能記憶體規格。

最新公布的 SOCAMM2 技術鎖定 AI 工作負載，效能最高可提升 6 倍，功耗則降低 66%。美光與輝達預期，新標準可改善 AI 伺服器效率，並降低 ChatGPT、Gemini 等大型語言模型的推論成本；目前資料未揭露導入日期與相關金額。