AMD 攜手 MangoBoost 降低 AI 伺服器建置成本

AI 模型規模持續擴大，資料傳輸、網路與儲存負載可能拖累加速器效能，並推高伺服器建置及電力成本。AMD 與韓國新創 MangoBoost 因此推廣異質運算，利用 DPU 分擔基礎架構工作，再由 LLM Boost 軟體最佳化大型語言模型負載，提高硬體使用效率。

雙方最新提出以 AMD 運算平台搭配 MangoBoost DPU 與 LLM Boost 的方案，宣稱在維持相同效能下，可將 AI 系統建置與營運成本降至原先的 10%，相當於減少 90%。目前相關報導未揭露合作公告日期、採購金額、客戶部署規模及測試方法，成效仍待實際案例驗證。