IBM攜Together AI簽2.4億美元協議 採輝達Blackwell攻AI推論

生成式 AI 的競爭正從模型訓練延伸至推論，也就是讓完成訓練的模型回應企業實際請求。隨應用普及，推論量與運算支出同步攀升，效能及每次呼叫成本因而成為企業導入關鍵。IBM 與主打開源模型服務的 Together AI 合作，意在加速 AI 進入大規模生產環境。

IBM 與 Together AI 於 2026 年 8 月 11 日宣布簽署總值 2.4 億美元的多年期協議，將在 IBM Cloud 建置大規模 AI 推論叢集。系統採用 NVIDIA HGX B300 Blackwell 平台及 Spectrum-X 網路，鎖定開源 AI 模型的高吞吐量推論，協助企業提升效能並降低工作負載成本。