科技巨頭爭相與Nvidia合作 展現AI晶片領域龐大影響力

生成式 AI 熱潮推升大型語言模型的訓練與推論需求，Nvidia 憑藉 GPU、CUDA 軟體及高速互連技術，建立涵蓋晶片、系統與開發工具的完整平台。科技公司即使自研晶片，仍難以忽視其效能與生態系，合作因而成為維持 AI 競爭力的關鍵。

Nvidia 在 2024 年 3 月 18 日至 21 日的 GTC 大會發表 Blackwell 架構，單顆 GPU 擁有 2,080 億個電晶體，AI 運算效能達 20 petaflops，特定大型語言模型推論速度可達 H100 的 30 倍。AWS、Google Cloud、Microsoft Azure 與 Oracle Cloud Infrastructure 均將提供 Blackwell 服務。