Nvidia 發布產能訊息，Grace Hopper Superchips 進入生成式人工智慧全產能生產階段

Nvidia GH200 Grace Hopper 超級晶片全面投產，用於強大的高效能運算和生成式人工智慧工作負載

Nvidia 宣布其 GH200 Grace Hopper 超級晶片已全面投產，該晶片結合了基於 Arm 架構的 Nvidia Grace CPU 和 Hopper GPU 架構，並利用 Nvidia NVLink-C2C 互連技術，將用於執行複雜的人工智慧程式。這些系統加入了超過 400 種基於 Nvidia 最新 CPU 和 GPU 架構的配置，包括 Nvidia Grace、Nvidia Hopper 和 Nvidia Ada Lovelace，可以滿足生成式人工智慧和高效能運算 (HPC) 的激增需求。這些系統旨在快速改變醫療保健、金融和商業服務等多個行業。

系統配置和全球供應

由 GH200 驅動的系統將提供高達 900GB/s 的總頻寬，為應對最具挑戰性的生成式人工智慧和 HPC 應用提供強大的運算能力。全球超大規模運算中心和超級電腦中心在歐洲和美國等地將是數個使用 GH200 驅動的系統的客戶之一。臺灣製造商包括 ASRock Rack、ASUS、Gigabyte、Inventec、QCT、Tyan 和 Wistron 在內的數百家加速系統和雲端實例。此外思科、戴爾科技、惠普企業、聯想、Supermicro 等全球伺服器製造商提供廣泛的加速系統，其中包括 Nvidia 加速系統。作為 Nvidia H100 的雲端合作夥伴，包括亞馬遜網路服務 (AWS)、Cirrascale、CoreWeave、Google Cloud、Lambda、Microsoft Azure、Oracle Cloud Infrastructure、Paperspace 和 Vultr。

Nvidia AI 平臺的軟體層面，Nvidia AI Enterprise，提供超過 100 個框架、預先訓練的模型和開發工具，以簡化生成式人工智慧、計算機視覺和語音人工智慧等生產級人工智慧的開發和部署。搭載 GH200 超級晶片的系統預計將於今年晚些時候推出。

新的 Nvidia MGX 伺服器規範

為滿足資料中心多樣化的加速運算需求，Nvidia 推出了 Nvidia MGX 伺服器規範。該指南提供系統製造商一個模組化的參考架構，以快速、低成本地建立超過 100 種伺服器變體，以適應各種 HPC、Omniverse 和人工智慧應用。ASRock Rack、ASUS、GIGABYTE、Pegatron、QCT 和 Supermicro 計劃採用 MGX，可節省高達四分之三的開發成本，並將開發時間縮短到僅需六個月。製造商將從針對伺服器機箱的基本系統架構進行最佳化的加速運算開始，選擇他們的 GPU、DPU 和 CPU，然後設計不同的變體以應對獨特的工作負載。

Nvidia DGX GH200 人工智慧超級電腦

Nvidia 還宣布了一種新的大記憶體人工智慧超級電腦型別，即 Nvidia DGX GH200，這是一種由 Nvidia GH200 Grace Hopper 超級晶片和 Nvidia NVLink Switch 系統驅動的 Nvidia DGX 超級電腦，將 256 個 GH200 超級晶片結合成單一 GPU 的效能。透過共享的記憶體空間和具有 NVLink 互連技術的 NVLink Switch 系統，可以容納生成式人工智慧、大型語言模型和推薦系統。

GH200 超級晶片透過在同一封裝中結合基於 Arm 的 Nvidia Grace CPU 和 Nvidia H100 Tensor Core GPU，消除了傳統的 CPU 到 GPU PCIe 存取的需求，為 DGX GH200 超級電腦提供高達 600GB 的 Hopper 架構 GPU 構建模組。DGX GH200 架構提供了比上一代系統多十倍的頻寬，以單一 GPU 的程式設計簡單性提供了大型人工智慧超級電腦的強大運算能力。Google Cloud、Meta 和 Microsoft 將是首批能夠使用 DGX GH200 探索其生成式人工智慧工作負載能力的客戶。預計 DGX GH200 超級電腦將於今年晚些時候推出。

結論

隨著人工智慧改變著企業，開啟新的機遇並加速各個行業的發現，Nvidia GH200 Grace Hopper 超級晶片的全面投產滿足了對生成式人工智慧的激增需求。Nvidia 最新的 CPU 和 GPU 架構旨在滿足端到端的高效能運算和人工智慧需求。模組化的 Nvidia MGX 伺服器規範和 Nvidia DGX GH200 超級電腦提供了一種簡單而無縫的方法，用於建立用於大型語言、人工智慧等高級生成模型，節省開發時間和成本。

全球製造商將很快提供加速基礎設施，以構建和部署利用其獨特專有資料的生成式人工智慧應用。這確保了企業人工智慧不僅具有可實現性，而且在 Nvidia 持續創造能夠應對現代經濟中最具挑戰性任務的高效能運算解決方案的同時也具有可存取性。