NVIDIA 宣布新版 GH200 Grace Hopper 平臺：搭載 HBM3e 記憶體技術
硬體的巨大突破
NVIDIA 日前在 SIGGRAPH 年度會議上宣布了一系列新發展，其中一項最重要的是發布了更新版本的 GH200 Grace Hopper 平臺，並搭載下一代 HBM3e 記憶體技術。這款 GH200 平臺是今年五月在臺灣的 Computex 展會上公開發布的 GH200 晶片的升級版。在 SIGGRAPH 的主題演講中，NVIDIA 創始人兼執行長 Jensen Huang 表示：“我們在幾個月前宣布了 Grace Hopper，今天我們將宣布一下對它的升級。”
新版 GH200 的內部結構
自 2021 年以來，Grace Hopper 超級晶片一直是 NVIDIA 執行長的重要話題，當時該公司透露了一些初始細節。這款超級晶片基於 Arm 架構，該架構在移動裝置中被廣泛使用，並且與英特爾和 AMD 的基於 x86 的矽芯競爭。NVIDIA 將其稱為“超級晶片”，因為它將 Arm-based NVIDIA Grace CPU 與 Hopper GPU 架構結合在一起。在新版 GH200 中，Grace Hopper 超級晶片得到了來自世界上速度最快的記憶體 HBM3e 的提升。據 NVIDIA 稱，與當前 GH200 中的 HBM3 技術相比，HBM3e 記憶體的速度提升了 50%。NVIDIA 還聲稱，HBM3e 記憶體將使下一代 GH200 在執行人工智慧模型時提速 3.5 倍。
更快的硬體意味著更快、更大的 AI 應用推斷和訓練
NVIDIA 不僅製造更快的矽芯，還在推出一款新的伺服器設計。Buck 表示 NVIDIA 正在開發一款新型基於兩個 GH200 Grace Hopper 超級晶片的 NVIDIA MGX 伺服器系統。他解釋說，新版 GH200 將透過 NVIDIA 的存取技術 NVLink 存取。在新的雙 GH200 伺服器中，系統內的 CPU 和 GPU 將透過一個完全一致的記憶體互連存取在一起。Buck 說：“CPU 可以存取其他 CPU 的記憶體，GPU 可以存取其他 GPU 的記憶體，當然 GPU 也可以存取 CPU 的記憶體。”作為結果，結合起來的超大型超級 GPU 可以作為一個整體執行，提供 144 個 Grace CPU 核心、8 千億次的運算效能和 282GB 的 HBM3e 記憶體。
時間是取得產品化使用案例的關鍵
儘管新一代 NVIDIA Grace Hopper 超級晶片速度很快但要等待一段時間才能實際用於生產使用案例。預計下一代 GH200 將於 2024 年第二季度面市。
延伸閱讀
- 柏林科技企業 trawa 籌得 1 千萬歐元，運用人工智慧協助中小企業更輕鬆購買可再生能源
- Google 將在 YouTube 學術影片中推出人工智慧生成的測驗
- Google 在 I/O 主題演講中提到「AI」超過 120 次
- 在人工智慧電影節上，人性戰勝科技
- AI 推動社會變革，女性呈現關鍵力量
- 開放 AI （OpenAI）的 ChatGPT 新聞發布：我們當前所知道的事情
- OpenAI 考慮允許 AI 色情內容？
- AI 晶片新創 DEEPX 以 5.29 億美元估值成功籌得 8000 萬美元 C 輪融資
- Fairgen「提振」調查結果，利用合成資料和人工智慧生成的回應
- 用 Retell AI 讓公司打造「語音代理人」來應答電話
