NVIDIA 執行長黃仁勳在 COMPUTEX 2023 主題演講宣布 NVIDIA GH200 Grace Hopper SuperChip 已正式量產，搭載 GH200 的系統預計於 2023 年稍晚上市；同時 NVIDIA 還一併公布由高達 256 個 GH200 Grace Hopper 構成的 NVIDIA DGX 200 超級電腦，具備超過 1 exaflops 效能與 144TB 記憶體，憑藉驚人的算力與巨量記憶體可為生成式 AI 、推薦系統與資料分析開發巨型的下一代模型。 Google Cloud 、 Meta 與微軟預計是首波導入 DGX GH200 作為探索生成式 AI 工作負載的公司。
GH200 Grace Hopper SuperChip 是為生成式 AI 提供高效能與巨量記憶體的晶片
▲ GH200 Grace Hopper SuperChip 單晶片即提供 4 Petaflops 的算力
GH200 Grace Hopper SuperChip 是由 NVIDIA 開發的 Grace CPU 晶粒與 Hopper GPU 晶粒以 NVLink-C2C 構成的超算級晶片，藉由 NVLink-C2C 提供晶粒對晶粒 900GB/s 頻寬，使 CPU 與 GPU 能以超過 PCIe Gen 5 高 7 倍的頻寬溝通，並使單一晶片具備 576GB 的統一記憶體與 4 Petaflops 的算力。
同時也藉由架構的一致性， Grace CPU 、 Hopper GPU 與 Ada Lovelace GPU 等架構組合皆全面支援 NVIDIA 軟體堆疊，包含 NVIDIA AI 、 NVIDIA Omniverse 與 NVIDIA RTX 等技術，舉凡自 AI 、數位孿生與元宇宙自晶站的視覺圖像效果皆可支援。搭載 GH200 SuperChip 的系統包含高達 400 多種基於 NVIDIA 的 CPU 、 GPU 與 DPU 架構，自運算、連接與網路等關鍵技術由 NVIDIA 一手包辦。
NVIDIA DGX GH200 透過 NVLink 將算力與總記憶體擴張到前所未有的境界
▲ NVIDIA DGX GH200 串皆高達 256 個 GH200 晶片，實現 1 exaflops 的效能與 144TB 的記憶體
NVIDIA DGX GH200 將 NVIDIA DGX 超算系統推進到全新的境界，利用 NVIDIA NVLink Switch System 突破 NVLink 僅能連接 8 個 GPU 的限制，同時新一代 NVLink 技術還具備相較上一代高出 48 倍的頻寬，將高達 256 個 GH200 SuperChip 串接，使其成為一個具備 144TB 統一記憶體的超大型 GPU ，並發揮 1 exaflops 的算力，對比 2020 年的 NVIDIA DGX A100 的系統記憶體提供 500 倍的記憶體容量。
NVIDIA 也將以 DGX GH200 打造自有的新一代超算系統，將冠上 NVIDIA Helios 的名稱，由 4 套 NVIDIA DGX GH200 構成，彼此之間利用 NVIDIA Quantum-2 InfiniBand 網路技術連接，共具備 1,024 個 GH200 SuperChip ， NVIDIA 預計 NVIDIA Helios 將於 2023 年底上線。
