NVIDIA 執行長黃仁勳在 2022 年 NVIDIA 春季 GTC 大會公布代號 Hopper 的新一代 AI 超算加速 GPU NVIDIA H100 ,在秋季 GTC 大會 NVIDIA 宣布 NVIDIA H100 已經進入量產,由系統合作夥伴開發的 NVIDIA H100 認證系統預計自 10 月開始出貨,而合作夥伴已可透過 NVIDIA LaunchPad 計畫進行試用評估,至於 NVIDIA 的 DGX H100 系統將於 2023 年第一季出貨。
值得注意的是,由於 DGX H100 系統搭配的是代號 Sapphire Rapids 的 Intel Xeon 處理器,似乎也暗示拖延已久的 Sapphire Rapids 也終於要在 2022 年第四季到 2023 年第一季正式供貨。
▲ DGX H100 率先以搭配 x86 架構於 2022 年 10 月由系統商開始出貨,而 NVIDIA 官方版 DGX H100 則將於 2023 年第一季出貨
NVIDIA H100 是 NVIDIA 作為 NVIDIA A100 後繼的新一代 AI 超算級加速 GPU 產品,由超過 800 億個電晶體構成,具備 NVIDIA 第二代 Multi-Instance GPU 技術、機密運算、第四代 NVLink 、 DPX 指令等,同時導入全新 Transformer Engine ,進一步提升大規模 AI 與 HPC 應用效能; NVIDIA H100 可進一步降低成本,以相同的 AI 算力為目標,相較 NVIDIA A100 系統可減少 3.5 倍能耗、降低 3 倍總持有成本,同時可將系統節點減少至 1/5 。
▲ NVIDIA 後續還有搭配 Grace GPU 以及 Grace Hopper SuperChip 版本的 H100 系統
作為 NVIDIA 新一代超算架構計畫的一環, NVIDIA 雖然在加速運算領先,但相較 AMD 與 Intel 則少了 x86 CPU,技術,是故 NVIDIA Hopper 不僅能夠搭配 AMD 與 Intel 的 x86 架構 CPU ,同時也同步規劃名為 Grace 的超算級 Arm Neoverse N2 架構 CPU ,能與 Hopper GPU 構成透過 NVLink 直接溝通的 Grace Hopper SuperChip 的單一超級晶片,或是以 Grace Super SuperChp 以 PCIe 5.0 通道與 Hopper GPU 的 NVLink SMX 模組連接。
除了 NVIDIA H100 系統外, 雲端服務商 AWS、Google Cloud、Microsoft Azure、Oracle Cloud Infrastructure 等也預計在 2023 年佈署基於 NVIDIA H100 的雲端實例。