GTC 2024:NVIDIA推出為兆級參數GPU運算與AI基礎設施最佳化的Quantum-X800 InfiniBand與Spectrum-X800乙太網路交換機

2024.03.19 06:00AM

NVIDA公布全新GPU架構Blackwell與NVIDA B200 GPU、NVIDIA GB200 Superchip,於此同時,為了因應兆級參數GPU運算與AI基礎設施需求,NVIDA也宣布兩款新型交換機產品,分別為Quantum-X800 InfiniBand與Spectrum-X800乙太網路,提供最高效能AI基礎設施與適合每個資料中心的AI最佳化網路使用,具備最高800Gb/s的端到端吞吐量,同時大幅提升網路內運算性能。

包括微軟Azure、Oracle Cloud Infrastruture、Corewave等宣布將為早期採用者。Aivres、DDN、戴爾科技集團、Eviden、Hitachi Vantara、慧與科技、聯想、美超微和VAST Data則預計在2025年推出Quantum-X800 InfiniBand與Spectrum-X800乙太網路。

Quantum-X800 InfiniBand

▲Quantum-X800平台包括NVIDIA Quantum Q3400交換器與NVIDIA ConnectX-9 SuperNIC

Quantum-X800 InfiniBand是為AI專用基礎架構釋放最高效能的平台,Quantum-X800平台包括NVIDIA Quantum Q3400交換器與NVIDIA ConnectX-9 SuperNIC,具備800Gb/s的端到端吞吐量,藉由NVIDIA SHARPv4(可擴展分層聚合與縮減協定),較前一代提高5倍頻寬容量與9倍網路內運算性能,可達14.4TFLOPS。

Spectrum-X800乙太網路

  

▲Spectrum-X800結合Spectrum SN5600 800Gb/s交換機與NVIDIA BlueField-3 SuperNIC

Spectrum-X800乙太網路為AI雲端與企業基礎設施提 供最佳化網路效能、促進更快處理、分析與執行AI負載,專為多用戶環境設計,確保每個租戶的AI工作負載效能隔離;Spectrum-X800結合Spectrum SN5600 800Gb/s交換機與NVIDIA BlueField-3 SuperNIC,提供多租戶生成式AI雲端與大型企業所需的先進功能集。

完整的NVIDA軟體支援

除了硬體,NVIDA也提供一套網路加速函式庫、軟體開發套件與管理軟體,使兆級參數AI模型效能得以最佳化,其中包括NVIDIA集體溝通常式程式庫(NCCL);NCCL可將GPU平行運算任務擴展至Quantum-X800網路結構,利用網路內運算功能與支援FP8的SHARPv4增強大型模型訓練與生成式AI效能。透過完整的軟體方案,可提供先進的可程式設計性,使資料中心網路更靈活、可靠且回應迅速,最終提升整體營運效率並支援現代應用程式與服務所需。