NVIDIA 在 SIGGRAPH 2023 宣布與包括 Dell 、 HPE 慧與、聯想 Lenovo 、雲達 QCT 、美超微等全球知名資料中心系統商共同推出搭載 NVIDIA L40S GPU 的 NVIDIA OVX 伺服器,借助為通用資料中心應用設計的 NVIDIA L40S ,輔以 NVIDIA Omniverse 平台,能廣泛應用於 AI 推論與訓練、 3D 設計與視覺化以及影片處理、工業數位化等運算密集項目。
NVIDIA L40S 預計在 2023 年秋季推出,系統夥伴預計在推出不久後提供搭載 NVIDIA L40S 的 OVX 系統。
▲多家系統商將於秋季推出搭載 NVIDIA L40S 的 OVX 系統
同時,受益於 NVIDIA AI Enterprise 與 Omniverse 兩項重大軟體與平台服務,搭載 NVIDIA L40S 的 NVIDIA OVX 伺服器能夠使用廣泛的開發資源;隨著此次 SIGGRAPH 2023 , NVIDIA AI Enterprise 與 Omniverse 也釋出重大功能更新;其中 NVIDIA AI Enterprise 支援用於迷你的 NVIDIA Modulus 、用於資料科學的 NVIDIA RAPIDS 與在生產環境提供 AI 的 NVIDIA Triton Inference Server ,可提供達 100 多種框架、預訓練模型、工具套件與軟體;Omniverse 平台則引進多項 AI 功能與加速推進 OpenUSD 與工業數位化的增強功能。
▲ NVIDIA L40S 是為廣泛資料中心應用負載設計的通用型 GPU
NVIDIA OVX 系統可搭載最多 8 個具備 48GB 記憶體的 NVIDIA L40S GPU ,受惠 Ada Lovelace 架構的第四代 Tensor Core 與 FP8 Tranformer Engine , NVIDIA L40S 可提供 1.45 PFLOPS 的張量運算性能,對比 NVIDIA A100 Tensor Core GPU , NVIDIA L40S 在處理數十億個參數與多種資料模式的複雜人工智慧負載,可在推論高出 1.2 倍、訓練速度增加 1.7 倍。
同時, NVIDIA L40S 也是出色的專業影像處理 GPU ,具備 142 個第三代 RT Core ,可提供 212 TFLOPS 的光線追蹤性能,可進行即時渲染、產品設計、創意 3D 內容等高品質專業視覺化。對於工程與科學模擬等領域, NVIDIA L40S 包含 18,176 個 CUDA Core ,相較 NVIDIA A100 在 FP32 的單經度浮點運算高出近 5 倍,更適合用於複雜運算與資料密集型分析。