NVIDIA 看好 5G 與邊際 AI 運算需求，近年持續推出基於自伺服器與 Jetson 平台構成的 GPU 邊際 AI 運算平台，在此次 GTC 主題演講， NVIDIA 也宣布 NVIDIA EGX AI Edge 平台，藉由新世代 NVIDIA A100 加持的 EGA A100 伺服器與 EGX Jetson Xavier NX 組成完整且提供即時 AI 的組合。
隸屬於 EGX AI EGX 平台2k7 EGX Jetson Xavier NX 邊際微型伺服器已經上市，至於搭載 NVIDIA A100 的 EGX A100 與系統預計在 2020 年底推出。
▲ EGX A100 整合 Mellanox ConnectX-6 Dx 網卡與 NVIDIA A100 GPU
透過 NVIDIA EGX AI Edge 平台，能夠提供自資料彙整、資料保護與管理遠距邊際 AI 設備的能力，並透過高性能的 EGA A100 伺服器與容易部署的 EGX Jetson Xavier NX ，滿足不同尺寸、成本與規模的 AI 需求；如零售業可藉由 EGX A100 管理機場中數百台網路攝影機資料，而如超商小規模需求則僅需以 EGX Jetson Xavier NX 即可管理配置的攝影機。
▲ NVIDIA EGX A100 搭配 ISAAC 可滿足工廠自動化之需求
▲智慧城市、大型建築物之安控是 EGX A100 的擅場
NVIDIA EGX A100 是針對邊際運算基礎設施之設計，基於 NVIDIA 甫發表的 Ampere 架構的 NVIDIA A100 AI 與通用運算處理器，能夠滿足邊際運算之 AI 推論與各式 5G 相關應用，舉凡處理海量影像數據流或是彙整與分析大量物聯網感測器數據，皆能提供優越的性能。
同時 NVIDIA EGX A100 模組採用 NVIDIA Mellanox ConnectX-6 Dx 網路卡，能夠接收達 200 Gbps 的數據量，並將這些資料透過 GPUDirect 技術直接傳送到 GPU 記憶體，加速 AI 與 5G 訊號處理。此外藉由雲原生軟體定義的加速器特性，能夠針對種是低延遲的應用如商店、醫院與生產線等，進行即時的 AI 決策判斷。
▲ NVIDIA EGX Jetson Xavier NX 適用於小規模與對能源要求較高的邊際運算應用
至於 NVIDIA EGX Jetson Xavier NX 則基於 NVIDIA Xavier 嵌入式 AI 平台，透過 Xavier SoC 以僅名片大小發揮強大的運算效能，能夠處理多個高解析度影像訊號流，可在 15W 發揮 21TOPS 性能，若對功耗要求較嚴苛，縱使是在 10W 下亦有 14 TOPS 的表現。
▲生態鏈夥伴已經著手規劃 EGX AI Edge 平台的開發與布局
此外， NVIDIA 也針對 EGX AI Edge 平台提供適合各領域的應用程式框架，並可透過容器化軟體提供 GPU 加速的工作負載； NVIDIA 應用程式框架包括針對醫療的 Clara 、針對對話式 AI 的 Javis ，針對機器人的 Isaac 與針對智慧程式、零售與交通的 Metropolis 等。
