NVIDIA 在今年 Computex 宣布針對 AI 與邊際運算需求的 EGX 邊際運算方案，建構從雲到端的 AI GPU 運算設備與軟體環境，而在 MWC LA 大會再由執行長黃仁勳宣布針對邊際運算的 EGX 超級運算伺服器，鎖定 5G 與 AI 世代在各領域針對大量資料於邊際處理需求，提供低延遲、超級運算等級的邊際 AI 平台系統，並降低大量未經處理資料在雲與端之間相互傳輸產生效率低落問題，鎖定包括智慧零售、智慧製造、智慧城市等結合 AI 應用的領域需求。
▲ EGX 邊際超算伺服器以軟體定義方式使其能應用在各種領域
▲亞馬遜透過 NGX 平台進行智慧零售實驗室的智慧商店的後端基礎建設
目前諸如 BMW 、 NTT 東日本、 P&G 寶僑集團、三星電子、舊金山、拉斯維加斯、 Wallmart 等，皆宣布導入 EGX 平台作為邊際運算使用，藉 NVIDIA 的 EGX 平台與 GPU 加速生態，作為物聯網管理、智慧生產、零售、客服、農業與智慧城市等領域對邊際運算的解決方案。
▲ Ericsson 與 NVIDIA 攜手透過 EGX 建構 5G vRAN
▲ EGX 亦能作為部屬 GeForce NOW 的基礎架構
同時， Ericsson 也在此次主題演講，宣布將採用 NVIDIA 的 EGX 邊際超算伺服器建構 5G vRAN ( 5g Virtual Radio access network ,5G 虛擬化無線接取網路)，借由 EGX 的 GPU 軟體定義，以 NVIDIA GPU AI 運算驅動虛擬化的無線接取網路平台，藉軟體定義方式可持續升級。另外，透過 EGX 伺服器亦可用於乘載 GeForce NOW ，除了已經在日前宣布的韓國 LG U+ 、軟體銀行外，台灣大哥大亦將導入基於 EGX 伺服器的 GeForce NOW 雲遊戲服務。
▲智慧手機世代為業界帶來由軟體定義引領的創新
▲萬物智慧化將是在智慧手機之後的下一波浪潮
NVIDIA 執行長黃仁勳表示，過去的數十年，業界由電腦時代進入智慧手機世代，而智慧手機世代帶來最大的革新源自軟體定義的發展，藉由軟體定義帶來更廣泛的應用，而進入 5G 世代，黃仁勳則看好智慧化與聯網帶來的萬物智慧化革命，藉由聯網技術與 AI 技術，引領新世代的產業變革， NVIDIA 則扮演提供運算平台供應者的角色，供應業界所需的硬體與軟體方案，其中此次的 EGX 邊際超算伺服器，即是可借由軟體定義化身自 5G 、物聯網、 AI 、 3D 、 XR 等平台。
▲ 5G 的寬頻、低延遲特性將驅動萬物智慧化
驅動萬物智慧化的其中一項關鍵，來自 5G 技術所帶來的聯網變化， 5G 提供更彈性化的通訊聯網技術，自高頻寬到低延遲特性，以及針對物聯網的低功耗標準等，有助使萬物更容易連接上網路平台，但更多裝置聯網，也意味著產生會更大量的數據資料，從簡單但大量的物聯網資料到由高畫質攝影機龐大的即時影像資料等，若將這些資料全部回傳到雲端，不僅會產生嚴重的網路傳輸負擔，所有的數據分析與運算都透過雲伺服器處理也會使處理效率低落。
▲ NVIDIA 將自身定位在提供基於 GPU 技術的運算平台企業
邊際運算並不是新名詞，隨著大量數據需要更即時性的處理，以及更廣泛基於物聯網 IoT 的應用，若將所有數據都透過雲端運算處理，除了會占用數據頻寬、加劇雲運算平台負擔外，無法滿足對部分有急切性的應用情境，如智慧生產、智慧新零售管理、智慧交通、城市安全等需求，然而在 5G 世代也由於整合物聯網，大量物聯網端點設備使數據量激增，也促使 NVIDIA 推出針對邊際 AI 需求的 EGX 超級運算平台。
▲ EGX 具備 CUDA GPU 與 Tensor Core ，滿足運算與 AI 的需求
透過 EGX 平台具備媲美 AI 超級電腦的運算性能，能夠預先在邊際處理來自感測器等物聯網設備節點產生的大量數據，不用再等待大量資料回傳到雲平台的拴與處理時間，不僅能夠縮減資料往返雲端與節點的時間，可提供低延遲的應對機制與數據管理，也藉由 EGX 將這些複雜的大量數據預先處理後成為精確的最終結果，僅須透過少量的頻寬即可回傳給後端的雲平台進行持續的管理與資料彙整。
▲除了 GPU 外， NVIDIA 也提供 Mellanox Smart INC 提供達 200Gbps 的傳輸網路架構
▲微軟於 Azure 導入 NVIDIA 的 EGX 系統，提供運算與 AI 技術服務
EGX 平台指的就是基於 NVIDIA GPU 加速與 AI 技術的邊際伺服器，主要的關鍵是在邊際伺服器平台搭載具備 Tensor Core 技術之 Tesla T4 、 Tesla V100 與 Quadro RTX 8000 等 GPU ， NVIDIA 亦提供 200Gbps 的 Mellanox Smart NIC ，提供高頻寬的跨主機相互連接與如影像等大量資料輸入之用，同時強調具備 Secure Boost Root 提供高度的安全性，使其能夠處理大量運算資料與進行高效率的 AI 運算，當前如 Dell 、 HP 、富士通、聯想、 QCT (雲達)、美超微等超過 20 家系統業者皆宣布已經或是將提供符合 EGX 標準的系統。
▲ Red Hat 紅帽宣布與 NVIDIA 合作提供 GPU 與 AI 的軟體堆節方案
當然 EGX 提供的不光只是硬體平台，而是一項完整的軟體定義邊際運算解決方案， NVIDIA 與多家軟體與平台協力夥伴共同建構完整的軟體生態平台，並與軟體業者包括 Canonical 、NUTANIX 、 CISCO 、 RedHat 、 VMWare 提供完整的軟體堆疊解決方案，自 EGX 軟體堆疊、 CUDA-X 以及與雲服務構成完整的生態系統，使有意導入邊際 AI 的業者能夠迅速建構完整的服務體系。
▲ METROPOLIS IoT 應用框架能夠藉由 NGX 預先處理來自城市攝影機的大量影像資料，使雲端平台僅需接收處理後的精簡資料進行分析
黃仁勳也在發表會介紹幾項 EGX 的應用案例，例如透過 NVIDIA METROPOLIS IoT Application Framework 進行都會交通的分析，透過在 EGX 邊際超算伺服器預先完成影像處理後，將複雜的影像資料變成簡單的分析用數據，再傳送到雲平台後完成通情況分析，透過在邊際架設 EGX 超算伺服器進行影像分析，不僅降低把大量影像資料傳送到雲端的延遲，並能使後端雲平台更容易蒐集與分析經過預處理的資訊。
▲ JAVIS 是可執行多種模型的混合式 AI ，可用於即時人物辨識與語意分析
▲另一個 JAVIS 應用案例則是無人商店的自然語意客服系統
此外，黃仁勳也宣布將在 11 月開始提供 JAVIS MultiModel AI SDK 的 Early Access ，採用 TensorRT 框架，並提供預訓練的模型；這項 AI SDK 不只是單功能應用，而是同時執行多項 AI 機能的混合型 AI ，整合包括影像分析與自然語意的功能，在活動上也展示兩項應用案例，其一是結合車輛娛樂系統的自然語意分析，能夠辨識駕駛與乘客的臉與對話內容，進行自然語意溝通；另一項則是應用是在今年 GTC 展示的無人商店應用，除了辨識顧客外，亦可分析顧客手指的商品，可在進行與客戶的自然語意對話時，更精確地了解顧客想諮詢的商品是哪一項。
▲ AI 、 GPU 、 Smart NIC 、 Cloud Native 、 EGX 與 5G vRAN 是黃仁勳認為驅動 Smart Everything 世代的六大關鍵
