在結束昨日的主題演講後, NVIDIA 執行長黃仁勳在 MWC LA 開展日接受媒體聯訪,黃仁勳表示,在當前進入萬物智慧化與物聯網革新的世代,網路基礎建設也面臨相當多的挑戰,由於連網的裝置遽增,需要更強大的設備管理與數據處理性能,同時許多智慧化與自動化應用情境需要低延遲的反應,同時在隱私權抬頭與數據所有權的考量之下,並不能把全部的數據資料仰賴後端雲數據中心處理,一來對網路架構與數據中心造成極大負擔,其次有著網路延遲問題,最後也須面對資料安全考量,故邊際運算將是重要的手動,這也是 NVIDIA 推出超算級、軟體定義的 EGX 平台的目的。
▲ EGX 平台藉由軟體定義使相同硬體架構能彈性應對不同領域的邊際運算需求
雲端技術固然是網路世代重要的服務基礎,不過隨著萬物連網趨勢抬頭,大量連網設備會產生的驚人數據量,光靠雲運算是不足的,故近年也崛起透過在邊際端部屬邊際運算基礎設施,藉此分攤雲運算的負擔,同時藉由邊際運算提供更快的處理與網路反應速度,其中也牽涉到裝置端的智慧化與邊際基礎設施的運算能力強化,可在邊際終端智慧化提供邊際運算性能固然是相當理想的做法,但現實是邊際設備由於尺寸、能耗等因素,如 NVIDIA 的 Jetson 平台雖能透過 AI 加速提供一定程度的運算能力,但仍不足以處理所有的內容,故也需要更強大的邊際運算基礎設施與其相輔相成。
為了滿足新一代的邊際運算基礎設施需求,強大且具彈性的的運算性能,網路吞吐,安全性與可管理與擴充性是相當重要的,而 EGX 在系統架構就為這些需求所規劃,畢竟現行的網路應用相當廣泛,單功能的邊際運算基礎設備固然在特定領域具備效率,然而一但應用需求變化,就缺乏調整的彈性,這也是能夠透過軟體定義調整服務機能的 EGX 的最大優點。
▲ 黃仁勳表示,基於 GPU 的 EGX 平台較加速器與 FPGA 有更多元的應用
EGX 藉由 CUDA GPU 與 Tensor Core ,不僅具備強大的運算力,同時利用 NVIDIA 多年建構下來的 GPU 運算以及與業界夥伴共同建構的軟體與開發環境,透過 EGX 堆疊為基礎, EGX 能夠化身自串流影像處理、 AI 智慧客服與影像辨識應用、智慧零售、串流遊戲、 XR 混合實境體驗甚至到網路管理等不同面向的需求,在相同的硬體架構之下以軟體定義方式化身多元應用所需的基礎建設,概念聽起來不難,但這卻需要有充裕的硬體與軟體生態圈的配合,當前 EGX 的生態,可說是 NVIDIA 在長期耕耘 GPU 技術之下才能開花結果。
談到 NVIDIA 基於 GPU 技術的 EGX 相較其它技術如 CPU 、加速器、 FPGA 於邊際運算基礎設施的優勢,黃仁勳提到, CPU 仍是執行基礎系統與虛擬化應用相當重要的基礎,這點是無庸置疑的,不過現在已經進入加速運算的世代,故新一代的基礎設施都會整合加速硬體,而相較加速器、 FPGA 等加速器, NVIDIA 的 GPU 架構藉由軟體定義,除了能夠提供 AI 、加速運算,亦能提供雲遊戲服務與視覺相關的服務,這也是其它加速技術所不具備的。