NVIDIA 藉 VMware 年度大會 VMWorld 舉辦之際宣布兩大重要技術,其一是宣布名為 vComputeServer 的虛擬化運算伺服器,另一項則是攜手 VMware 、AWS ,將基於 GPU 加速平台的資源整合到 VMware Cloud on AWS 混合雲服務,使科學研究、數據分析、 AI 等,可在雲端透過 GPU 虛擬化技術進行。
▲ vComputeServer 的目的是將 GPU 虛擬化技術帶到雲端協同運算
雖然 GPU 虛擬化技術行之有年,不過傳統的雲端協同運算仍是基於 CPU 進行,但對於現代化的運算內容卻已經不敷使用,而 vComputeServer 即是將 GPU 虛擬化帶到雲端協同運算中的概念,透過與 VMware 的合作,使 VMware 的 vSphere 虛擬化平台可運用 GPU 資源進行運算,能夠在 vSphere 平台的虛擬機器搭配一張甚至多張虛擬 GPU 資源,還可串接 NVIDIA GPU Cloud 的運算資源。
▲ VWmare 與 NVIDIA 讓 VMware Cloud on AWS 混合雲也能使用虛擬 GPU
藉由兩者的合作,在這些虛擬機器環境中能夠藉由加入虛擬化 GPU 提升在現代運算應用的性能,例如 AI 、科學研究等應用;此舉有助於降低企業在面臨自有伺服器性能不足、意圖結合雲端虛擬化服務擴充性能時,可利用具備虛擬化 GPU 的 vComputeServer 進行協同運算,降低企業的建置與維護成本,又具備臨時調度性能的彈性。
▲可依運算量、運算類型在虛擬機器搭配合適的虛擬化 GPU
另一項宣布的重點,則是使 GTC 2019 所公布的 CUDA-X AI 平台能夠串接 VMware 的 vSphere、vCenter 與 vMotion 等服務,利用結合新一代 Turing 圖靈架構的新技術、 TensorCore 與結合 TensorRT 框架等,取得更強的運算力,在此次宣布後,使用者能透過 NVIDIA GPU Cloud 將自有的伺服器與 VMware Cloud on AWS 連接進行加速。
▲虛擬 GPU 為企業使用混合雲帶來更強的運算力
使用者可依照運算的類型不同,自 VMware Cloud on AWS 調度 NVIDIA T4 、 Quadro RTX 8000 、Quadro RTX 6000 等圖靈架構 GPU , Volta 架構的 Tesla V100,或是選擇 Pascal 世代架構的 Tesla P40 、 Tesla P60 、 Tesla P100 等虛擬化 GPU 搭配。 NVIDIA 強調,在結合虛擬 GPU 後,可望將運算性能提升約 50 倍以上,更在 AI 相關的訓練與推論項目獲得顯著的加速。