VMWare 於 2023 年 VMware Explore 大會宣布與 NVIDIA 合作，針對當前火熱生成式 AI 成立 VMWare Private AI Foundation with NVIDIA ，使企業能在安全、確保資料隱私的前提高效率且具擴充性於 VMWare 的平台使用完整的 NVIDIA AI Enterprise 資源與技術，同時企業可透過直連 GPU 或虛擬 GPU ( vGPU )進行擴展，使用最多 16 個 vGPU 進行 AI 模型訓練。
VMWare 預計於 2024 年初與 NVIDIA 共同推出 VMWare Private AI Foundation with NVIDIA
▲目前企業對於導入 AI 面對成本效益、安全風險與性能三大挑戰
NVIDIA 與 VMWare 雙方深度合作已長達 10 年，也是推動產業 GPU 虛擬化技術的重要推手，此次雙方再度於生成式 AI 領域攜手，協助各領域企業能夠加速導入 AI 。當前企業在導入 AI 會有三大挑戰，包括成本效益、安全風險與性能， VMWare Private AI Foundation with NVIDIA 即是建構在 NVDIA 硬體、 NVIDIA AI Enterprise 軟體與 VMWare VMWare Cloud Foundation 技術上，為企業帶來符合成本效益、高安全以及可針對規模進行效能擴充的解決方案。
▲ VMWare Private AI Foundation 建立在 VMWare 高度安全且可擴充的虛擬化技術與 NVIDIA 的軟硬體技術
▲透過雙方的技術解決企業面對的挑戰
▲簡化企業建構客製化 AI 的程序，同時保有企業資料的安全性
雙方的合作基於 NVIDIA 的 L40S 與 H100 兩大系列的 GPU 與 NVIDIA ConnectX-7 、 Bluefield-3 網路平台等硬體，以建構在 NVLink 、 NVSwitch 連接技術提供 GPU 的可擴展性，結合性能優惠的 NVMe 儲存與支援 RDMA 的 GPU Direct 儲存技術的 VMWare vSAN Express 儲存架構，同時客戶能在擁有資料的任何地方輕鬆執行 AI 服務，並採取保護資料隱私與安全訪問的架構；同時企業對模型與執行的地點擁有廣泛的選擇，舉凡自 NVDIA NeMo 到 Llama 2 與更高版本的大型語言模型，以及未來可能涵蓋公有雲與服務供應商的方案，此外借助 vSphere 深度學習 VM 鏡像與影像庫提供穩定的一站式解決方案，並藉此支援快速原型製作功能。
