NVIDIA 在加速運算與 AI 的世代引領風騷,其硬體效能表現也成為許多競爭對手、新創公司的比較基準,同時採用 NVIDIA 的系統夥伴私底下也希冀能夠打造取代 NVIDIA 的自主研發硬體,不過截至目前為止仍難以阻止 NVIDIA 在加速運算與 AI 的領先情形; NVIDIA 當前的領先不光只是硬體技術,同時也是軟體工程的結晶,根據 NVIDIA 企業運算主管 Manuvir Das 在一場 FUTURE COMPUTE 的活動聲稱, NVIDIA 在硬體與軟體的時間比重約為 20% : 80% , NVIDIA 花了更多的時間在研究演算法以及探索其硬體的可能性。
"At NVIDIA, we spend 20% of our time on the hardware and 80% of our time on the software.
— Simon Erickson (@7Innovator) May 1, 2023
We are continually working on the algorithms, to understand what our hardware can and cannot do. AI is a full-stack problem."
- Manuvir Das, Head of Enterprise Computing$NVDA… pic.twitter.com/zFM4XNbjVJ
NVIDIA 執行長黃仁勳多次在公開場合聲稱 NVIDIA 是一家軟體公司,不過畢竟作為一家 GPU 供應商的印象早已根深蒂固,若非深度與 NVIDIA 接觸不見得能理解為何 NVIDIA 是一家軟體公司的說法;不過無論是加速運算或是當前熱門的 AI , NVIDIA 在軟體的投資相當龐大且主動,不同於一些競爭對手仰賴參與開源組織, NVIDIA 更多時候選擇先與相關技術的軟體廠商合作,後續再將成果進行開源。
▲ NVIDIA 執行長黃仁勳多次在公開場合表示 NVIDIA 是一家軟體公司
雖然 NVIDIA 推廣 CUDA 加速運算的排它性經常被競爭對手與部分專家抨擊,但從當前的情況來看,卻也由於 NVIDIA 持續投入具有前景的相關技術,才造就當前 AI 技術能在短時間快速增長的榮景,且從 NVIDIA 屢次參與 MLPerf 的表現,縱使硬體不變,但從首輪參與測試到一年多後的效能仍有增長,顯示 NVIDIA 持續改善軟體進一步發揮硬體效能的做法能帶來可觀的效益。
對於購買 NVIDIA 硬體的客戶,雖然相較之下 NVIDIA 硬體並不便宜,但能夠在產品生命週期持續獲得資源與支援,也是使 NVIDIA 加速產品廣受業界採納的原因。不過,縱使 NVIDIA 在軟體投入相當大的資源,但 NVIDIA 卻也並非與軟體夥伴進行直接競爭,而是提供協助與更多底層的軟體資源使其能夠更為突破。