由於微軟定義的Copilot+ PC須由處理器本身整合的NPU提供40TOPS以上的AI算力,即便NVIDIA的GPU性能再強且也整合Tensor Core,現階段的RTX筆電仍無法冠上Copilot+ PC認證,不過NVIDIA在2024年微軟Build大會透露搭載新型節能SoC與RTX GPU的Copilot+ PC將會推出,可提供遊戲玩家、創作者、開發人員更高效能的邊際端AI工作負載效能。由於高通Snapdrgaon X Elite平台目前不考慮搭配外部GPU,故NVIDIA毫無機會搶到2024年6月18日起由Snapdragon X Elite第一波Copilot+ PC的上市潮。
若跟著業界傳聞,NVIDIA的說法倒是有些令人玩味;以平鋪直敘的合理解釋,隨著AMD、Intel將在秋季前後公布高於40TOPS效能NPU的新一代CPU,屆時搭配RTX GPU的新款獨顯筆電毫無疑問能稱冠上Copilot+ PC;但傳聞微軟與高通的Windows on Arm獨家晶片供應合約將滿,NVIDIA除了數年前與聯發科共同展示聯發科平台搭配NVIDIA GPU的Ubuntu筆電,也在COMPUTEX 2023宣布攜手聯發科進軍基於Arm架構的車用電子平台,業界也傳聞NVIDIA與聯發科下一步將攜手推出Windows on Arm平台。
▲到底NVIDIA指的RTX GPU的Copilot+ PC是攜手x86處理器,或是還與聯發科另起Windows on Arm晶片爐灶呢
且從NVIDIA與聯發科合作推出車用晶片,可說為雙方聯手進軍Windows on Arm市場打下基礎,NVIDIA與聯發科的車用晶片已確定是整合NVIDIA GPU的SoC而非透過外部晶片實現,意味著這款平台稍作調整(註:Arm目前針對車載的CPU架構實質上與消費級本質相近,只是針對車用進行如安全性與可靠性等地強化)也許是可應用於Windows PC領域。
撇開八卦不談,當前NVIDIA的GPU是提供超高效能AI PC與AI工作站的關鍵,相較當前由CPU整合的NPU提供的AI算力,NVIDIA的RTX GPU能提供更高的整體算力,只是由於微軟希冀Copilot+ PC能兼顧能源效率,才強制要求AI算力基本要求是取決於CPU(SoC)的NPU而非總算力。
▲新驅動程式進一步提升FP16、INT4的推論性能
NVIDIA在Build大會也進一步透過軟體更新強化RTX GPU的AI性能,全新的NVIDIA R555 Game Ready驅動程序,執行ONNX Runtime (ORT) 與DirectML的大型語言模型推論性能提高3倍。PyTorch將支援DirectML後端執行,使開發者能在Windows裝置端原生訓練與推論複雜的AI模型,NVIDIA與微軟也將持續與加深RTX GPU在AI的性能最佳化。VIDIA將使網路應用程式利用AI加速器的WebNN 裡的AI工作流程調整至最佳狀態,使瀏覽器應用程式也能受惠RTX GPU加速。