產業消息 RTX Token 生成式AI Copilot+ PC TOPS 詞元 NVIDIA專文介紹TOPS、Token與Batch Size,闡述搭載RTX獨顯 AI PC為何較僅有NPU的AI PC在生成式AI具壓倒性效能 歷經微軟在2024年5月宣布的Copilot+ PC計畫,並將其包裝成Windows陣營的進階AI PC,一夕之間整合於CPU的NPU的AI TOPS似乎成為衡量AI PC的戰力單位,套電影「賭神」的經典台詞:任何CPU只要有40 TOPS以上的NPU都可以稱為Copilot+ PC,不過一套性能強大的AI PC真的只要NPU夠強就行嗎?關於這點AI關鍵硬體龍頭NVIDIA肯定不會苟同,故在最新的「解碼AI」系列官方部落格專文,特別針對AI運算單位的TOPS、Token還有Batch Size與AI之間的關係進行解釋。 AI性能基礎計算單位:TOPS 如同遊戲使用FPS作為評量性能的單位一樣, Chevelle.fu 10 個月前