Arm在2023年Computex的主題演講上,現任執行長Rene Haas就多次闡述小晶片Chiplet是促進產業革命的趨勢,Arm亦推出Arm Compute Substem(Arm運算子系統、CSS)使客戶能靈活地借助小晶片特性更快速、共容易打造整合新世代處理器的晶片;Arm宣布推出第三世代Neoverse基礎設施產品,包括著重單執行緒性能的Neovese V3與強調能源效率的Neoverse N3,同時兩款IP皆提供Neoverse CSS運算子系統,也是Neoverse V系列首度提供運算子系統。
▲Socionext選擇台積電、智原攜手Intel IFS、ADTechnology結盟三星,都將使用先進製程推出新款Neoverse產品
Arm多家夥伴也將陸續採用Arm Neoverse V3與Neoverse N3架構,其中Sociaonext不僅將使用Neoverse CSS V3,更是第一家宣布將使用台積電2nm製程與CSS小晶片架構打造晶片的夥伴;智原科技則宣布將與Intel合作,基於18A製程與Neoverse N系列推出64核CSS架構單晶片;ADTechnology則是與三星攜手,將基於CSS N系列的17核心邊際伺服器平台。
Arm Total Design推動半導體產業合作創新並加速Neoverse CSS的採用
▲Arm全面設計計畫有完整的生態系,加速產業導入CSS進行小晶片設計
藉由提供高性能與高能源效率兩種不同特質的Neoverse運算子系統,Arm的客戶能對此專注展開如小晶片等新技術,借助Arm預先配置、最佳化與驗證的完善子系統,將小晶片的堆疊控制猶如控制軟體與系統堆疊,Neoverse運算子系統也對於AI、資料庫、網路等實際工作負載能將總擁有成本降至最低。Arm自去年10月發表基礎性運算子系統後,已有20家合作夥伴,囊擴墊子設計自動化EDA、對應的IP供應商、晶圓廠與韌體開發等,其中晶片設計新增來自韓國、台灣、中國與印度的夥伴,並與包括台積電、三星與Intel三大晶圓廠合作,確保CSS能在各自的先進節點獲得最佳化。
Neoverse CSS N3帶來更具能源效率的領先優勢
▲Neoverse CSS N3每瓦效能提升20%,在32核配置能實現40W TDP的超低能耗
Arm Neoverse CSS N3建構在前一代最佳能源效率的基礎,導入Arm v9.2指令集,每核心配有專用的2MB L2快取,並支援最新PCIe與CXL匯流排標準與UCIe小晶片標準,能建立在產業通用規格與其它晶粒透過小晶片方式構成平台,每核心每瓦效能較Neoverse CSS N2提升20%,也是業界首度將32核心的TDP控制在40W的實際產品,且進一步針對市場上高效率運算需求調整,確保基礎設施所需的效能需求,Neoverse CSS N3將助電信、網路、資料應用帶來更高效率與效益的處理器。
首款提供CSS的V系列產品Neoverse CSS V3
▲Neoverse CSS V3較前一代每插槽提升50%性能
▲Neoverse CSS V3提供對新一代高速匯流排與記憶體的支援,並可在單一插槽實現128核心
Neoverse CSS V3是追求單執行緒效能的Neoverse V首度提供運算子系統,與Neoverse CSS N3同樣提供每核心獨立2MB L2快取,強調是歷代最高單執行緒效能的CPU IP,對比上一代平台每插槽效能提升達50%,單一插槽可實現128核心,同時支援最新的高速記憶體與高速I/O標準。
Neoverse平台擁抱生成式AI,基於Neoverse V2的NVIDIA H200是絕佳典範
▲Neoverse具備AI所需的指令集與完善的軟體生態支援
▲CSS將幫助產業透過小晶片加速創新
▲產業已有許多使用Neoverse架構晶片執行AI的實例
Arm強調,Arm Neoverse已廣泛被採用於機器學習領域,並支援各種軟體框架,同時展現出色的成本與能源效率比,而Neoverse所支援的Bfloat16、Matmu、SVE、SVE2等ML更是可於CPU執行生成式AI的關鍵;其中基於Neoverse V2的NVIDIA Grace Hopper GH200 Superchip更展現CPU搭配GPU加速器並共享記憶體容量與模型,相較傳統純CPU或純GPU更能因應大型語言模型LLM以及如RAG增強生成等新興AI應用。
為軟體生態系持續擴展與合作
▲Oracle宣布Database 19C將支援Arm架構
▲SAP順利將SAP Hana Cloud移植至基於Neoverse的AWS Gravion平台
除了架構以外,完善的生態系也是促成Neoverse能持續壯大的關鍵,Arm為Neoverse提供對主流語言的支援、所有Linux發行版本、至支援網路、儲存、大數據與AI應用專案的支援,並在多家雲端供應商廣泛佈署Neoverse技術,多家獨立軟體供應商也提供對Neoverse的支援,其中如甲骨文宣布對Arm架構伺服器公布Database 19C的支援性,並提供雲端與地端佈署;SAP則將SAP Habn端平台移植至Arm架構的AWS Gravition處理器平台,開啟對Arm架構CPU的支援能力。