Arm於Embedded World 2024期間公布兩項新IP，分別是較前一代提升4倍AI性能、支援Transformer架構與積捲神經網路的Ethos-U85 NPU，還有鎖定語音、音訊與視覺系統的整合式IP與虛擬硬體的Corstone-320物聯網參考設計，Arm強調在全球擁有超過1,500萬基於Arm技術開發者的開發生態系，借助廣泛軟體支援與工具簡化開發流程，能夠輕鬆擴展邊際AI的部署。Alif Semiconductor與Infinion英飛凌同步宣布為Arm Ethos-U85的早期採用者，當前已有超過20家授權夥伴採用Arm Ethos系列NPU。
▲Arm為AI物聯網提供完整的IP組合與軟體開發環境
▲Arm的NPU具有廣泛生態系支援，可簡化開發且具選擇的多樣性
Arm台灣總裁曾志光表示，在AI發展前期許多客戶都傾向自研NPU架構，然而隨著AI需求與應用提高，裝置與應用開發者希望能夠更簡化AI開發程序，使業界希冀能有具備廣泛軟體支援與完善生態體系的NPU，也促成Arm投入NPU IP供應；同時曾志光指出雲端AI與邊際AI具有特性的互補性，並沒有哪一項能夠完全取代彼此，而Ethos NPU藉由業界廣泛支持與完善的生態系，可加速邊際AI應用發展。此外，Arm也舉一項案例，透過支援NVIDIA的TAO，Arm的NPU可執行由NVIDIA基礎設施訓練的AI模型。
隸屬Arm第三世代NPU的Arm Ethos-U85
▲Ethos-U85可擴展至4TOPS效能，並支援Transformer
▲Arm提供自基礎至高效能等NPU組合
▲Ethos-U85不僅支援Cortex-M，也可與Cortex-A搭配組合
Arm Ethos-U85是Arm第三世代的NPU IP，除了可與MCU結合外，搭配Armv9 Cortex-A CPU亦發揮最大綜效，相較前一代產品提升4倍性能，MAC可自128單元擴展至最大2,048個、於1GHz時脈可達4 TOPS，同時功耗效率提升20%；Ethos-U85除了支援TensorFlow Lite與PyTorch等框架外，相較之前的產品還支援Transformer架構與積捲神經網路供進行AI推論，Transformer有助於視覺與生成式AI的應用場景，如理解圖片、填充圖片缺塊或分析多路影像訊號的資料，藉此進行圖像分類與目標檢測等任務；Ethos-U85強大的AI性能，可滿足工業機器視覺、穿戴式裝置與消費性機器人的高效能物聯網應用。借助Ethos-U85的推出，與Ethos-U55、Ethos-U65構成自入門至高階的NPU IP解決方案，提供不同AI性能需求合宜的架構。
可加速語音、音訊與視覺系統部署的Corstone-320
▲Corstone-320旨在加速與簡化邊際AI晶片與應用的開發
Corstone-320是Arm的物聯網參考設計平台，整合最高效能的Cortex-M85、Mali-C55 ISP與Ethoros-U85 NPU，旨在提供語音、音訊與視覺系統等對邊際AI有高度需求的應用領域，透過邊際AI提供不依賴網路的即時、穩定與隱私特性，如提供即時圖像分類與目標辨識，具自然語言翻譯功能的語音助理等；Corstone-320涵蓋包括Arm虛擬硬體、軟體、工具與支援在內，結合軟硬體特性，協助開發人員在物理晶片就緒階段即可著手軟體開發，進而加速產品功能與應用的提前導入。
