NVIDIA獻給開發者大禮公布Jetson Orin Nano Super嵌入式AI平台,推論性能提升1.7倍且僅249美金

2024.12.17 10:00PM

NVIDIA在2024年年末為嵌入式平台開發者獻上一份大禮,為價格更便宜、性能更強的NVIDIA Jetson Orin Nano Super嵌入式AI平台,保有NVIDIA平台開發的一致性,較現行的Jetson Orin Nano性能顯著提升,可作為建構檢索增強型的大型語言模型聊天機器人、視覺AI助理與AI自主機器人,且也能在現行完成軟硬體開發的平台環境直接換上Jetson Orin Nano Super單板使性能更為提升。

Jetson Orin Nano Super開發套件的價格自Jetson Orin Nano的499美金降至249美金

▲Jetson Orin Nano Super的價格僅249美金,同時性能還大幅提升

Jetson Orin Nano Super開發套件由Jetson Orin Nano 8GB的SoM模組與載板構成,具備6核心Arm CPU與基於Amper架構的GPU,可支援4路高解析、高更新率攝影機;此外也支援來自包括阿里巴巴、Google、Hugging Face、Meta、微軟、NVIDIA、OpenAI等廣泛的生成式AI模型與Transformer的電腦視覺模型。

▲Jetson Orin Super規格

對於開發者而言最重要的是Jetson Orin Nano Super也同樣具備Jetson開發平台廣大的社群資源的支持,能透過像是針對機器人的NVDIA Isaac、視覺AI的NVIDIA Metropolis,用於感測器運算的NVIDIA Holoscan,並能利用NVIDIA Omniverse Replicator產生合成資料,以及微調NGC預訓練AI模型的NVIDIA TAO工具縮減開發時間。

▲Jetson Orin Nano的性能足以執行更豐富的聊天機器人、機器視覺與自主機器人

Jetson Orin Nano Super相較Jetson Orin Nano提升1.7倍的生成式AI推論性能,同時INT8也提高70%自40TOPS提高至67TOPS,此外也換上更高速的記憶體,記憶體頻寬提升50%,從69GB/s提高至102GB/s,至於工作功率則為25W。