當前生成式 AI 正掀起 AI 世代的一股巨浪，除了更自然的語言、自動產生圖像等應用，更重要的是生成式 AI 可突破不同應用需使用不同 AI 模型的情況，利用單一 AI 模型支援多種情境，而目前仍主要透過高階運算系統與雲服務執行的生成式 AI 也將邁向下一個階段； NVIDIA 宣布將使 Jetson Orin 平台能夠執行生成式 AI ，同時還未 Jetson 開發者建構 Generative AI Playground (生成式 AI 智慧練習場)，提供大量的開元生成式 AI 模型。同時 NVIDIA 也宣布 Issac ROS 機器人框架正式推出、並將推出 Jetson 平台的 Metropolis 擴充，還有 JetPack 也將迎接 JetPack 6 新版本。
借助生成式 AI 改變邊際 AI 的可能性，提供更準確且即時的應用
能直接於 Jetson Orin 執行生成式 AI 將為邊際應用帶來全新的可能性，包括智慧邊際、機器人與物流產業皆可透過生成式 AI 提供瑕疵檢測、及時資產追蹤、自主規劃與導航以及人機互動； NVIDIA Generative AI Playground 為開發者提供最佳化的工具與教學，包括部署開源大型語言模型( LLM )，擴散模型等能透過互動方式產生圖像的應用，視覺語言模型( VLM )與結合視覺人工智慧與自然語言處理視覺變化器( ViT )提供對場景的全面理解。使既有的邊際應用相較傳統 AI 能夠理解判讀畫面中細微的元素，更精準找出監視畫面中所有的人物、物件，以及在場域監控以文字描述的方式形容情境所具備的元素，或是進行機器人導航與路徑規劃時能夠更正確判斷路徑的各式障礙並規劃無障礙的移動。
開發者更能透過 NVIDIA TAO 工具為邊際應用創造高效能、準確的 AI 模型； ATO 提供一個低程式碼介面進行視覺人工智慧模型的微調與最佳化，包括視覺變換器與視覺基礎模型；開發者可自訂與微調如 NVIDIA NV-DINOv2 等基礎模型或 OpenCLIP 等公開模型，並使用很少的資料建立高精確的視覺人工智慧模型，同時 TAO 現在也包含基於 transformer 、用於瑕疵檢測的 VisualChangeNet 。
NVIDIA 也強調， Jetson Orin 平台是相較其它方案更適合在邊際執行生成式 AI 的解決方案，相較達 56 核心的 x86 伺服器級 CPU ， Jetson Orin 能夠以 1.7 倍的執行速度執行生成式 AI ，同時能耗也顯著更低。
Metropolis 、 Issac 框架與 JetPack 迎來更新
▲ NVIDIA 將釋出 Metropolis 對 Jetson 的支援，另外 Issac 機器人框架也獲得全面升級
NVIDIA Metropolis 是使企業能更輕鬆以及更具成本效益使用頂級視覺人工智慧驅動的解決方案，包括一系列的 API 與微服務， NVIDIA 預計在 2023 年 12 月開放 Metropolis 支援 Jetson 平台，使 Jetson 平台能於邊際執行 Metropolis 的 API 與微服務。另外 NVIDIA 也已經式出全新的 Issac 機器人平台功能升級，包括新一代系統 Issac ROS 2.0 ，模擬環境 Issac Sim 2023.1 ，以及針對自主機器人的 Issac AMR ，將強化對感知與模擬的功能。另外 NVIDIA 也預計在 2023 年 11 月推出 JetPack 6 ，使 AI 開發者不需全面升級 Jetson Linux 即可維持運算領先，並擺脫對 Jetson Linux 的依賴，同時也將利用與 Linux 發行夥伴合作，擴大基於 Linux 的發行版選項，包括晶 Canonical 最佳化語認證的 Ubuntu 、 Wind River Linux 、 Concurrent Real 的 Redhawk Linux 與各種基於 Yocto 的發行版。
5 則回應