產業消息 nvidia meta Jetson AGX Orin NVIDIA H100 Jetson Orin Nano 大型語言模型 LLM Llama 3 NVIDIA H200 NVIDIA宣布全面針對Meta Llama 3推論提供最佳化，透過雲端、邊際與個人電腦的NVIDIA GPU皆可執行 在Meta宣布釋出全新大型語言模型Llama 3的同時，相關產業領域的合作夥伴也紛紛宣布支援Llama 3，其中作為Meta自行持有的超級電腦的技術供應商的NVIDIA當然也在第一時間宣布消息；NVIDIA強調採用NVIDIA技術所建構的Meta Llama 3獲得NVIDIA GPU加速挹注，能夠自雲端與資料中心至邊際與個人電腦的NVIDIA GPU以最佳化的方式進行推論，且自即日起即可使用。 NVIDIA同步於ai.nvidia.com提供開發者以NVIDIA NIM微服務嘗試Llama 3：ai.nvidia.com ▲Meta工程師在24,576個NVIDIA H100 GPU叢集完成 Chevelle.fu 1 年前
產業消息 nvidia gpu AI MLPerf Jetson AGX Orin NVIDIA H100 NVIDIA L4 採用 Hopper 架構的 NVIDIA H100 與 NVIDIA L4 GPU 再度樹立 MLPerf 基準新高度， NVIDIA H100 藉軟體更新較初登場推論效能提高 54% 於 3 年前推出的 NVIDIA A100 是當前 AI 產業的性能基準指標，其它品牌的 AI 加速產品皆將 NVIDIA A100 視為比較目標，然而至今為止， NVIDIA A100 仍在作為 AI 業界公認標準的 MLPerf 測試項的訓練與推論有著不可動搖的表現；然而現在 AI 產業又要頭痛了，因為 NVIDIA 公布新一代產品 NVIDIA H100 與 NVIDIA L4 在 MLPerf 的表現，將推論性能提升至全新的水準，樹立全新的性能高牆，同時即便是結合最新生成式 AI 趨勢的 MLPerf 3.0 ， NVIDIA AI 產品依舊具備壓倒性的領先。 ▲相較去年 9 月初次亮 Chevelle.fu 2 年前
產業消息 nvidia NVIDIA Hopper NVIDIA A100 Jetson AGX Orin NVIDIA H100 NVIDIA H100 以較 NVIDIA A100 達 4.5 倍效能創下 MLPerf 世界紀錄， Jetson AGX Orin 仍為邊際運算之霸 於 2020 年問世的 NVIDIA A100 仍是包括 Intel 與 AMD 在內的加速運算最大假想敵，皆作為 Intel 與 AMD 公布新一代加速產品時的首要目標，然而 NVIDIA 在今年 GTC 公布新一代 Hopper 架構的 NVIDIA H100 Tensor Core GPU ，也令人好奇 NVIDIA H100 在實際情境是否如同 NVIDIA 所敘述般的出色； NVIDIA 今日首度公布 NVIDIA H100 在人工智慧測試基準 MLPefr 的成績，除了再度創下世界紀錄外，更較 NVIDIA A100 高出 4.5 倍性能。 NVIDIA H100 預計在 2022 Chevelle.fu 2 年前
產業消息 COMPUTEX台北國際電腦展 nvidia Orin 邊際運算 自主機器人 Jetson AGX Orin Computex 2022 ：達 30 家以上各式模組夥伴宣布成為 NVIDIA Jetson AGX Orin 生態鏈夥伴，提供相機、感測器等資源助建構各式邊際 AI 、 AIoT 、機器人等應用 NVIDIA 在今年春季的 GTC 大會宣布全新的嵌入式開發平台 Jetson AGX Orin ，而在 Computex 有超過 30 家以上的合作夥伴展示基於 NVIDIA Jetson AGX Orin 的系統，提供如邊際 AI 、 AIoT 、機器人與嵌入式等應用型態。同時繼今年 GTC 推出 Jetson AGX Orin 開發套件後，也將在 7 月推出用於具備完整關鍵組件、僅缺散熱與外殼的 Jetson AGX Orin NX 生產模組( 399 美金)、 9 月再推出插卡型態的 Orin NX 模組 ▲ Jetson AGX Orin 提供開發套件、 NX 生產模組與 NX 模組 Chevelle.fu 2 年前
產業消息 nvidia AI 高通 加速器 NVIDIA A100 Jetson AGX Orin NVIDIA 借助軟體調整使 NVIDIA A100 在一年內 AI 性能提升 5 成，全新 Jet AGX Orin 奪下邊際推論性能之冠 雖然 NVIDIA 在 GTC 大會公布全新一代加速器 NVIDIA H100 ，性能聲稱比起目前 NVIDIA A100 有飛躍性的提升，但這不代表 NVIDIA 推出新硬體後就不再服務舊世代架構的用戶， NVIDIA 今日公布全新的 MLPerf v2.0 推論性能結果，借助在軟體不斷的革新，相較去年公布的結果，使 NVIDIA A100 的效能提升達 50% ；此外也隨著新一代嵌入式超算平台 Jetson AGX Orin 的問世， Jetson AGX Orin 借助全新硬體架構奪下邊際運算系統的效能王者頭銜。 ▲借助軟體持續精進， NVIDIA A100 相較去年表現最高提升達 50 Chevelle.fu 3 年前
科技應用 nvidia 人工智慧 Jetson AGX Orin Clara Holoscan MGX RTX A6000 GPU NVIDIA 發表 Clara Holoscan MGX AI 運算平台 協助醫療產業佈局人工智慧與智慧醫療普及化 在Clara Holoscan MGX設計中，NVIDIA分別採用Jetson AGX Orin人工智慧超級電腦，搭配RTX A6000 GPU，以及ConnectX-7 SmartNIC網路卡，構成可持續擴充升級的人工智慧運算平台，並且對應每秒254次至619兆次人工智慧運算表現。 去年宣布將超級電腦帶進嵌入式裝置，利用Jetson AGX Orin人工智慧超級電腦打造可用於醫療產業的全新運算平台Clara Holoscan之後，NVIDIA在此次GTC 2022更宣布符合監管標準設計的Clara Holoscan MGX平台，提供醫療設備產業開發，並且在邊緣部署即時人工智慧應用程式。 依照 Mash Yang 3 年前
產業消息 NVIDIA GTC nvidia AI 嵌入式 邊際運算 NVIDIA Orin 自主機器人 Jetson AGX Orin GTC 2022 ：為機器人與邊際人工智慧發展帶來更高效能， NVIDIA 推出 Jetson AGX Orin 開發者套件 NVIDIA 的 Jetson 平台是許多自主機器人、邊際人工智慧採用的平台基礎，並且延續 NVIDIA 的架構與開發一致性，能夠將現行的開發成果轉移到後續更高性能的平台；隨著 Orin 晶片開始量產， NVIDIA 宣布推出新一代 Jetson AGX Orin 開發者套件，使自主機器人與邊際人工智慧發展更進一步。 Jetson AGX Orin 開發套件已經開始供貨，建議售價為 1,999 美金，生產模組預計在第四季供貨，售價為 399 美金 Jetson AGX Orin 套件不僅維持與現行 Jetson AGX Xavier 的架構一致性，生產模組也維持相同的尺寸與針腳相容性，但借助採 Chevelle.fu 3 年前
產業消息 NVIDIA GTC nvidia 嵌入式 自動駕駛 NVIDIA Orin 醫療影像 NVIDIA DLA Jetson AGX Orin Cortex-A78AE GTC 2021 ： NVIDIA 發表新一代嵌入式開發平台 Jetson AGX Orin ，僅需 5W 即可發揮 200 INT8 TOPS 性能 除了 NVIDIA 執行長黃仁勳在秋季 GTC 主題演講宣布新一代車載平台 Hyperion 8 將採用 Orin 平台以外， NVIDIA 亦宣布新一代嵌入式超算級開發平台 Jetson AGX Orin ，借助 NVIDIA Ampere GPU 架構結合 NVIDIA DLA ，可發揮最高 200 INT8 TOPS 性能，能耗則可依據型態設定在 5W 至 50W 之間，同時 Jetson AGX Orin 亦與前一代 Jetson AGX Xavier 有著類似的外型與針腳相容性，加上 Jetson 平台開發一致性，可將先前開發的軟硬體成果移轉到更高效能的 Jetson AGX Ori Chevelle.fu 3 年前
