產業消息 nvidia AI Azure H100 aws Hopper NVIDIA H100 GTC 2023 : NVIDIA 與多家合作夥伴公布基於 NVIDIA H100 Tensor Core GPU 的新產品與服務,滿足對生成式 AI 訓練與推論的增長需求 NVIDIA 在 2022 年 GTC 公布新世代的 NVIDIA H100 Tensor Core GPU ,藉由嶄新的架構還有突破性的 Transformer Engine ,能為通用運算與新一代生成式 AI 帶來極大的效能提升,當時多家宣布導入的大型服務商也逐步開始提供基於 NVIDIA H100 Tensor Core GPU 的產品與服務, NVIDIA 在 GTC 2023 也攜手合作夥伴公布多項基於 NVIDIA H100 Tensor Core GPU 的產品與服務。 ▲微軟將開放 H100 實例的非公開預覽版 包括 Oracle Cloud Infrastructure 與多 Chevelle.fu 2 年前
產業消息 NVIDIA GTC nvidia gpu AI Ampere Hopper NVIDIA A100 NVIDIA DGX NVIDIA H100 DGX Cloud GTC 2023 : NVIDIA 攜手雲服務商推出 NVIDIA DGX Cloud ,使企業能藉瀏覽器取得超算級的 AI 運算效能 NVIDIA 在 GTC 宣布與多家雲服務供應商合作,推出 NVIDIA DGX Cloud ,使得企業不需採購與擁有伺服器,即可透過雲服務供應商合作託管的 DGX Cloud 基礎設施,透過瀏覽器取得超算電腦級的 AI 運算效能。 NVIDIA DGX Cloud 將透過多個雲端服務供應商提供,微軟 Azure 預計於下一季起託管 DGX Cloud 服務,包括 Google Cloud 等業者也將陸續開始供應服務, DGX Cloud 執行個體價格為每個執行個體每月 36,999 美金起。每個 DGX Cloud 執行個體皆有 8 個 NVIDIA H100 或 NVIDIA A100 8 Chevelle.fu 2 年前
產業消息 nvidia dell AI nvidia ai DPU BlueField-2 NVIDIA H100 Dell 擴大導入 NVIDIA AI 技術,新一代 Power Edge 納入 GPU 、 DPU 與 NVIDIA AI Enterprise 軟硬體平台 Dell Technology 創辦人兼執行長 Michael Dell 於 PowerEdge.Next 活動與 NVIDIA 執行長黃仁勳共同宣布將擴大雙方合作,為高達 15 款全新 Dell PowerEdge 系統導入包括 GPU 、 DPU 與 NVIDIA AI Enterprise 企業軟體套件等軟硬體組合,能提供企業包括語音辨識、網路安全、推薦系統等廣泛 AI 應用所需的基礎。 ▲新一代 PowerEdge 導入 NVIDIA Bluefield-2 DPU 進行資料卸載與加速處理,進一步提升能源效率 新一代 Dell PowerEdge 除了具備 NVIDIA H100 GP Chevelle.fu 2 年前
產業消息 nvidia H100 Xeon Scalable NVIDIA Hopper Sapphire Rapids PCie 5 NVIDIA H100 超過 60 款以上採用 Intel 第四代 Xeon Scalable 處理器與 NVIDIA Hopper GPU 的加速系統開始出貨,執行效率較傳統資料中心高出 25 倍 隨著代號 Sapphire Rapids 的 Intel 第四代 Xeon Scalable 處理器正式公布, NVIDIA 也同步宣布將有包括 NVIDIA DGX H100 與合作夥伴設計共超過 60 款以上加速系統問世,強調相較傳統資料中心高出 25 倍執行效率,能夠大幅節省能源成本。 ▲ NVIDIA DGX H100 不僅純性能提升,更具備更出色的能源效率 NVIDIA H100 不僅具備創新的硬體架構與達 900GB/s 的 NVLink ,也率先支援 PCIe 5.0 通道,提供更高速的 GPU 與 CPU 的溝通管道,相較前一代架構的加速系統,採用 NVIDIA H100 的系 Chevelle.fu 2 年前
產業消息 nvidia gpu AI oracle NVIDIA A100 NVIDIA Clara 加速運算 NVIDIA H100 Oracle 攜手 NVIDIA 加速企業導入 AI 技術,於 Oracle Cloud Infrastructure 導入 NVIDIA AI 軟硬體技術 Oracle 與 NVIDIA 雙方宣布擴大長期合作關係,並共同進行一項為期數年的長期合作計畫,雙方將結合 NVIDIA AI 軟硬體技術與 Oracle 的雲服務平台,將包括 GPU 、系統與軟體等 NVIDIA 加速運算堆疊導入 Oracle Cloud Infrastruture ( OCI ),協助企業客戶加速導入 AI 技術。 OCI 將大量導入超過數萬張的 NVIDIA GPU 提升處理量,包括 NVIDIA A100 以及即將推出的 NVIDIA H100 ,將涵蓋 OCI 的裸機、欉集網路與儲存服務的 AI 雲端基礎設施,為企業提供廣費且容易取得的產品組合,利於進行大規模 AI Chevelle.fu 2 年前
產業消息 nvidia NVIDIA Hopper NVIDIA A100 Jetson AGX Orin NVIDIA H100 NVIDIA H100 以較 NVIDIA A100 達 4.5 倍效能創下 MLPerf 世界紀錄, Jetson AGX Orin 仍為邊際運算之霸 於 2020 年問世的 NVIDIA A100 仍是包括 Intel 與 AMD 在內的加速運算最大假想敵,皆作為 Intel 與 AMD 公布新一代加速產品時的首要目標,然而 NVIDIA 在今年 GTC 公布新一代 Hopper 架構的 NVIDIA H100 Tensor Core GPU ,也令人好奇 NVIDIA H100 在實際情境是否如同 NVIDIA 所敘述般的出色; NVIDIA 今日首度公布 NVIDIA H100 在人工智慧測試基準 MLPefr 的成績,除了再度創下世界紀錄外,更較 NVIDIA A100 高出 4.5 倍性能。 NVIDIA H100 預計在 2022 Chevelle.fu 2 年前
產業消息 AMD nvidia 中美貿易戰 NVIDIA A100 Instinct MI200 烏俄戰爭 NVIDIA H100 美國政府出手阻止 NVIDIA 與 AMD 向中國與俄羅斯出口超算級 GPU 隨著美國與中國關係緊張,以及俄羅斯入侵烏克蘭引發戰爭,路透社證實美國政府正對 NVIDIA 與 AMD 提出超算級 GPU 禁令,要求 NVIDIA 與 AMD 不得將超算級 GPU 產品輸出到中國與俄羅斯,其中包括 NVIDIA 的 A100 與即將問世的 H100 ,而 AMD 受到影響的是新一代的 Instinct MI200 系列;在禁令曝光後, NVIDIA 與 AMD 的股價也分別下跌 6.6% 與 3.7% 。補充: NVIDIA 後續取得美國政府特許,取得一年的緩衝時間。 隨著以 GPU 驅動的 AI HPC 技術使全球超級電腦需求加劇,中國與美國在超級電腦計算力的戰爭也越演越 Chevelle.fu 2 年前
產業消息 gpu AI NVIDIA Hopper 晶片設計 EDA NVIDIA H100 NVIDIA H100 加速 GPU 有近 1.3 萬路 AI 輔助設計的電路,相較僅使用傳統 EDA 工具縮減 25% 面積 AI 技術在近年為許多產業帶來顯著的升級,其中也包括半導體設計產業,諸如 Google 日前公布由 AI 協助設計的晶片論文,其中提到 AI 可跳脫人類既有的思維框架,僅考慮效率最佳化,能使晶片更具效益;而 NVIDIA 近日也公布一則由 AI 輔助設計新一代加速 GPU 產品 NVIDIA H100 晶片的部落格文章,就提到 NVIDIA H100 內部有高達 1.3 萬條 AI 設計的電路,且相較目前最先進的 EDA 工具的結果可縮減 25% 面積。 ▲ 借助 AI 參與設計,相較傳統 EDA 工具得以縮減 25% 面積 NVIDIA H100 主要仍是由當前最先進的 EDA 工具進行設計 Chevelle.fu 2 年前
產業消息 nvidia 歐盟 超算系統 NVIDIA H100 Grace CPU SuperChip Atos EuroHPC 計畫之一的 MareNostrum 5 超級電腦系統由 Atos 得標,將採用 NVIDIA Grace 晶片為基礎 由於近年 HPC 陷入中、美的軍備火力競賽情況,歐盟不希望因此被遠拋在後,在幾年前啟動 EuroHPC 計畫,希望在歐盟領地興建 8 套全新的 HPC 系統,其中在 2021 年底計畫重啟的 MareNostrum 5 由系統商 Atos 得標,確定將採用 NVIDIA 的 Grace CPU 搭配 NVIDIA GPU 構成,預估效能達 314 pflops , MareNostrum 5 預計在 2023 年上線。 EuroHPC 是在 2019 年由歐盟主導的計畫,旨在歐盟區域設置 8 套準 Exascle 等級的 HPC 系統,而此次提到的 MareNostrum 5 在 2021 年 Chevelle.fu 2 年前
產業消息 nvidia NVIDIA Hopper Sapphire Rapids PCie 5 NVIDIA H100 DGX H100 NVIDIA DGX H100 超算系統將採用 Sapphire Rapids 而非 EPYC ,單執行緒性能與新架構設計為關鍵考量 NVIDIA 雖然已經著手開發基於 Arm Neoverse 架構的超算處理器 NVIDIA Grace ,並宣布將與系統業者提供基於 Grace CPU 的伺服器與異構運算系統,但 NVIDIA 也熟知當前運算與超算領域 x86 架構仍為主流,故原本就提到不會貿然放棄支援 x86 平台,故此次的主流系統 DGX H100 也仍舊搭配 x86 CPU 。雖然 DGX H100 官方介紹頁面不會強調處理器,但根據外媒採訪 NVIDAI 執行長黃仁勳透露, NVIDIA 此次的 CPU 合作夥伴再度從 AMD EPYC 回到 Intel Sapphire Rapids 。 黃仁勳指稱, Sapph Chevelle.fu 2 年前