產業消息 NVIDIA GTC nvidia DGX Hopper NVIDIA H100 Grace CPU Blackwell NVIDIA B200 DGX GB200 GB200 Superchip NVIDIA B100 GTC 2024：Blackwell GPU家族成員除了GB200 Superchip、B200 GPU外，還有等同B200 GPU壓低能耗的B100 GPU 在早期的產品藍圖，當時NVIDIA指稱2024年將公布代號B100的Hopper後繼架構，不過在GTC 2024，NVIDIA則是聚焦在Blackwell架構的GB200 Superchip與B200 GPU，但在Blackwell產品線規劃，B100 GPU確實存在，而且與B200 GPU的關鍵差異僅在於能耗設定以及因為能耗影響的效能。 ▲B200晶片特寫，可看到上下的HBM3E記憶體以及兩個互連的Blackwell晶粒 根據NVIDIA提供的白皮書，Blackwell GPU是透過封裝技術將兩個晶片與8Gbps HBM3E記憶體透過高速通道連接構成一個晶片，總共有2,080億個電晶體，單一 Chevelle.fu 1 年前
產業消息 nvidia 超級電腦 TOP 500 InfiniBand Quantum-2 NVIDIA H100 DGX H100 NVIDIA揭密持有的EOS超級電腦，一探超級電腦TOP 500第9名系統的架構 雖然過往超級電腦多由公部門或特定領域企業建設，不過隨著NVIDIA GPU異構加速技術開花結果，NVIDIA也在每個加速器世代設立超級電腦作為火力展示，當前於2023年11月SC23大會亮相的NVIDIA EOS更是超級電腦排行榜TOP 500的第九名系統；而NVIDIA近期釋出一部短片，進一步介紹NVIDIA EOS的構成技術。 ▲EOS透過高速網路串接576套NVIDIA DGX 100、具備達4,608個H100 GPU，提供18.4 exflops的FP8 AI算力 EOS基於NVIDIA DGX SuperPOD模組化架構，由576套NVIDIA DGX H100系統組成，共有4,6 Chevelle.fu 1 年前
汽車未來 俥科技 AI 超級電腦 Tesla NVIDIA H100 Tesla 將斥資 3 億美金建構由 1 萬張 NVIDIA H100 建構的自動駕駛技術用 AI 超級電腦 Tesla 是 NVIDIA 車載自動駕駛平台的初期用戶，初期 Tesla 在車輛使用的先進輔助駕駛平台來自 NVIDIA 的 Tegra 系列，但也早早就在車輛量產轉向自主設計的 FSD 平台，不過當前自動駕駛技術仍須高效能的超級電腦系統進行模擬與 AI 模型訓練， Tesla 仍在自有的超級電腦持續採用 NVIDIA 的 AI 加速技術；Tesla 繼 2021 年架設採用 5,760 個 NVIDIA A100 的超級電腦後，將再次斥資 3 億美金建構高達 1 萬張 NVIDIA H100 的自動駕駛技術用超算系統，性能將比現行系統高出五倍，達 340 FP64 PFLOPS 算力。 T Chevelle.fu 1 年前
產業消息 AI MLPerf NVIDIA H100 ChatGPT 大型語言模型 生成式AI LLM NVIDIA H100 GPU 於 MLPerf 首次亮相即創下生成式 AI 新標竿， CoreWeave 的 H100 GPU 集群在 11 分鐘完成 GPT-3 模型訓練 在 AMD 、 Intel 仍將 AI 性能指標的對照組放在前一世代的 NVIDIA A100 ，新一代的 NVIDIA H100 已經蓄勢待發； NVIDIA 宣布 NVIDIA H100 GPU 在 MLPerf 基準測試的首次亮相即位生成式 AI 樹立全新指標，由雲服務商 CoreWeave 以 3,584 個 NVIDIA H100 構成的大型集群在 11 分鐘內完成基於 GPT-3 大型模型的訓練，顯示 NVIDIA H100 在生成式 AI 的大型語言模型訓練有飛躍性的突破表現。 NVIDIA 預計在 2024 年公布 NVIDIA H100 後繼的 AI HPC 加速 GPU 產 Chevelle.fu 1 年前
產業消息 nvidia AI 加速器 NVIDIA H100 中國媒體實測 NVIDIA H100 GPU PCIe 版效能， AI 效能輾壓但遊戲缺驅動甚至輸內顯 NVIDIA H100 GPU 是目前市場上 AI 效能最高的 GPU 加速產品，不過撇除 AI 之外它的一般效能到底如何也令人相當好奇；中國媒體極客灣弄來 4 張 NVIDIA H100 PCIe 版本進行實測，從 AI 到娛樂與內容創作進行測試，從結果更令人感受到 NVIDIA H100 並非民生級產品的特性，因為在 AI 效能輾壓的另一面，由於缺乏對應的驅動， NVIDIA H100 遊戲性能甚至不及 AMD 新一代的內顯。 為資料中心設計的被動風冷結構 ▲ NVIDIA H100 PCIe 採用被動風冷，仰賴伺服器統一風道設計排熱 NVIDIA H100 PCIe 是針對 AI 工作站 Chevelle.fu 1 年前
產業消息 COMPUTEX台北國際電腦展 nvidia gpu Hopper NVIDIA H100 COMPUTEX 2023 ： NVIDIA 將於 2024 年公布 Hopper 的後繼架構，實現兩年一度的架構更新 隨著 NVIDIA Hopper GPU 加速產品與 Grace CPU SuperChip 、 Grace Hopper SuperChip 逐步出貨， NVIDIA 除了分享各項計劃以外，也不忘透露部分計畫藍圖，其中黃仁勳在介紹一張運算技術效能的世代革新示意圖時，即直接表明 NVIDIA 預計於 2024 年公布 Hopper 的下一代架構，沒有意外的話，應該會在 2024 年的 GTC 大會公布細節。 ▲ NVIDIA 近年多半以 2 年為周期公布 GPU 架構 NVIDIA 在消費級的 GPU 產品以兩年為週期更新可說是常態，不過相對更為複雜的運算級加速器畢竟推出的時間較晚，且市場不斷 Chevelle.fu 1 年前
產業消息 nvidia AI NVIDIA A100 加速運算 NVIDIA H100 NVIDIA 企業運算主管指稱 NVIDIA 運算級硬體僅花 2 成時間，其餘 8 成時間專注在演算法等軟體領域 NVIDIA 在加速運算與 AI 的世代引領風騷，其硬體效能表現也成為許多競爭對手、新創公司的比較基準，同時採用 NVIDIA 的系統夥伴私底下也希冀能夠打造取代 NVIDIA 的自主研發硬體，不過截至目前為止仍難以阻止 NVIDIA 在加速運算與 AI 的領先情形； NVIDIA 當前的領先不光只是硬體技術，同時也是軟體工程的結晶，根據 NVIDIA 企業運算主管 Manuvir Das 在一場 FUTURE COMPUTE 的活動聲稱， NVIDIA 在硬體與軟體的時間比重約為 20% : 80% ， NVIDIA 花了更多的時間在研究演算法以及探索其硬體的可能性。 "At NV Chevelle.fu 1 年前
產業消息 nvidia gpu AI MLPerf Jetson AGX Orin NVIDIA H100 NVIDIA L4 採用 Hopper 架構的 NVIDIA H100 與 NVIDIA L4 GPU 再度樹立 MLPerf 基準新高度， NVIDIA H100 藉軟體更新較初登場推論效能提高 54% 於 3 年前推出的 NVIDIA A100 是當前 AI 產業的性能基準指標，其它品牌的 AI 加速產品皆將 NVIDIA A100 視為比較目標，然而至今為止， NVIDIA A100 仍在作為 AI 業界公認標準的 MLPerf 測試項的訓練與推論有著不可動搖的表現；然而現在 AI 產業又要頭痛了，因為 NVIDIA 公布新一代產品 NVIDIA H100 與 NVIDIA L4 在 MLPerf 的表現，將推論性能提升至全新的水準，樹立全新的性能高牆，同時即便是結合最新生成式 AI 趨勢的 MLPerf 3.0 ， NVIDIA AI 產品依舊具備壓倒性的領先。 ▲相較去年 9 月初次亮 Chevelle.fu 2 年前
專家觀點 nvidia gpu AI 加速運算 NVIDIA H100 Grace CPU SuperChip Grace Hopper SuperChip ChatGPT 大型語言模型 LLM NVIDIA 執行長黃仁勳為何會說現在是 AI 的「 iPhone 時刻」， NVIDIA 在這場 AI 戰爭又扮演甚麼角色 NVIDIA 執行長黃仁勳在年度活動 GTC 2023 時，提出現在將是 AI 的「 iPhone 時刻」的論調，對於以 GPU 異構加速運算將 AI 從僅有基本功能發展至現在看似蓬勃發展現況的 NVIDIA ，貌似 AI 的「 iPhone 時刻」早已開始，為何黃仁勳現在再度提出接下來才是 AI 的「 iPhone 時刻」的論點。 所謂的「 iPhone 時刻」指的是如當年在 iPhone 之前早已有智慧手機(如 Nokia Symbian 、 Windows Phone 等)，但智慧手機真正奠定現在所認知的特性、功能卻是直到蘋果推出 iPhone 後才有了雛形，同時也帶動智慧手機的積極發展 Chevelle.fu 2 年前
產業消息 nvidia 虛擬貨幣 挖礦 聊天機器人 Mellanox 加密幣 NVIDIA H100 ChatGPT NVIDIA 技術長指稱加密幣對社會一點用都沒有，還不如把運算資源拿去做聊天機器人 雖然 NVIDIA 靠著幾年前的加密貨幣狠狠賺了一大筆，不過加密貨幣對於 NVIDIA 可能是個矛盾的產業；根據 NVIDIA 技術長 Michael Kagan 接受衛報採訪時指稱，加密幣對於人類社會並沒有創造任何價值，不如將這些算力用於發展 ChatGPT 一類的聊天機器人；附帶一提的是， Michael Kagan 是 Mellanox 的創辦人與技術長，在 Mellanox 被 NVIDIA 收購後， 2020 年開始擔任 NVIDIA 的技術長。 ▲ Michael Kagan 是原 Mellanox 聯合創辦人暨技術長，在公司被 NVIDIA 收購後於 2020 年擔任 NVIDI Chevelle.fu 2 年前
