產業消息 hbm SK hynix HBM3 HBM3e SK Hynix 宣布傳輸性能達 1.15TB/s 的 HBM3E 頂級 DRAM ,借助液冷填充物強化散熱性能 HBM 記憶體是目前 HPC 與頂級 AI 系統不可或缺的記憶體技術,雖然成本高然而可提供比常規 DDR 與 GDDR 更快的傳輸性能;韓國 SK Hynix 宣布推出新一代的 HBM3E ,將傳輸性能提升到 1.15TB/s ,其關鍵在於採用液態冷卻填充物解決高溫影響效能的問題; SK Hynix 預計在 2024 年上半年量產,同時 HBM3e 也將與現行 HBM3 具有 Pin-to-Pin 的特性,能在既有的設計以 HBM3e 取代 HBM3 。在合作夥伴證言中,確認 NVIDIA 將成為 SK-Hynix 的 HBM3E 客戶之一。 目前 SK-Hynix 並未公布 HBM3E 的堆 Chevelle.fu 1 年前
產業消息 nvidia AI 資料中心 Grace Hopper SuperChip 大型語言模型 生成式AI GH200 HBM3e SIGGRAPH 2023 : NVIDIA 公布 141GB HBM3e 版 NVIDIA GH200 Grace Hopper Superchip ,並宣布 NVLink dual-GH200 雙晶片伺服器系統 NVIDIA 已經在 Computex 2023 期間公布首款混合 CPU 與 GPU 的 NVIDIA GH200 Grace Hopper Superchip 開始量產,並預計在 2023 年末推出;或許是受到 AMD 也將推出第一款資料中心級 APU 產品 Instinct MI300A 的影響,在 SIGGRAPH 2023 主題演講, NVIDIA 再宣布將推出採用 HBM3e 記憶體版本的 NVIDIA GH200 Grace Hopper Superchip ,不僅將 GPU 記憶體頻寬提高到 5TB/s ,同時相較先前公布的 GH200 配有 96GB 的 HBM3 記憶體, Chevelle.fu 1 年前