產業消息 NVIDIA GTC nvidia DGX Hopper NVIDIA H100 Grace CPU Blackwell NVIDIA B200 DGX GB200 GB200 Superchip NVIDIA B100 GTC 2024:Blackwell GPU家族成員除了GB200 Superchip、B200 GPU外,還有等同B200 GPU壓低能耗的B100 GPU 在早期的產品藍圖,當時NVIDIA指稱2024年將公布代號B100的Hopper後繼架構,不過在GTC 2024,NVIDIA則是聚焦在Blackwell架構的GB200 Superchip與B200 GPU,但在Blackwell產品線規劃,B100 GPU確實存在,而且與B200 GPU的關鍵差異僅在於能耗設定以及因為能耗影響的效能。 ▲B200晶片特寫,可看到上下的HBM3E記憶體以及兩個互連的Blackwell晶粒 根據NVIDIA提供的白皮書,Blackwell GPU是透過封裝技術將兩個晶片與8Gbps HBM3E記憶體透過高速通道連接構成一個晶片,總共有2,080億個電晶體,單一 Chevelle.fu 1 年前
產業消息 NVIDIA GTC nvidia 伺服器 grace 水冷 nvlink nvswitch Blackwell GB200 Grace Blackwell DGX GB200 GB200 NVL72 GB200 Superchip GTC 2024:NVIDIA DGX GB200液冷伺服器動眼看,由18台GB200 Superchip的機架伺服器、9台NVSwitch構成的大型AI Factory單元 NVIDIA在GTC 2024公布基於NVIDIA GB200 NVL72的DGX GB200系統,在會場也展示實際的設計;不同於過往x86形式的DGX系統是由2個x86晶片以PCIe連接到具備8個NVIDIA GPU的NVLink載板的風冷式機架伺服器,DGX GB200則是由18台載有兩套NVIDIA GB200 Superchip的1U伺服器,搭配9台NVSwitch的NVLink交換器等構成,同時也僅有液冷散熱單一設計。 ▲左側為NVSwitch交換器,中間與右方分別為移除水冷頭的以及覆蓋有液冷頭的GB200 Superchip伺服器 ▲後方白色的纜線為NVSwitch的銅纜 ▲液冷道 Chevelle.fu 1 年前
產業消息 NVIDIA GTC nvidia DGX SuperPOD Blackwell NVIDIA GB200 NVIDIA B200 DGX GB200 DGX B200 GB200 NVL72 GTC 2024:基於Blackwell GPU的DGX SuperPOD為兆級參數規模生成式AI而生,結合網路、軟體與儲存可擴展到數萬個GB200 Superchip NVIDIA於GTC 2024公布Blackwell架構,也同步宣布基於Blackwell GPU的新一代NVIDIA DGX SuperPOD;不同過往DGX SuperPod採用x86架構與風冷散熱,基於Blackwell架構新DGX SuperPod採用基於Arm Neoverse的Grace CPU與Blackwell GPU構成的NVIDIA GB200 Superchip,並採更高效的液冷散熱架構,透過NVLink可連接至最多576個Blackwell GPU,借助NVIDIA網路、NVIDIA全端AI軟體與儲存最高可擴展數萬個GB200 Superchip,可因應兆級規模的AI超 Chevelle.fu 1 年前