最新 | 熱門
照片中提到了KEPLER、Graphics、mory 2 to 4X memory，包含了屏幕截圖、黃健森、顯示卡、英偉達、NVIDIA A100 PCIe
自2012年回顧NVIDIA GTC大會，一探NVIDIA如何成就今日CUDA GPU加速運算與AI霸業
在2024年，NVIDIA首次在COVID-19疫情解封後將年度活動NVIDIA GTC大會恢復實體活動，吸引達1.5萬人報名前往美國加州聖荷西參與，也是歷屆規模與參與人數最大的一場GTC活動；筆者很幸運的在約十年前就陸續有機會參與GTC大會，然而自筆者開始接觸GTC活動之初，GTC大會的聲勢與規模與現在截然不同。 回到2012年的時空情境，台灣財經產業一片唱衰NVIDIA並表示隨時可能倒閉，但若從每年GTC的進展，不難看到當前NVIDIA在加速運算與AI的霸業早已有跡可循；以筆者個人的認知，NVIDIA當前的成功，建立在堅持發展認為有未來性的技術，並以GPU為核心一路擴展技術宇宙，待到對的時
Chevelle.fu
1 年前
照片中提到了CIVICIA、VIDIA、VIDIA，包含了黑暗、英偉達、圖形處理單元、英偉達、集成電路
NVIDIA Hopper架構TensorRT-LLM使生成式AI推論提升近3倍，H200藉HBM3e記憶體散熱打破MLPerf推論紀錄
雖然NVIDIA甫在GTC 2024公布眾所矚目的全新Blackwell架構，但畢竟Blackwell仍要待到2024年下半年才會開始出貨，故目前最新的NVIDIA AI GPU加速產品為採用美光HBM3e記憶體的NVIDIA H200 Tensor Core GPU；NVIDIA公布全新的MLPerf測試成績，基於Hopper架構的H100借助TensorRT-LLM軟體突破MLPerf的生成式AI測試項突破原本的性能上限，於GPT-J LLM推論性能較6個月前提升近3倍，而陸續出貨的H200 GPU則透過容量、頻寬提升的HBM3e記憶體與更彈性的散熱，一舉刷新多項MLPerf的紀錄。 ▲包
Chevelle.fu
1 年前
照片中提到了m，包含了公開演講、言語、公開演講、聽眾
黃仁勳提出半導體產業的生態系統構想
NVIDIA 執行長黃仁勳提出想法，認為半導體未來將建立更廣泛的製造生態系統，而非依賴單一供應商。 針對此次GTC 2024主題演講內容，以及近期產業發展動態，NVIDIA執行長黃仁勳在接受全球媒體訪談時，表示未來的資料中心應該以「人工智慧工廠」 (AI Factory)為稱，藉此輸出各類人工智慧運算應用資源，同時也強調未來半導體產品將不再只是仰賴單一合作單位，而是建立更龐大的製造生態系統。 未來資料中心應該以「人工智慧工廠」為稱 黃仁勳表示，相較過往資料中心僅只是作資料吞吐運作，未來的資料中心將透過人工智慧技術產生更多資料，一如當前許多消費級使用者已經可以透過GPU加速運算的人工智慧服務服務
Mash Yang
1 年前
照片中包含了電子產品、電子產品
GTC 2024：Blackwell GPU家族成員除了GB200 Superchip、B200 GPU外，還有等同B200 GPU壓低能耗的B100 GPU
在早期的產品藍圖，當時NVIDIA指稱2024年將公布代號B100的Hopper後繼架構，不過在GTC 2024，NVIDIA則是聚焦在Blackwell架構的GB200 Superchip與B200 GPU，但在Blackwell產品線規劃，B100 GPU確實存在，而且與B200 GPU的關鍵差異僅在於能耗設定以及因為能耗影響的效能。 ▲B200晶片特寫，可看到上下的HBM3E記憶體以及兩個互連的Blackwell晶粒 根據NVIDIA提供的白皮書，Blackwell GPU是透過封裝技術將兩個晶片與8Gbps HBM3E記憶體透過高速通道連接構成一個晶片，總共有2,080億個電晶體，單一
Chevelle.fu
1 年前
GTC 2024：NVIDIA DGX GB200液冷伺服器動眼看，由18台GB200 Superchip的機架伺服器、9台NVSwitch構成的大型AI Factory單元
NVIDIA在GTC 2024公布基於NVIDIA GB200 NVL72的DGX GB200系統，在會場也展示實際的設計；不同於過往x86形式的DGX系統是由2個x86晶片以PCIe連接到具備8個NVIDIA GPU的NVLink載板的風冷式機架伺服器，DGX GB200則是由18台載有兩套NVIDIA GB200 Superchip的1U伺服器，搭配9台NVSwitch的NVLink交換器等構成，同時也僅有液冷散熱單一設計。 ▲左側為NVSwitch交換器，中間與右方分別為移除水冷頭的以及覆蓋有液冷頭的GB200 Superchip伺服器 ▲後方白色的纜線為NVSwitch的銅纜 ▲液冷道
Chevelle.fu
1 年前
GTC 2024：黃仁勳強調運算產業將自資料中心邁入以生成式AI引領的AI Factory，Blackwell賣的是系統與生態系而非晶片
NVIDIA執行長黃仁勳在GTC 2024大會第二日的媒體團訪時，強調資料中心將面對巨大的轉型，借助GPU加速的生成式AI，他認為下一代的資料中心應該稱為AI Factory(AI工廠)，透過AI技術產出各式的資源，不僅只是單純產生數據；黃仁勳強調，遊戲玩家早就已經體驗過由GPU生成的遊戲圖像內容，然而這樣的內容生成將是下一代AI Factory的重點，透過AI Factory產生的Token，進而生成圖像、影音、文字等內容，由資料中心至AI Factory，將為產業帶來巨大的變革。 ▲黃仁勳強調不同於資料中心產生數據，AI Factory藉由產出Token進而生成各式充滿創意與突破框架的圖像
Chevelle.fu
1 年前
NVIDIA GTC 2024 重點整理：GPU 加速運算、人工智慧應用、Omniverse 平台、人形機器人
NVIDIA 在 GTC 2024 大會上強調 GPU 加速的重要性，並展示了在人工智慧、Omniverse 平台、人形機器人等領域的最新進展。 在此次GTC 2024期間，除了正式揭曉代號「Blackwell」的新一代顯示架構，NVIDIA同時也再次強調GPU加速的重要性，並且藉由GPU加速應用推動更多運算平台發展。 NVIDIA執行長黃仁勳在GTC 2024主題演講再次重申，相較早期以CPU堆疊的運算模式，過去10年多以來的運算因為GPU加入而有明顯加速變化，同時也從傳統機器學習逐漸演變成自動生成式人工智慧，並且改變諸多運算模式。 而藉由人工智慧應用，更讓許多傳統運算發展大幅改變，甚至也加
Mash Yang
1 年前
照片中包含了事件、事件
觀點：NVIDIA Blackwell架構著重結合Grace CPU的GB200 Superchip，意味著NVIDIA逐步減少對x86依賴
NVIDIA在GTC 2024的重點即是宣布全新AI超算GPU架構Blackwell，值得關注的是過往NVIDIA將重點放在整合Grace CPU的「Grace Blackwell」NVIDIA GB200 Superchip，並將GB200構成的GB200 NVL72機架式系統視為新DGX SuperPOD的關鍵架構，對於純CPU的NVIDIA B200相對輕描淡寫。 ▲回顧NVIDIA的GPU加速運算之路，從僅有2家夥伴至今已成HPC與AI產業龍頭 NVIDIA如此大張旗鼓宣傳GB200 Superchip，主要的理由恐怕還是向產業擺明NVIDIA在超算領域正設法減少對AMD與Intel的
Chevelle.fu
1 年前
照片中提到了FULL DATA CENTER WITH 32,000 GPUs、AI FACTORY FOR THE NEW INDUSTRIAL REVOLUTION、645 exaFLOPS of Al performance，包含了走道、架構：m、倉庫 M 和同事、倉庫、走廊
GTC 2024：基於Blackwell GPU的DGX SuperPOD為兆級參數規模生成式AI而生，結合網路、軟體與儲存可擴展到數萬個GB200 Superchip
NVIDIA於GTC 2024公布Blackwell架構，也同步宣布基於Blackwell GPU的新一代NVIDIA DGX SuperPOD；不同過往DGX SuperPod採用x86架構與風冷散熱，基於Blackwell架構新DGX SuperPod採用基於Arm Neoverse的Grace CPU與Blackwell GPU構成的NVIDIA GB200 Superchip，並採更高效的液冷散熱架構，透過NVLink可連接至最多576個Blackwell GPU，借助NVIDIA網路、NVIDIA全端AI軟體與儲存最高可擴展數萬個GB200 Superchip，可因應兆級規模的AI超
Chevelle.fu
1 年前
照片中包含了性能、績效M、M階段
GTC 2024：NVIDIA公布雙晶粒連接的Blackwell架構NVIDIA B200 Tensor Core GPU，GB200 Superchip由1CPU與雙GPU構成
NVIDIA在GTC 2024的重頭戲即是宣布以首位美國科學院黑人學者與研究賽局理論與統計學數學家David Harold Blackwell為名的Blackwell GPU架構，以及基於Blackwell架構的NVIDIA B200 Tensor Core GPU；Blackwell採用六項為加速運算而生的革命性技術，首度採用雙晶粒互連構成一個2,080億電晶體的GPU，同時全新的GB200 Superchip(Grace Blackwell超級晶片)更透過NVLink-C2C將2個NVIDIA B200 Tensor Core GPU與1個Grace CPU連接。 基於Blackwell架
Chevelle.fu
1 年前

相關文章