科技應用 xai Elon Musk H100 人工智慧模型 Elon Musk 終止與甲骨文合作 xAI 自建 GPU 叢集訓練 AI Elon Musk 宣布旗下 xAI 終止與甲骨文擴大租用 GPU 協議,將以自購的 10 萬組 NVIDIA H100 GPU 建構超級電腦,加速 AI 模型訓練。 Elon Musk表示,旗下人工智慧新創公司xAI已經結束與甲骨文擴大現有合作租用GPU協議,將轉向以自有GPU資源訓練其人工智慧模型。 在此之前,Elon Musk便透露採購10萬組NVIDIA H100 GPU,藉此建構大規模超級電腦訓練叢集,而此次結束與甲骨文擴大現有合作租用GPU協議,主要希望掌握自主權,藉此加速成為發展更為快速的人工智慧公司。 先前xAI已經與甲骨文達成協議,透過甲骨文基礎架構服務提供的2.4萬組NVI Mash Yang 9 個月前
產業消息 nvidia gpu python H100 大型語言模型 LLM NVIDIA TensorRT-LLM NVIDIA 以開源的 TensorRT-LLM 強化 NVIDIA H100 GPU 的大型語言推論性能,具經最佳化調整內核、前處理與後處理步驟及多 GPU 、多節點通訊基元 NVIDIA 能在 AI 領域持續引領風騷,不僅只是靠出色的硬體以及在對的時間推出合宜的產品,更重要的是長期在軟體與社群耕耘,並持續與產業夥伴開發各式工具降低進入 AI 領域的門檻; NVIDIA 於 2023 年 9 月宣布將在未來幾週公布開源的 NVIDIA TensorRT-LLM 軟體,強調將使開發者不須深厚的 C++ 或 NVIDIA CUDA 即可嘗試新的大型模型,並提供峰值效能與快速自訂功能。 NVIDIA TensorRT-LLM 已開放早期適用,預計在不久後整合至隸屬 NVIDIA AI Enterprise 的 NVIDA NeMo 框架。TensorRT for Larg Chevelle.fu 1 年前
產業消息 nvidia AI Azure H100 aws Hopper NVIDIA H100 GTC 2023 : NVIDIA 與多家合作夥伴公布基於 NVIDIA H100 Tensor Core GPU 的新產品與服務,滿足對生成式 AI 訓練與推論的增長需求 NVIDIA 在 2022 年 GTC 公布新世代的 NVIDIA H100 Tensor Core GPU ,藉由嶄新的架構還有突破性的 Transformer Engine ,能為通用運算與新一代生成式 AI 帶來極大的效能提升,當時多家宣布導入的大型服務商也逐步開始提供基於 NVIDIA H100 Tensor Core GPU 的產品與服務, NVIDIA 在 GTC 2023 也攜手合作夥伴公布多項基於 NVIDIA H100 Tensor Core GPU 的產品與服務。 ▲微軟將開放 H100 實例的非公開預覽版 包括 Oracle Cloud Infrastructure 與多 Chevelle.fu 2 年前
產業消息 nvidia H100 Xeon Scalable NVIDIA Hopper Sapphire Rapids PCie 5 NVIDIA H100 超過 60 款以上採用 Intel 第四代 Xeon Scalable 處理器與 NVIDIA Hopper GPU 的加速系統開始出貨,執行效率較傳統資料中心高出 25 倍 隨著代號 Sapphire Rapids 的 Intel 第四代 Xeon Scalable 處理器正式公布, NVIDIA 也同步宣布將有包括 NVIDIA DGX H100 與合作夥伴設計共超過 60 款以上加速系統問世,強調相較傳統資料中心高出 25 倍執行效率,能夠大幅節省能源成本。 ▲ NVIDIA DGX H100 不僅純性能提升,更具備更出色的能源效率 NVIDIA H100 不僅具備創新的硬體架構與達 900GB/s 的 NVLink ,也率先支援 PCIe 5.0 通道,提供更高速的 GPU 與 CPU 的溝通管道,相較前一代架構的加速系統,採用 NVIDIA H100 的系 Chevelle.fu 2 年前
數位科技與產品 科科來文 機殼 Corsair Showmer 傻瓜狐狸 機箱 水冷 H60 H100 我也要當海賊王!!! Corsair 在中價位機箱區間的決勝武器 400R Corsair在比較早期的玩家印象中是記憶體見長的公司 後來開始玩了水冷 接下來就開始大幅度的擴展其產品種類 近期一般使用者最熟悉的應該是電源供應器與機箱這一個區塊 電源供應器是狼大的專科...所以想要看詳解可以到他的港都狼穴去查資料 狐仔這邊就請大家一起來看看...近期在網路上頗多人討論 Corsair將其定位在中價位端的新產品 400R (拍攝地點是朋友的店內) 外型上頗有設計感 兩片側板設計的凸起除了視覺效果外 更能有效爭取機箱內的空間...好方便放入更大的散熱器或是整線 側板的滑軌用料實在...密閉性也不錯 對於噪音的抑制會有一定的功用 前置面板上的介面頗為豐富 移除面板後可以看到個s 傻瓜狐狸 13 年前