最新 | 熱門
NVIDIA被要求調查美超微如何使其產品繞過美國進出口限制流入中國，包括偽造伺服器序號
雖然美國商務部啟動對中國高效能運算晶片限制令，使包括AMD、NVIDIA、Intel等的AI HPC晶片無法透過正規管道輸出到中國，然而道高一尺魔高一丈，仍有許多中國企業以其它管道取得這些高效能晶片，其中美超微Supermicro(SMCI)就被認為是其中一家幕後推手；現在傳出美國商務部已經正式要求NVIDIA著手調查為何受到進出口管制的晶片仍流入中國，NVIDIA將針對合作的系統商、包括Dell與美超微進行調查，NVIDIA也留意到中國傳聞可透過偽造序號規避美國進出口管制的限制。 U.S. PROBES $NVDA CHIP SMUGGLING TO CHINA: INFORMATION T
Chevelle.fu
4 個月前
照片中提到了LINE OF、NVIDIA、NVIDIA，跟英偉達、英偉達有關，包含了電腦展 GB200、2024 台北國際電腦展、布萊克威爾、英偉達
NVIDIA Blackwell正式於MLPerf Inference基準測試活動亮相，於Llama 2 70B推論性能提升4倍
NVIDIA在2024年3月的GTC大會公布全新架構的Blackwell加速器，隨著Blackwell步入量產急將出貨，Blackwell首次於MLPerf Inference v4.1基準測試活動亮相，並在所有資料中心測試項目刷新紀錄，其中於處理MLPerf最大LLM工作量的Llama 2 70B，相較NVDIA H100 Tensor Core GPU高出4倍。 ▲Blackwell首次測試的成績相當亮眼 雖然Blackwell仗著新架構刷新各項紀錄，然而基於Hopper架構的NVIDIA H200 Tensor Core GPU也在此輪的於MLPerf Inference基準測試有亮眼的
Chevelle.fu
7 個月前
Elon Musk宣布以10萬個液冷NVIDIA H100建構的超級叢集投入xAI的GROK 3模型訓練
Tesla創辦人、同時也是社群服務X董事長Elon Musk宣布xAI建構的超大型GPU叢集已投入GROK 3的模型訓練，xAI的超大型叢集由高達10萬個使用液冷的NVIDIA H100 GPU構成，是目前全球最大規模的RDMA單一GPU叢集。在xAI的叢集投入服務後，xAI預計於2024年12月推出以該套系統建構的GROK 3模型，Elon Musk指稱屆時將會是全球最先進的AI模型。 Nice work by @xAI team, @X team, @Nvidia & supporting companies getting Memphis Supercluster trainin
Chevelle.fu
9 個月前
照片中提到了14、L40、HIDONVL，包含了英偉達H100、英偉達、英偉達DGX、英偉達、張量核心
華為AI晶片交不出貨，NVIDIA性能封印版NVIDIA H20 GPU再獲中國企業大量訂單
受到中美貿易戰的影響，一方面中國科技產業開始倡議國造晶片，另一方面美國限制美國企業不得輸出高性能AI與HPC晶片到中國，一夕間以中國為重要市場的AI與HPC晶片供應商頓失重要收入來源；在這樣的情況下，華為推出的AI加速晶片Ascend 910B瞬間成為中國企業的救星，不過好景不常，隨著華為AI晶片遭遇供貨不穩問題，許多中國企業包括百度、阿里巴巴、騰訊、字節跳動等又回到NVIDIA的懷抱，而且還是針對中國市場的效能封印特規版NVIDIA H20 GPU。 在華為宣布Ascend 910B後，許多產業分析指稱NVIDIA的營收將大受影響，畢竟受到美國法規影響不得不限制性能但價格卻沒變便宜的特規晶片
Chevelle.fu
9 個月前
照片中提到了ubitus、Taiwan Mixture of Experts，包含了平面設計、平面設計、商標、羊、插圖
Ubitus宣布支援繁中大型語言模型Project TAME，同時在訓練過程貢獻算力與遊戲領域訓練資料
雲端串流服務公司日商Ubitus以遊戲串流技術發跡，近期也積極發展AI相關服務；隨著由台灣多家產、官、學共同發表針對台灣語系與支援專業知識的Project TAME繁中大型語言推出，Ubitus除了貢獻遊戲領域的訓練資料，並宣布提供基於Project TAME的推論服務，並透過繁中LLM Arena網站進行模型推論測試與演進。 繁中LLM Arena網站：LLM Arena ▲Project TAME是首個支援專業領域的開源大型語言模型計畫 Ubitus於2023年即攜手台大資工系合作開發台灣版大型語言模型，近日亦參與台灣首款達70B參數的繁中混合專家模型Project TAME計畫，不僅在訓
Chevelle.fu
9 個月前
照片中包含了英偉達、英偉達、料斗、圖形處理單元、英偉達DGX
NVIDIA H100最新MLPerf訓練測試基準較2023年以3.2倍GPU規模實現3倍以上的性能
NVIDIA持續引領AI產業硬體的關鍵在於不僅止於GPU硬體技術、還有與持續不斷精進的軟體與網路技術結合；NVIDIA公布最新MLPerf Training v4.0基準測試表現，在GPT-3 175B大型語言模型訓練的表現，以較2023年多出3.2倍的GPU數量實現3倍以上的性能增長，展現強大的軟體調校能使GPU數量與性能呈現幾乎1:1的擴充效率，也顯示在相同的硬體架構之下持續擴充規模仍可在軟體不斷增強獲得出色的成效。NVIDIA預期在NVIDIA Blackwell推出後，MLPerf測試基準成績將有更驚人的成果，並邁向訓練與推論的兆參數生成式AI模型世代。 NVIDIA在2023年使用3
Chevelle.fu
10 個月前
照片中提到了NVIDIA®、Meta，跟英偉達有關，包含了馬自達、英偉達、寬的、商標
NVIDIA宣布全面針對Meta Llama 3推論提供最佳化，透過雲端、邊際與個人電腦的NVIDIA GPU皆可執行
在Meta宣布釋出全新大型語言模型Llama 3的同時，相關產業領域的合作夥伴也紛紛宣布支援Llama 3，其中作為Meta自行持有的超級電腦的技術供應商的NVIDIA當然也在第一時間宣布消息；NVIDIA強調採用NVIDIA技術所建構的Meta Llama 3獲得NVIDIA GPU加速挹注，能夠自雲端與資料中心至邊際與個人電腦的NVIDIA GPU以最佳化的方式進行推論，且自即日起即可使用。 NVIDIA同步於ai.nvidia.com提供開發者以NVIDIA NIM微服務嘗試Llama 3：ai.nvidia.com ▲Meta工程師在24,576個NVIDIA H100 GPU叢集完成
Chevelle.fu
1 年前
照片中提到了mos、NVIDIA.、Google Cloud，跟英偉達、谷歌有關，包含了救濟院、Wii U、任天堂、微軟
NVIDIA攜手Google Cloud結合雙方新創扶持計畫加速生成式AI發展，Google Cloud 2025年初導入NVIDIA Blackwell平台
NVIDIA與Google Cloud於Cloud Next '24大會宣布共同展開新合作，旨在扶持全球新創加速建立生成式AI應用程式與服務，雙方將結合彼此的NVIDIA Inception、Google for Startup Cloud的新創公司扶持計畫，以擴大雲端積分(Cloud Credit)市場推廣支援與技術專業知識，協助新創公司更快為客戶提供價值。同時Google Cloud也宣布將在2025年初導入Google Blackwell架構產品並提供服務。 雙方計畫相互結合嘉惠生成式AI新創、加速產業發展 NVIDIA Inception是一項支持超過18,000家新創公司的全
Chevelle.fu
1 年前
照片中提到了區、intel、GAUDI，包含了英特爾、電腦硬件、英特爾、英特爾、AI加速器
Intel公布主打性能與性價比皆優於NVIDIA H100的Gaudi AI加速器，主打提供業界多元且開放的選擇
NVIDIA以長期投入的獨占Cuda加速技術搭配開源軟體環境最終在對的時間開花結果，成為當前引領AI產業的龍頭，不過包括AMD、Intel與諸多新創競爭對手勢必會希望打破僵局，尤其對過往長期獨霸運算產業的Intel而言，勢必希望能夠重振雄風奪回產業領導地位；Intel在Vision 2024大會公布第三世代的Intel Gaudi AI加速器，劍指NVIDIA Hopper架構(對，比較對象不是下一代的Blackwell)，強調在性能全面領先NVIDIA H100以外，更提供產業多元且開放的選擇。 Gaudi 3預計在2024年第二季向OEM交付通用基板與開放加速器模型(OAM)的業界標準配置
Chevelle.fu
1 年前
照片中提到了CIVICIA、VIDIA、VIDIA，包含了黑暗、英偉達、圖形處理單元、英偉達、集成電路
NVIDIA Hopper架構TensorRT-LLM使生成式AI推論提升近3倍，H200藉HBM3e記憶體散熱打破MLPerf推論紀錄
雖然NVIDIA甫在GTC 2024公布眾所矚目的全新Blackwell架構，但畢竟Blackwell仍要待到2024年下半年才會開始出貨，故目前最新的NVIDIA AI GPU加速產品為採用美光HBM3e記憶體的NVIDIA H200 Tensor Core GPU；NVIDIA公布全新的MLPerf測試成績，基於Hopper架構的H100借助TensorRT-LLM軟體突破MLPerf的生成式AI測試項突破原本的性能上限，於GPT-J LLM推論性能較6個月前提升近3倍，而陸續出貨的H200 GPU則透過容量、頻寬提升的HBM3e記憶體與更彈性的散熱，一舉刷新多項MLPerf的紀錄。 ▲包
Chevelle.fu
1 年前

相關文章