專家觀點 NVIDIA GTC nvidia x86 GTC 深度學習 nvlink pascal 黃仁勳 Ampere nvswitch Neoverse Mellanox Hopper 加速運算 NVLink-C2C 大型語言模型 生成式AI Blackwell 自2012年回顧NVIDIA GTC大會,一探NVIDIA如何成就今日CUDA GPU加速運算與AI霸業 在2024年,NVIDIA首次在COVID-19疫情解封後將年度活動NVIDIA GTC大會恢復實體活動,吸引達1.5萬人報名前往美國加州聖荷西參與,也是歷屆規模與參與人數最大的一場GTC活動;筆者很幸運的在約十年前就陸續有機會參與GTC大會,然而自筆者開始接觸GTC活動之初,GTC大會的聲勢與規模與現在截然不同。 回到2012年的時空情境,台灣財經產業一片唱衰NVIDIA並表示隨時可能倒閉,但若從每年GTC的進展,不難看到當前NVIDIA在加速運算與AI的霸業早已有跡可循;以筆者個人的認知,NVIDIA當前的成功,建立在堅持發展認為有未來性的技術,並以GPU為核心一路擴展技術宇宙,待到對的時 Chevelle.fu 1 年前
科技應用 NVIDIA GTC nvidia Omniverse USD ChatGPT 生成式AI LATTE3D GTC 2024:NVIDIA研究團隊公布文字轉3D AI模型LATTE3D,單一繪圖卡可在一秒將敘述轉換為物體或動物的3D模型 NVIDIA研究團隊在GTC 2024公布最新的文字轉3D研究成果:LATTE3D模型,相較一年前透過文字轉3D模型需費時近一小時、當前的技術進一步縮減至10秒左右,但LATTE3D僅須透過單張NVDIA A6000繪圖卡即可在近乎即時的1秒內產生相同品質的模型,同時產生的3D物件還可匯出到如NVIDIA Omniverse等符合USD通用場景描述圖形的軟體應用或平台,對於創作者,LATTE3D不需從頭設計或自3D資源庫尋找,即可將靈機一動的想法產生精細的3D物件。 ▲LATTE3D可使用單張NVIDIA A6000將自然語言敘述在不到一秒產生3D物件,選定後在透過幾分鐘時間產生更精細的物件 Chevelle.fu 1 年前
雲端服務 機器學習 Amazon SageMaker 生成式AI Amazon Bedrock AWS AI 在 AWS 上打造生成式AI應用程式的無限可能性 生成式 AI 是一種新興的人工智能技術,在 AWS 上開發生成式 AI 應用程式,可以充分發揮其靈活性,為您的創新之路鋪平道路。建構在 AWS 上,生成式 AI 應用程式的無限可能性主要體現在以下幾個方面 : 彈性選擇開源或商業模型 AWS 提供了豐富的開源和商業模型選擇,讓您可以根據應用需求靈活選擇。開源模型具有高度可定制性,可以根據特定需求進行調整和優化,例如使用 Amazon SageMaker 自行訓練和部署模型。另一方面,商業模型則提供了強大的支持、頻繁更新和先進功能,可以直接投入使用,如 Amazon Bedrock 提供的基礎模型 API 服務。 按需擴展計算資源 AWS 提供了 癮特務 1 天前
科技應用 NVIDIA GTC 客製化 增強實境 XR Omniverse 生成式AI BAC Mono GTC 2024:NVIDIA透過Ominverse與生成式AI,使超跑準買家不僅可虛擬賞車還可出一張嘴大玩配色 結合即時光線追蹤與即時渲染的NVIDIA Omniverse技術被許多高級汽車品牌應用在零售領域,相較傳統固定渲染的虛擬賞車方式,Omniverse不僅可即時呈現車輛在不同光影情境、不同角度的質感,還可結合XR裝置進行沉浸式賞車;NVIDIA在GTC 2024的XR體驗區與英國超跑品牌BAC、HP合作,進一步將生成式AI與個性化配色結合,使準車主能夠透過自然語言客製化獨一無二的配色。 ▲透過Omniverse可即時更換車子的配色、漆料質感 ▲透過手持平板掃描地板上的QR Code,即可透過XR方式進行1:1虛擬賞車 在這項展示中,準車主可透過平板掃描地板的QR Code進行定位,並透過XR方式 Chevelle.fu 1 年前
科技應用 NVIDIA GTC nvidia 3D 裸眼3D 生成式AI GTC 2024:NVIDIA展示利用生成式AI將平面大頭照轉化立體頭像技術 NVIDIA研究團隊多次展示利用基於深度學習的AI將單一張照片轉化為3D物件的技術,在GTC 2024會場的XR展示區,NVIDIA研究團隊展示透過生成式AI將大頭照轉換為3D頭像、再結合裸視3D顯示的技術。此項技術將可延伸用於視訊會議,提供貼近面對面的臨場感。 ▲結合裸視3D顯示,彷彿與對方面對面對話 這項技術是利用視訊相機拍攝一張人物胸像後,結合生成式AI技術將平面照片進一步轉化為3D頭像,從拍攝照片到產生3D頭像約半分鐘前後,視覺效果遠超過當前社群平台提供的3D照片,因為此技術是利用生成式AI產生,相較一般AI產生的平面轉立體效果,能進一步補充細節與修整3D建模的立體感,同時結合裸視3D Chevelle.fu 1 年前
雲端服務 LLM AWS AI RAG 向量檢索 向量資料庫 提示工程 透過向量檢索增強,打造高度可信賴的生成式AI內容 生成式人工智能 (Generative AI) 近年來風靡全球,其能夠回答問題、撰寫故事、創作藝術,甚至生成程式碼,令人驚嘆不已。然而,要打造一款高準確度的生成式 AI 應用程式,需要結合領域特定的資料,才能真正發揮其威力。透過向量檢索增強生成 (Retrieval Augmented Generation , RAG) 技術,就能將您的企業資料與大型語言模型 (Large Language Model , LLM) 完美融合,打造出高度相關、內容豐富且安全可靠的生成式 AI 應用程式。 生成式 AI 應用準確度的重要性 生成式 AI 應用程式的核心是 LLM ,這是一種在海量資料 ( 如網際 癮特務 1 天前
產業消息 NVIDIA GTC nvidia DGX Hopper NVIDIA H100 Grace CPU Blackwell NVIDIA B200 DGX GB200 GB200 Superchip NVIDIA B100 GTC 2024:Blackwell GPU家族成員除了GB200 Superchip、B200 GPU外,還有等同B200 GPU壓低能耗的B100 GPU 在早期的產品藍圖,當時NVIDIA指稱2024年將公布代號B100的Hopper後繼架構,不過在GTC 2024,NVIDIA則是聚焦在Blackwell架構的GB200 Superchip與B200 GPU,但在Blackwell產品線規劃,B100 GPU確實存在,而且與B200 GPU的關鍵差異僅在於能耗設定以及因為能耗影響的效能。 ▲B200晶片特寫,可看到上下的HBM3E記憶體以及兩個互連的Blackwell晶粒 根據NVIDIA提供的白皮書,Blackwell GPU是透過封裝技術將兩個晶片與8Gbps HBM3E記憶體透過高速通道連接構成一個晶片,總共有2,080億個電晶體,單一 Chevelle.fu 1 年前
產業消息 NVIDIA GTC nvidia 伺服器 grace 水冷 nvlink nvswitch Blackwell GB200 Grace Blackwell DGX GB200 GB200 NVL72 GB200 Superchip GTC 2024:NVIDIA DGX GB200液冷伺服器動眼看,由18台GB200 Superchip的機架伺服器、9台NVSwitch構成的大型AI Factory單元 NVIDIA在GTC 2024公布基於NVIDIA GB200 NVL72的DGX GB200系統,在會場也展示實際的設計;不同於過往x86形式的DGX系統是由2個x86晶片以PCIe連接到具備8個NVIDIA GPU的NVLink載板的風冷式機架伺服器,DGX GB200則是由18台載有兩套NVIDIA GB200 Superchip的1U伺服器,搭配9台NVSwitch的NVLink交換器等構成,同時也僅有液冷散熱單一設計。 ▲左側為NVSwitch交換器,中間與右方分別為移除水冷頭的以及覆蓋有液冷頭的GB200 Superchip伺服器 ▲後方白色的纜線為NVSwitch的銅纜 ▲液冷道 Chevelle.fu 1 年前
雲端服務 安全漏洞 CodeWhisperer AWS AI CodeGuru 安全掃描功能 安全風險 你的生成式 AI 之盾 - 善用 CodeWhisperer 安全掃描功能 程式碼安全性的重要性 在當今科技日新月異的時代,軟體開發已成為企業營運的核心。無論是網站、行動應用程式還是內部系統,一個微小的程式碼漏洞都可能為企業帶來巨大的安全風險和財務損失。因此,確保程式碼的安全性對於任何組織都是至關重要的。 過去,開發人員通常依賴人工審查和測試來發現潛在的安全問題,但這種方式往往效率低下且容易出錯。隨著生成式 AI 技術的興起, Amazon CodeWhisperer 等智能化工具正在改變這一現狀,為開發人員提供了一種全新的程式碼安全把關方式。 Amazon CodeWhisperer 安全掃描功能介紹 Amazon CodeWhisperer 是 Amazon We 癮特務 2 天前
科技應用 NVIDIA GTC nvidia 氣象預報 生成式AI FourCastNet 中央氣象署 CorrDiff GTC 2024:NVIDA與台灣中央氣象署展示基於生成式AI的CorrDiff如何提升颱風路徑預測精確度,結合擴散模型將精度自25公里縮減至2公里 NVIDIA推出的Earth-2數位孿生技術是為了研究全球氣候變遷的技術,可將氣象預估透過即時可視化的方式呈現,同時結合FourCastNet技術,已能夠模擬25公里左右的颱風路徑精確度,不過若進一步結合當前火紅的生成式AI,精準度還會獲得飛躍性的提升;NVIDIA在GTC 2024大會展示一項與台灣交通部中央氣象署的專案合作成果,雙方透過稱為CorrDiff的生成式超解析/縮小擴散模型,進一步將精準度縮減至2公里。 ▲2021年的燦樹颱風在台灣、菲律賓、中國與日本造成重創 NVIDIA在案例中以2021年發生的燦樹颱風為例,當時在台灣、菲律賓、中國與日本造成嚴重的災害,若能進一步將颱風路徑預 Chevelle.fu 1 年前
產業消息 NVIDIA GTC nvidia Omniverse 自主機器人 人形機器人 數位孿生 製造業 GR00T GTC 2024:Omniverse數位孿生、Isaac自主機器人與生成式AI,NVIDIA為未來製造業帶來嶄新樣貌 NVIDIA的Omniverse數位孿生與Isaac自主機器人結合生成式AI技術,能為下一代的製造業帶來嶄新的樣貌;實際上,隨著虛擬仿真技術生活到數位孿生,許多工廠的規劃已經在Omniverse環境以數位孿生方式進行模擬,包括對空間的最佳化利用、內部通道的最佳化規劃,同時隨著Issac機器人技術與Omniverse結合,並將生成式AI的靈活與突破結合機器人技術,新一代的智慧工廠因此受益。 NVIDIA在GTC 2024大會展示許多合作夥伴利用數位孿生建構的現代化智慧工廠產線,借助Omniverse技術,可先建構廠房的數位孿生環境,並先行規劃設備、產線,同時透過仿生技術,在數位孿生模擬產線人員、 Chevelle.fu 1 年前
雲端服務 雲端服務 AWS AI Teachify Kaik 影音轉檔 Kaik Teachify 採 AWS 雲端,TB 等級影音 24 小時內轉檔不是問題 個人創作者、顧問、講師或補習班業者如果想要販賣線上課程該怎麼做?除了現有的線上影音資源外,有許多業者也會採用「開店服務」系統,以輕鬆的方式經營自己的網站。而 Kaik 公司今年甫推出的產品 Teachify開課快手所提供的服務,就可以提供這一類的業者自行上傳影片、決定銷售價格,此外,亦可運用線上平台進行直播,直播完畢後的雲端錄影亦可直接放在線上銷售。 Kaik 公司經營的最大宗旨,就是讓想經營自己品牌,或是原本就自帶流量的創作者,能更進一步地經營自己的服務;而開課快手的取名就如同他們提供給使用者完善便利的功能服務,讓使用者輕鬆快速上手,若是提到自家公司的定位,則為「專注讓客戶可以建立自己的線上 癮特務 2 天前
專家觀點 NVIDIA GTC ARM nvidia nvlink Mellanox Arm Neoverse 加速運算 NVIDIA Grace NVLink-C2C Grace Hopper SuperChip Blackwell GH200 GB200 Grace Blackwell GB200 NVL72 觀點:NVIDIA Blackwell架構著重結合Grace CPU的GB200 Superchip,意味著NVIDIA逐步減少對x86依賴 NVIDIA在GTC 2024的重點即是宣布全新AI超算GPU架構Blackwell,值得關注的是過往NVIDIA將重點放在整合Grace CPU的「Grace Blackwell」NVIDIA GB200 Superchip,並將GB200構成的GB200 NVL72機架式系統視為新DGX SuperPOD的關鍵架構,對於純CPU的NVIDIA B200相對輕描淡寫。 ▲回顧NVIDIA的GPU加速運算之路,從僅有2家夥伴至今已成HPC與AI產業龍頭 NVIDIA如此大張旗鼓宣傳GB200 Superchip,主要的理由恐怕還是向產業擺明NVIDIA在超算領域正設法減少對AMD與Intel的 Chevelle.fu 1 年前
產業消息 NVIDIA GTC micron 美光 HBM3e NVIDIA H200 GTC 2024:美光於GTC大會展示已量產的8層堆疊24GB HBM3E解決方案在內的多項記憶體與儲存解決方案 美光日前宣布其8層堆疊HBM3E記憶體已量產,並將在2024年第二季搭配NVIDIA H200 GPU出貨;在GTC 2024活動,美光展示一系列記憶體與儲存解決方案,挹注自雲端至邊際的AI應用。同時競爭對手三星、Hynix也同樣在會場展示HBM3E記憶體。 ▲美光預計在2024年再推出12層36GB HMB3E記憶體 美光展示的解決方案包括:1、8層堆疊24GB HBM3E解決方案與後續12層36GB HBM3E解決方案。2、使用單片晶粒具低延遲與低功耗優勢的DDR5 RDIMM記憶體。3、支援NVIDIA Grace CPU的LPDDR5X記憶體解決方案與LPCAMM2模組。4、可在3D Chevelle.fu 1 年前
雲端服務 創新 數位轉型 雲端技術 AWS AI 合作夥伴高峰會 合作夥伴 拓展業務 Amazon Web Services 公布 2022 年台灣 AWS 合作夥伴獎得主 表揚運用創新解決方案引領台灣數位轉型的 13 個 AWS 合作夥伴 Amazon Web Services(AWS)於今日舉行 2022 年台灣合作夥伴高峰會(AWS Partner Summit),全方位分享 2022 年最新的合作夥伴策略與願景,並頒發在地合作夥伴獎項,彰顯 AWS 攜手合作夥伴深耕台灣產業的決心。今年獲選 AWS 合作夥伴獎的 13 個得獎者,皆深入運用 AWS 雲端技術,幫助客戶應對快速變動的商業環境,更協助客戶快速拓展業務版圖。 AWS 台灣暨香港總經理王定愷表示:「雲到哪裡,服務就到哪裡;服務到哪裡,營收就到哪裡。透過 AWS 廣泛而深入的雲端服務及全球影響力,AW 癮特務 3 天前