產業消息 CPU intel AI 伺服器 Xeon Scalable 推論能力 MLPerf基準測試顯示Intel第6代Xeon Scalable處理器的AI效能較第3代提升17倍 雖然目前提到AI伺服器，多半是由GPU與加速器作為主要AI運算的關鍵硬體，不過AMD與Intel仍在伺服器CPU加入AI加速設計，使CPU也能一定程度執行AI推論運算；Intel引述MLPerf最新一輪的測試數據，對比4年前的第3代Xeon Scalable，第6代Xeon Scalable的AI效能提升幅度達17倍，而較第5代Xeon Scalable也有著1.9倍的幾何平均效能提升。 ▲Intel強調Xeon處理器持續增強其AMX技術，滿足新一代客戶同時執行企業工作負載與AI工作負載的需求 Intel強調AI系統仍仰賴CPU作為關鍵元件，Intel於Xeon整合優異的AI推論解決方案，包括 Chevelle.fu 7 個月前
蘋果新聞 AI NPU A16 Bionic 生成式AI A17 Pro 推論能力 Apple Intelligence 蘋果解釋Apple Intelligence只能在新晶片不是舊晶片跑不動，而是會慢到難以使用 蘋果在WWDC公布全平台AI計畫Apple Intelligence，不過屆時能享受Apple Intelligence的晶片幾乎都是比較新世代的，尤其在手機上僅有目前用於iPhone 15 Pro的A17 Pro才能執行，但例如三星的Galaxy AI卻在舊裝置開放一定的功能，不禁令外界質疑這是不是蘋果迫使消費者為了體驗Apple Intelligence而換機的手段；不過蘋果機器學習與AI主管John Giannandrea、行銷主管Greg Joswiak與軟體主管Craig Federighi在接受Daring Fireball採訪時強調不是不開放給舊晶片使用，而是能執行不代表能順暢使 Chevelle.fu 10 個月前
科技應用 Elon Musk 人工智慧模型 Grok Grok-1.5 推論能力 X.ai 人工智慧模型 Grok 升級至 1.5 版本 Grok-1.5 提升推論能力、前後文銜接能力，並能處理更多元的內容。 Elon Musk旗下人工智慧新創公司X.ai宣布，其自動生成式人工智慧模型Grok將升級至1.5版本。 Grok-1.5將改進其推論能力，使其在編碼、數學計算效率提升，在MATH效能測試結果約為Grok-1的1倍以上，透過HumanEval測試衡量編碼內容生成與問題解決能力則約提升10%以上。 另外，Grok-1.5相比Grok-1的前後文銜接能力明顯提升，並且能對應128000個原始文字位元處理能力，同時也能處理、理解更完整內容，藉此處理更自然的對話互動，以及更複雜的指令。 而跟其他人工智慧系統不同，Elon Musk Mash Yang 1 年前
