Intel在2024年5月中旬與IDC台灣區總經理江芳韻攜手公布亞太區的AI發展洞悉,並由Intel業務總監鄭智成進一步介紹以開放精神為根的Intel AI解決方案,並強調AI並非僅有生成式AI,Intel提供因應不同類型A合宜且由雲至端的解決方案,將促使AI技術邁向無所不在,同時也強調AI PC將引領企業進一步實踐與AI的結合,提供改善員工效益、提高附加價值、降低IT負擔等任務。
台灣雖有領先的AI硬體技術,但企業、社會對於AI投入仍較日、韓、澳與新加坡落後
▲IDC台灣區總經理江芳韻
根據IDC調研亞太8大經濟體系,台灣雖然於AI硬體有出色的技術,但企業與整體環境對於AI仍處在與印度同一層級的實踐階段,僅在智慧製造、金融與政府有較多著墨,較已經進入AI創新的日韓澳、或處在AI領導的新加坡等,台灣整體對於AI的導入與應用還有相當的可能性。
▲2023年至2024年亞太企業對AI的應用自保守的成本降低與改善效率轉化為爭取更多可能性與獲利機會
▲AI並非只有單一面向,市場火熱的生成式AI在企業並非最大宗但後續成長可期
同時IDC也指出亞太在2023年與2024年對於投入AI的期許也已產生變化,在2023年受到通膨影響,企業希冀AI能夠改善體質與降低成本,但在2024年後,企業更加重視透過AI創造更多附加價值與營收機會;雖然生成式AI是目前火熱的議題,不過亞太的企業組織於生成式AI的投入僅約19%,其餘81%的AI應用為預測與解釋領域,但達7成企業普遍看好生成式AI能創造新價值。另外受到資料安全與保護議題、以及特定即時性應用需求,邊際AI應用的需求也逐漸增加,但最終勢必走向雲與端的混合AI模式。
▲自雲道端的混合式AI終將是AI的發展方向
▲台灣AI硬體技術固然處在領先,但企業、社會落實AI的情況仍落後於日、韓、澳與新加坡
在亞太的AI應用,仍以金融為最大宗,在金融領域,AI廣泛應用在信用評等、分析系統與詐欺分析等,其次是製造業也希冀透過AI改善生產流程與品質管理,其中台灣的半導體高科技製造更希望AI能夠提升晶片設計、製造與品質管理。此外政府機關則將AI應用於恐怖主義預測與情資分析,電信產業則透過AI提供軟體定義服務網路與推薦系統。值得注意的是雖然台灣的AI在企業與社會低於亞太平均值,但政府機關不僅在開放資料透明度政策名列全球榜首,也積極扶持AI領域創新。
▲台灣政府對於AI的態度與投資遠優於其他亞太
▲台灣高科技製造將是帶動AI發展的主要動能
雖然企業普遍認為AI能夠驅動轉型,不過多數的企業即便在導入AI後仍顯迷惘,IDC認為原因包括五大主要可能性,第一是並未選擇符合企業的應用案例,第二是缺少靈活與彈性的基礎架構,第三是對法規與法律理解不足,第四則是為了AI而AI但沒有明確目標,最後是缺少供應商的奧援。不過IDC認為台灣後續將更積極發展AI技術,尤其對機器人與維護預測需求強烈的高科技製造業將會是最大成長動能,其次是金融領域。
Intel開放策略提供靈活的AI基礎設施與技術,AI PC平台扮演企業轉型要角
▲Intel業務總監鄭智成
▲AI最終將無所不在
Intel表示雖然現在提到AI都會想到火熱的生成式AI,但AI當前還有包括預測式AI與解釋性AI,且三者都相當重要,但同時所需的運算方式也都不同;Intel在A提供開放、廣泛且靈活的軟硬體生態,使應用開發者與服務供應商能依據規模於單一環境開發AI應用,成果可於邊際裝置到雲端執行,同時Intel也藉助AI PC與Xeon平台提供做為不同規模的推論平台,在訓練領域則提供Intel Gaudi AI加速器與Intel MegaPod叢集技術。
▲Intel提供完整、開放、可擴展的AI軟硬體環境
▲因應不同層級運算量、不同類型的AI運算,Intel提供合宜的產品資源
▲Intel的開放政策能將AI落實到每個環節
▲Intel於推論與訓練提供對應的產品與技術
Intel提到,其硬體晶片架構能夠因應不同AI運算需求提供合適的運算方式,並舉例到如2023年缺乏高階GPU的情境,Intel的幾個客戶即將Intel Xeon CPU的AMX矩陣加速架構活用在如推薦系統一類的AI應用,並提供比傳統使用沒有矩陣加速器的CPU更高效的性能。另外Intel也舉出幾項在台灣的落地案例,如由遠傳的5G遠距診療平台,亞東醫院的嗓音資料庫,捷洛生物科技的MetalLite軟體結合的喉癌病症辨識AI嗓音模型,以及與華碩開發的ASUS EndoAim AI內視鏡系統,都是採用Intel的AI軟硬體平台開發,此外台灣宏智科技的即時腦電圖應用案例也登上Intel於全球展示AI技術的成功案例。
▲Intel定調AI PC即是將CPU、GPU與NPU整合在單晶片並提供AI應用
▲AI PC將能帶來更多的生產力,Intel也積極與軟體生態夥伴合作提供廣泛的AI應用程式
▲Core Ultra平台能應用在機器人與嵌入式裝置,提供高能源效率的AI應用
▲台灣宏智生醫的即時腦電圖應用案例也成為Intel在全球展示的成功案例
在邊際AI部分,Intel Core Ultra AI PC平台將扮演吃重的要角,當前的AI PC與傳統PC最大的區別,在於處理器除了CPU與GPU外還加入NPU,三種處理器於現代AI各司其職,較為吃重的AI應用如圖像生成等由CPU與GPU結合處理,較為輕度的AI應用如影像增強、音訊降噪等則由具備高度能源效率的NPU執行。且Core Ultra不僅可用於PC裝置,亦可作為嵌入式機器人、嵌入式視覺平台使用,提供低能耗、電池驅動的省電與可移動式AI終端。
Intel也為發展AI技術提供三大建議,其一是擁抱開放生態系,透過開放環境創造價值與展現A潛力;其二是透過整體策略佈署AI與基礎建設,依據實際所需的AI應用自CPU、GPU、FPGA與加速器進行選擇,Intel透過多元的硬體與OpenVINO單一開發環境帶來可擴充性的基礎建設;第三點是AI勢必朝向雲與端的混合式AI發展,結合雲端的高效能運算與邊際的即時性,提供不同運算規模規模、不同延遲的AI執行方式,同時也可透過邊際端執行一部分AI處理加速雲端AI的處理速度,或是如牽涉個人隱私資料先於邊際端進行去識別化處理,確保資料的隱私。