高通攜手微軟於 Windows 11 on Snapdragon 運算平台執行生成式 AI ，並開放 Qualcomm AI Engine Direct SDK

近日生成式 AI 成為產業新趨勢，其中高通在 2023 年 2 月下旬展示在搭載 Snapdragon 8 Gen 2 的市售智慧手機執行 AI 繪圖應用，證實以當前頂級智慧手機執行生成式 AI 的可能性，並於 2023 年五月公布一份白皮書，認為邊際裝置端 AI 將邁向終端與雲混合執行；高通再於 5 月 24 日的微軟 Microsoft Build 2023 與微軟攜手，展示再 Windows 11 on Snapdragon 裝置執行生成式 AI ，雙方並允諾將合作擴展 AI 功能，並為消費者、企業與工業設備提供一流的 AI 體驗。

高通在活動強調，若要使生成式 AI 成為主流，勢必要能在終端設備執行大部分的推論，高通借助一流的硬體與軟體環境使開發者能充分利用其 AI 功能，並於基於 Snapdragon 的智慧手機、電腦等設備帶來全新使用體驗。 Snapdrgaon 平台具備一個專用的 Qualcomm AIE AI 引擎，能比單純使用 CPU 或 GPU 更具效益執行 AI 負載，使小型、輕薄設備也足以執行生成式 AI 。高通也預告，在未來幾個月的 Snapdragon 平台，將有能力執行達 100 億個參數的模型，也包括 LLM 大型語言模型。

▲高通預告未來幾個月的 Snapdragon 平台將能執行百億個參數的 AI 模型

高通為了強化 Qualcomm AI Stack 布局，在 Build 宣布開放 Qualcomm AI Engine Direct SDK ，借助 ONNX Runtime 和 Qualcomm AI Stack，現在可以在 Surface Pro 9 5G 和 Lenovo ThinkPad x13s 上的 Snapdragon 8cx Gen 3 AI 引擎上執行 AI 工作負載。高通也公布全新的開發者入口網站，提供關鍵工具、資源與對 Windows on Snapdragon 開發的支援。

Build smrater Windows on Snapdragon 開發者入口網站： Build smarter Windows on Snapdragon