▲高通攜手IBM協助企業在雲端與邊際部屬混合模式的生成式AI
高通宣布與IBM擴大合作,推動雲端與邊際裝置的企業級生成式AI解決方案;雙方計畫將IBM watsonx.governance整合至Qualcomm AI推論套件,並使其能在高通高效能、低功耗的邊際裝置執行,使企業能在其規模負責任的管理AI,同時Quaslcomm AI Hub將提供經過最佳化的IBM Granite 3.1模型,此外Qualcomm Cloud AI系列加速器獲得Red Hat OpenShift認證,協助企業實現真正的混合雲部署。
高通延續在CES公告的合作,高通與IBM將在Snapdragon 8 Elite參考設計及搭載Qualcomm AI推論套件的Qualcomm Dragonwing AI On-Prem Appliance解決方案上運行watsonx.govenance、Granite Guardian 8B以及Granite 3.1 8B模型,使企業端可在邊際裝置執行端對端生成式AI應用,同時將設備推理、低功耗和隱私功能與watsonx的效能結合,協助解決企業AI解決方案的安全性、效率、可靠性和管理理問題。
高通針對AI Hub最佳化IBM第三代Granite旗艦語言模型IBM Granite 3.1,協助開發者與企業充分發揮邊際AI的潛力。雙方將擴大Qualcomm AI Hub與IBM watsonx的合作,透過watsonx.governance功能為設備模型提供管理和責任護欄。同時Qualcomm Cloud AI系列加速器獲得Red Hat OpenShift認證,可透過Kubernetes提供支援混合雲應用的Red Hat OpenShift,將助基於Qualcomm Cloud AI的硬體解決方案大規模部署包括watsonx 在內等IBM軟體應用程式套件。