Computex 2018 : Arm 談 Project Trillium 與 ML 加速器:秉持提供各項應用最適宜的核心的理念

2018.06.06 12:01AM
Businessperson, Public Relations, Business, Communication, Academic conference, Business development, Energy, Electronics, Business executive, Entrepreneurship, communication, technology, communication, electronic device, public relations, business, businessperson, academic conference, management, energy, business development

Arm 在這波機器學習熱潮中,也宣布將針對機器學習推出 Project Trillium 機器學習運算平台與相關的 IP ,稍早 Arm 副總裁、院士暨多媒體處理器事業部總經理 Jem Davies 也就 Arm 在機器學習的布局與想法進行分享;對於 Arm 而言,異構運算以及提供各類應用最合適的核心架構,至今仍是 Arm 的重要理念,而原本在智慧裝置中的機器學習應用,原本可藉由 CPU 、 GPU 搭配 DSP 的異構運算達成,但隨著在行動裝置上影像、語意等應用日趨複雜,以及物聯網裝置也將由 IoT 進化到 AIoT ,機器學習不光只是在智慧裝置上有所需要,也將在物聯網領域遍地開花。

為了讓這些日趨複雜的應用可透過最有效率的方式實現, Arm 提出了 Project Trillium 機器學習運算平台與相關的 IP ,同時首波針對當前人工智慧應用最廣泛的 ML 加速器、機器視覺領域提供解決方案;可能會有人質疑是否包括基於 Cortex-M 的物聯網設備、智慧電視等都會需要使用人工智慧, Jem Davies 表示,以火箭發射控制為例,雖然這樣的應用通常僅需使用 Cortex-M 等級的微控制器,但火箭發射是繁雜的過程,也常受各種外界影響,若此時搭配深度學習技術以及培訓完成的模型,可藉由機器學習技術降低發射風險,至於智慧電視應用,則可在如影像強化技術利用深度學習的方式提供更好的影像處理方式,藉此提升視覺體驗。

Display device, Advertising, Public Relations, Business, Conversation, Human behavior, Business development, Academic conference, Energy, Entrepreneurship, presentation, presentation, technology, electronic device, communication, business development, human behavior, academic conference, public relations, advertising, display device

在當前的規劃, Arm 並未針對複雜的培訓提供解決方案,主要還是在終端裝置上實現推理的部份,較複雜的訓練則可透過雲端完成,但畢竟在一些追求即時性的應用,如即時影像偵測、駕駛輔助技術等,不能都依賴雲伺服器以及網路提供推理,同時一些高度隱私權的應用,如個人身分辨識等,也需要在終端裝置上進行,未來邊緣運算裝置具一定程度的深度學習培訓能力也是勢在必行,實際上現在已經有一些旗艦手機提供深度學習培訓能力,不過多半仍處於以推理為主的狀態。

另外問到 NVIDIA 將其 NVDLA 開源深度學習加速器納入 Project Trillium ,與 Arm 原本的 Project Trillium  方案是否會有影響, Jem Davies 認為 Project Trillium 歡迎 NVDLA 的加入,他不便就其它廠商的方案提出看法,但他認為 Arm 所提供許多方案其客戶有時也在著手相近的方案,但同時也有不少客戶是選擇與 Arm 購買解決方案,而 Arm 本身的 Project Trillium IP 方案在推廣方面,也由於 Arm 本身處於中立推廣者的姿態,更易推廣給 Arm 長期合作夥伴,也能使技術陣容更容易普及與壯大。