NVIDIA 公布深度學習加速器架構 NVDLA 資訊,為業界帶來強大、可擴充的推理加速器開源架構

2017.09.26 05:51PM
是NVIDIA 公布深度學習加速器架構 NVDLA 資訊,為業界帶來強大、可擴充的推理加速器開源架構這篇文章的首圖

NVIDIA 在今年 GTC 大會上介紹新一代車載超級電腦平台 Xavier 技術細節時,除了將導入具備深度學習加速技術的 Volta 架構外,還提及 Xavier 會具備針對深度學習的推理部分加速的架構 NVDLA ,而且還投入一顆市場震撼彈: NVDLA 將作為開源架構釋出。 NVIDIA 在稍早也正式公布 NVDLA 的相關資訊,並將包括軟、硬體與相關文件放在 GitHub ,讓有意在各種晶片中加入深度學習推理加速器的開發者能夠在開源許可下使用,授權模式採用 FRAND-RF 許可。

NVDLA 鎖定的是深度學習當中的推理部分進行加速,在架構上採用模組化設計,能夠針對需求擴增,且由於是針對推理部分進行加速,能在大幅縮減深度學習的推理時間,尤其對於各式對於電力限制較多的物聯網裝置有相當大的幫助。

更多的細節可在 NVIDIA 的開源項目介紹頁與 GitHub 看到更多資訊

NVDLA

NVDLA @ GitHub