• Hello Genius 低功耗高效能深度學習加速器

2018 -11 -30

AI智慧技術興起,手機、智慧家電逐步引入語音命令功能,如Apple裝置上的「Hey Siri」、Android裝置上的「Ok Google」,以及Amazon的語音助理「Alexa」,逐漸實現人類和機器對話的可能性。然而許多工作仍然依靠雲端(Cloud)運算,隨著使用需求增加和人們對隱私權的重視,終端(Edge)運算將成為發展的趨勢。

國立清華大學林永隆教授團隊執行科技部半導體射月計劃,實現「低功耗高效能深度學習加速器」,藉由軟硬體整合加速長短期記憶(LSTM)深度神經網路的運算,提出高效硬體架構和專利的模型壓縮技術,實作關鍵詞辨識系統(Keyword spotting),和ARM Cortex-A9系統相比,相同準確度下功耗減少超過70倍,記憶體容量減少8倍,滿足終端產品的應用。林永隆教授團隊表示,相關技術也適用其他AI領域,未來將擴展深度學習應用與精進加速器的發展。

根據工研院IEK報告指出,預估AI驅動硬體的營收,將從2015年的8億美元,到2025年到達1740億美元,年複合成長率達56%。硬體加速最大優勢在於降低成本和功耗,大幅增進AI演算法運算效率。AI演算法帶領人類實現對人工智慧的憧憬,而硬體將帶領人工智慧大量進入人類的世界。

進一步的相關資訊,請聯絡清華大學資訊工程學系:kathynthu@gmail.com

 

技術詳細內容