技術名稱 | 不遺忘之深度永續學習 | ||
---|---|---|---|
計畫單位 | 中央研究院資訊所 | ||
計畫主持人 | 陳祝嵩 | ||
技術簡介 | 我們發展新穎的深度永續學習技術,可以完全避免遺忘過去已經習得的任務,本技術以模型濃縮 (shrink) 與擴張 (expand) 交替步驟為基礎,建構出可延續多功能任務的深度模型,並能夠在維持模型緊緻性下進行擴充,有效地達成永續 (continual) 學習。 |
||
科學突破性 | 目前深度永續學習的方法因容易遺忘或需要大量重複訓練而很難實用化,我們的技術突破了過去的的限制,藉由壓縮與擴張的交替步驟,能夠完全避免遺忘過去學習過的技能,維持所習得任務的精確率,並可避免產生冗餘的模型,有效地利用過去的學習累積來提昇新任務的準確率,達成永續學習技術的實用化。 |
||
產業應用性 | 許多公司都正進行以深度學習導入AI的計劃。深度學習的訓練相對耗時,當模型訓練好並佈署到裝置後,應用出現新的狀況時,就需額外花費大量時間重新訓練。本技術使模型能像人類般可在不遺忘已習得任務下,直接對原模型進行新任務的學習,能大大降低訓練時間,加速模型替換過程,節省處理成本。應用領域包括物聯網,智慧工廠,機器人與多媒體等。 |
||
關鍵字 | 人工智慧 機器學習 深度學習 終身學習 永續學習 災難性遺忘 漸進學習 模型壓縮 模型擴張 多工學習 |