| 研究課題/領域番号 |
19H04079
|
|---|
| 研究種目 |
基盤研究(B)
|
| 配分区分 | 補助金 |
|---|
| 応募区分 | 一般 |
|---|
| 審査区分 |
小区分60040:計算機システム関連
|
|---|
| 研究機関 | 東京工業大学 |
|---|
研究代表者 |
劉 載勲 東京工業大学, 科学技術創成研究院, 准教授 (70726976)
|
|---|
| 研究分担者 |
橋本 昌宜 京都大学, 情報学研究科, 教授 (80335207)
|
|---|
| 研究期間 (年度) |
2019-04-01 – 2022-03-31
|
| 研究課題ステータス |
完了 (2021年度)
|
| 配分額 *注記 |
17,550千円 (直接経費: 13,500千円、間接経費: 4,050千円)
2021年度: 4,940千円 (直接経費: 3,800千円、間接経費: 1,140千円)
2020年度: 4,940千円 (直接経費: 3,800千円、間接経費: 1,140千円)
2019年度: 7,670千円 (直接経費: 5,900千円、間接経費: 1,770千円)
|
|---|
| キーワード | 深層ニューラルネットワーク / 近似コンピューティング / 深層学習 / 推論アクセラレータ / アクセラレータ / NPU / ニューラルネットワーク / ハードウェアアクセラレータ / 近似計算 / 電力効率 / Deep Neural Network / 蒸留 / 訓練データ削減 |
|---|
| 研究開始時の研究の概要 |
急速に利活用が進む深層学習をIoTエッジ端末で活用すべく、GPUよりも3桁高いエネルギー効率を達成する深層ニューラルネットワーク (DNN) アクセラレータを開発する。アルゴリズム、アーキテクチャ、回路技術、設計技術を跨いだクロスレイヤー最適化で、DNNが本質的に有するネットワークと計算の冗長性を極限まで取り除き、インメモリ型近似コンピューティングで計算エネルギー効率を飛躍的に高める。研究前半では推論が高エネルギー効率実行できるアクセラレータを、研究後半ではオンライン学習可能なアクセラレータを開発し、VLSI 実装する。それによりオンライン強化学習可能なIoTシステムの実現に貢献する。
|
| 研究成果の概要 |
本研究では3年間の研究期間において、深層ニューラルネットワークの学習と推論における近似コンピューティング手法を考案し、それをサポートする演算回路と推論アクセラレータを提案した。またその成果を国際会議６件と論文誌2件にて公表している。特筆すべき成果としては、チップのオリンピックと呼ばれるISSCC2022に発表された推論アクセラレータHiddeniteがあげられる。乱数重みを用いることで深層ニューラルネットワークのメモリ要求を大幅に減らしたHiddeniteは40nmの比較的古いプロセスで実装されているにも関わらず、最先端プロセスの推論アクセラレータと同等以上の処理効率を示した。
|
| 研究成果の学術的意義や社会的意義 |
本研究成果の学術的意義は、 深層学習のアルゴリズムから、アーキテクチャ、回路技術、設計技術までをカバーしたクロスレイヤー型研究による解析と最適化を行い、深層ニューラルネットワークにおいて不必要な冗長性と厳密性を取り除くためにどのようなアプローチが有効であるかを明らかにしたことにある。
またこれにより深層ニューラルネットワークを利用するために必要な計算リソースと電力リソースの制約を緩和することが可能となり、それが適用可能な 範囲を大きく広げた点で大きな社会的意義を持つ。
|
