| 研究課題/領域番号 |
20K04626
|
|---|
| 研究種目 |
基盤研究(C)
|
| 配分区分 | 基金 |
|---|
| 応募区分 | 一般 |
|---|
| 審査区分 |
小区分21060:電子デバイスおよび電子機器関連
|
|---|
| 研究機関 | 早稲田大学 |
|---|
研究代表者 |
大澤 隆 早稲田大学, 理工学術院(情報生産システム研究科・センター), 教授(任期付) (10613391)
|
|---|
| 研究期間 (年度) |
2020-04-01 – 2023-03-31
|
| 研究課題ステータス |
完了 (2022年度)
|
| 配分額 *注記 |
4,420千円 (直接経費: 3,400千円、間接経費: 1,020千円)
2022年度: 1,170千円 (直接経費: 900千円、間接経費: 270千円)
2021年度: 2,340千円 (直接経費: 1,800千円、間接経費: 540千円)
2020年度: 910千円 (直接経費: 700千円、間接経費: 210千円)
|
|---|
| キーワード | ディープ・ニューラル・ネットワーク / イン・メモリ・コンピューティング / 不揮発性メモリ / オフセット電圧 / オペアンプ / トレーニング・プログラム / MOSFET / 閾値電圧ばらつき / ニューラルネットワーク / 不揮発性メモリデバイス / アンデュアランス / ニューロモルフィックシステム / 新機能メモリ |
|---|
| 研究開始時の研究の概要 |
本研究は不揮発性の新機能メモリを用いて人工ニューラルネットワークにおける推論を高速かつローパワーで実行するエンジンにおいて、その学習をオンチップで行えるようにするものである。一般的に確立された学習アルゴリズムとして逆誤差伝搬法があるが、これに基づいた学習をオンチップで実行するにはアナログの乗算回路が必要となるなど、シナプス回路に新機能メモリ素子を用いて小型化したメリットの意味が薄れてしまう問題が出てくる。そこで、逆誤差伝搬法よりもハードウェアへの負担が軽いくなる新しい学習アルゴリズムを提案し、それに基づいた学習が実行できるニューラルネットワークエンジンの設計を可能とする技術を研究する。
|
| 研究成果の概要 |
ニューラルネットワーク・アクセラレータの回路的な不完全性がもたらす推論精度劣化の問題を解決する方法に関する研究を実施してきた。当初、「オンチップ学習法」は最良の方法のように思えたが、実ははかえって回路のバックワードパスでのばらつきを取り込んでしまい、精度が低下することに気づくことができた。また、「in-situ学習法」の効果は期待できるが、不揮発性メモリデバイスのスイッチング特性の非線形性・非対称性及びスイッチング回数の制約などから実用性は低いという結論を得た。そして、最終年度において、回路の不完全性を取り込んだソフトウェアトレーニング法を提案し、最適な学習方式に至ることに成功した。
|
| 研究成果の学術的意義や社会的意義 |
ニューラルネットワークによる画像認識などを不揮発性メモリを用いた専用集積回路で実現することは、汎用コンピュータにおけるソフトウェアで実現する方式に比べて消費電力と計算速度の点で大きなメリットがある。しかし、専用集積回路チップを製造する際に避けられない素子特性のばらつきにより、認識精度が低下しまう問題があった。我々は、この問題を解決する新たな学習方法を提案した。これは、素子特性のばらつきの一部を測定した後に、それらを学習プログラムに取り込む方法であり、認識精度劣化がほぼ完全に回復できることを示せた。この方法は不揮発性メモリの特性劣化やスイッチングの非線形性・非対称性の課題も解決できるものである。
|
