2022 Fiscal Year Research-status Report
自律的な抵抗変化をするシナプス素子を用いた効率的な深層学習の実現
| Project/Area Number |
22K12174
|
|---|
| Research Institution | Waseda University |
|---|
Principal Investigator |
長谷川 剛 早稲田大学, 理工学術院, 教授 (50354345)
|
|---|
| Project Period (FY) |
2022-04-01 – 2025-03-31
|
| Keywords | 深層学習 / 抵抗変化素子 / エラー / 学習効率 / ハードウエア / 減衰 |
|---|
| Outline of Annual Research Achievements |
現在、脳型情報処理に適した素子開発に基づく人工知能システムのハードウエア化が進められている。そこでは、ハードウエアはソフトウエアで実行されていた計算モデル通りに動作することが求められているが、シナプス素子として開発が進む抵抗変化素子は電圧印加後に抵抗変化（減衰）を示すなど、その要求を満たせていないものがある。しかし、人間の脳には、短期記憶や長期記憶に基づく学習動作など、ソフトウエアには未だ十分に組み込まれていない機能もある。本研究では、ソフトウエア上の動作を忠実に再現する上では不都合な減衰動作が情報処理に与える影響を明らかにし、さらには有効活用できる場を探索することを目的としている。
2022年度は、抵抗減衰が既存の計算モデルに与える影響を理論および実験の両面から明らかにした。具体的には、誤差逆伝搬における抵抗値制御の際に意図的にエラーを導入し、学習の進み方や最終的な正答率に変化が現れるかを調べた。その結果、理想的な抵抗値からのズレが数％であれば、学習効率や最終的な正答率に悪い影響は現れないことが分かった。実際に素子を用いた実験でも、理想的な抵抗値からのずれは数％以内であることが確認できた。また、１０％以上のズレを生じる素子があっても、その割合が少なければ学習に影響を与えないことも、シミュレーションおよび実験から明らかにすることが出来た。これらに加えて、２０２３年度以降の実験に向けた素子作製プロセスの開発も進めた。以上の成果を２本の論文に纏めて成果報告を行った。
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
実験的に調べた抵抗変化の際に起こるエラー率であれば、深層学習における学習効率や最終的な正答率に悪影響が出ないことを実験およびシミュレーションから明らかにすることが出来た。これにより、２つある本研究の大きな目標のひとつをクリア出来たことになる。この結果は、もうひとつの目標である電圧印加後の抵抗変化（減衰）が反って学習効率を高めることがあることの実証にも繋がる成果であり、研究は概ね順調に進んでいると判断する。
|
| Strategy for Future Research Activity |
当初の計画通りに初年度の研究が進展したことから、2年目以降も、当初の計画通りに研究を進めていく。具体的には、初年度に確認できた事項を、素子数を増やした深層学習システムを用いてその普遍性を確認する。併せて、自律的な抵抗変化（減衰）がノイズ成分を効率的に除去できるか否かを実験・理論の両面から明らかにしていく。
|
| Causes of Carryover |
コロナ禍のために学会出張に行く機会が当初予定よりも減ったため。初年度成果の一部について2023年度に発表を行うことになるが、学術誌への論文投稿という形で初年度の主要成果の報告も行っており、研究期間全体として、本来行うべき成果報告活動に影響は出ない。
|
