自律的な抵抗変化をするシナプス素子を用いた効率的な深層学習の実現
Project/Area Number |
22K12174
|
Research Category |
Grant-in-Aid for Scientific Research (C)
|
Allocation Type | Multi-year Fund |
Section | 一般 |
Review Section |
Basic Section 61030:Intelligent informatics-related
|
Research Institution | Waseda University |
Principal Investigator |
長谷川 剛 早稲田大学, 理工学術院, 教授 (50354345)
|
Project Period (FY) |
2022-04-01 – 2025-03-31
|
Project Status |
Granted (Fiscal Year 2022)
|
Budget Amount *help |
¥4,160,000 (Direct Cost: ¥3,200,000、Indirect Cost: ¥960,000)
Fiscal Year 2024: ¥1,040,000 (Direct Cost: ¥800,000、Indirect Cost: ¥240,000)
Fiscal Year 2023: ¥1,170,000 (Direct Cost: ¥900,000、Indirect Cost: ¥270,000)
Fiscal Year 2022: ¥1,950,000 (Direct Cost: ¥1,500,000、Indirect Cost: ¥450,000)
|
Keywords | 深層学習 / 抵抗変化素子 / エラー / 学習効率 / ハードウエア / 減衰 / シナプス素子 / 時定数 / 減衰動作 |
Outline of Research at the Start |
現在、人工知能システムのハードウエア化が進められている。そこでは、ハードウエアはソフトウエア上の動作の忠実な再現が求められている。しかし、シナプス素子として開発が進む抵抗変化素子には、電圧印加後に抵抗変化(減衰動作)を示すものがある。本研究では、ソフトウエア上の動作を忠実に再現する上では不都合な減衰動作が反って有効となる場合があること、並びに、その条件を明らかにする研究を理論および実験の両面から進める。
|
Outline of Annual Research Achievements |
現在、脳型情報処理に適した素子開発に基づく人工知能システムのハードウエア化が進められている。そこでは、ハードウエアはソフトウエアで実行されていた計算モデル通りに動作することが求められているが、シナプス素子として開発が進む抵抗変化素子は電圧印加後に抵抗変化(減衰)を示すなど、その要求を満たせていないものがある。しかし、人間の脳には、短期記憶や長期記憶に基づく学習動作など、ソフトウエアには未だ十分に組み込まれていない機能もある。本研究では、ソフトウエア上の動作を忠実に再現する上では不都合な減衰動作が情報処理に与える影響を明らかにし、さらには有効活用できる場を探索することを目的としている。 2022年度は、抵抗減衰が既存の計算モデルに与える影響を理論および実験の両面から明らかにした。具体的には、誤差逆伝搬における抵抗値制御の際に意図的にエラーを導入し、学習の進み方や最終的な正答率に変化が現れるかを調べた。その結果、理想的な抵抗値からのズレが数%であれば、学習効率や最終的な正答率に悪い影響は現れないことが分かった。実際に素子を用いた実験でも、理想的な抵抗値からのずれは数%以内であることが確認できた。また、10%以上のズレを生じる素子があっても、その割合が少なければ学習に影響を与えないことも、シミュレーションおよび実験から明らかにすることが出来た。これらに加えて、2023年度以降の実験に向けた素子作製プロセスの開発も進めた。以上の成果を2本の論文に纏めて成果報告を行った。
|
Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
実験的に調べた抵抗変化の際に起こるエラー率であれば、深層学習における学習効率や最終的な正答率に悪影響が出ないことを実験およびシミュレーションから明らかにすることが出来た。これにより、2つある本研究の大きな目標のひとつをクリア出来たことになる。この結果は、もうひとつの目標である電圧印加後の抵抗変化(減衰)が反って学習効率を高めることがあることの実証にも繋がる成果であり、研究は概ね順調に進んでいると判断する。
|
Strategy for Future Research Activity |
当初の計画通りに初年度の研究が進展したことから、2年目以降も、当初の計画通りに研究を進めていく。具体的には、初年度に確認できた事項を、素子数を増やした深層学習システムを用いてその普遍性を確認する。併せて、自律的な抵抗変化(減衰)がノイズ成分を効率的に除去できるか否かを実験・理論の両面から明らかにしていく。
|
Report
(1 results)
Research Products
(8 results)