研究課題/領域番号 |
19K20359
|
研究種目 |
若手研究
|
配分区分 | 基金 |
審査区分 |
小区分61040:ソフトコンピューティング関連
|
研究機関 | 日本大学 |
研究代表者 |
早川 隆 日本大学, 医学部, 助教 (30756789)
|
研究期間 (年度) |
2019-04-01 – 2022-03-31
|
研究課題ステータス |
完了 (2021年度)
|
配分額 *注記 |
3,900千円 (直接経費: 3,000千円、間接経費: 900千円)
2021年度: 910千円 (直接経費: 700千円、間接経費: 210千円)
2020年度: 780千円 (直接経費: 600千円、間接経費: 180千円)
2019年度: 2,210千円 (直接経費: 1,700千円、間接経費: 510千円)
|
キーワード | ニューラルネットワーク / レザボワ計算 / 機械学習 / 脳神経回路 / 統計力学 / 力学系 / ランダム神経回路 / 場の理論 / 統計的学習理論 |
研究開始時の研究の概要 |
時系列を処理する際に過去の情報を記憶して役立てるには、リカレント神経回路(RNN)の記憶効果を利用するのが一般的であり、広く工学応用されている。しかしRNNの動作を直観的に把握することは難しく、理論的な解明が待たれている。申請者は自身の先行研究で、動的な興奮・抑制均衡という性質をもつ広いクラスのRNNを、場の理論の手法を用いて理論的に記述することに世界で初めて成功した。そしてこの新しいクラスのRNNが学習に有用な性質を備えていることに気付いた。本研究は、レザボワ計算とよばれる枠組みの中でこれらの性質を学習に役立てる方法を確立し、その際の回路の性能を理論的に明らかにする。
|
研究成果の概要 |
研究代表者は世界に先駆けて動的な均衡にあるリカレント神経回路の統計力学理論を構築しており、これを用いてレザボワ計算とよばれる学習問題で性能を向上させることを目的とした。まずこの神経回路に入力を加えた際にどのような情報がどのような確率で読み出されるかを記述する、神経回路の応答理論を構築することに成功した。この理論を用いて神経回路が入力された情報をどのように保持するかは結合の詳細に依存して変わることを示し、さらに数値計算により学習に好ましい状態に神経回路を事前学習することで学習性能が向上することを示した。また理論から汎化誤差を抑える学習方法を導出し、汎化性能の向上を数値計算により示した。
|
研究成果の学術的意義や社会的意義 |
人工神経回路を用いたAIは一部の情報処理では動物脳を超えた性能を示すが、過去の情報を記憶して未来に活かす潜在能力を秘めたリカレント神経回路については未だ技術的なブレイクスルーや理論的な解明が待たれている段階である。研究代表者は神経回路の学習に関して近年一定の成功をおさめている統計力学的アプローチを用い、これまで調べられていなかった動物脳にみられる動的均衡という性質を持つリカレント神経回路の理論を世界に先駆けて樹立し、本研究課題を通してその学習における有用性を明らかにした。この研究結果により、リカレント神経回路による過去の記憶の読み出し性能を飛躍的に向上する手がかりが得られた可能性がある。
|