2017 年度実施状況報告書

学習する対象から情報収集するアルゴリズムの構築とその応用

研究課題

研究課題/領域番号	16K16121
研究機関	国立研究開発法人理化学研究所
研究代表者	早川隆国立研究開発法人理化学研究所, 脳科学総合研究センター, 研究員 (30756789)
研究期間 (年度)	2016-04-01 – 2019-03-31
キーワード	リカレント神経回路 / 情報量最大化 / 強化学習 / ゲーム理論 / 非線形力学系
研究実績の概要	研究実施計画に従い、平成29年度に引き続いて「学習する対象から情報収集するアルゴリズムの設計」を行った。昨年度までの研究により、情報収集する対象がゆっくり学習する場合について、そのトレンドを読み取り情報を集めるアルゴリズムが導けていた。その結果を起点に、強化学習・ゲーム理論などと組み合わせて応用を検討していたが、そこではリカレント神経回路を使って過去の記憶を保持することが性能の鍵になりそうなことがわかっていた。この部分を改良するために、リカレント神経回路の理論を新たに導いて学習に役立てようとしていた。その結果、平成29年度の初旬に予想外のブレイクスルーがあり、これまで知られていたリカレント神経回路の理論と比べて全く新しいタイプの理論が導けた。この理論によって、ある特定のタイプの回路構造により正・負のシグナルが動的均衡を起こしている場合に回路が学習・情報処理に有用であることが示せた。そしてこの成果を国内・国際会議にて発表・議論し、論文にまとめプレプリントサーバーに公開し、その後論文誌に投稿した。また同時に、本研究の目的にこの性質を利用できるアルゴリズムを構築した。これまで技術的なボトルネックにより進行を見合わせていた応用研究についても、上記のブレイクスルーにより実際に性能を向上させて成果を期待できることが予備検討において確認できた。基本的な場合については数値計算をすすめて、情報収集アルゴリズムについての論文執筆も開始した。
現在までの達成度 (区分)	現在までの達成度 (区分) 2: おおむね順調に進展している理由昨年度までの研究で基幹となる理論を導きモデルの設計はうまく行っており、あとは具体的性能をいかに示すかが鍵であった。この鍵となる部分がリカレント神経回路をどのように使うか、その理論的基礎が得られるかどうかであったが、これに関してブレイクスルーを得た。国内・国際会議にて発表したところ高い評価を得ることができ、また高インパクトの論文誌に投稿したところ依然査読・改訂中ではあるが査読者から大きな反響とポジティブな評価を得た。これらの基幹部分の理論とリカレント神経回路の理論をあわせれば、当初の研究計画の遂行において大きな進展が予想され、また予備検討において実際にその結果が得られてきている。よって全体的な研究の進捗状況は順調と言える。
今後の研究の推進方策	今年度の成果および進捗状況に関して述べたように、これまでの研究で理論部分において、基盤理論の構築・部品となるリカレント神経回路の理論の2つの面で予想外のブレイクスルーを含むかなりの進展が得られた。一方、競合研究者に先行してこれらの成果を発表するために、具体的応用については後回しにせざるを得なかった。また、具体的な応用のためのコンピューターシミュレーションを予備的に行ったところ、予想以上に計算機資源が必要であることがわかった。そこで、平成29年度は研究費の使用をできるだけ抑えて理論部分の成果発表に注力しつつ、次年度の計算機環境を整えてきた。平成30年度の初旬に予定している大幅な計算機資源の増設(2.5倍程度)により応用のための数値計算を効率よく行うことができる予定である。これらの下準備をもとに、平成30年度は大規模な数値計算を行っていく。具体的には理論的に整備した情報収集アルゴリズムをブレイン・コンピューターインターフェースやゲーム理論に応用できるかどうかを大規模数値シミュレーションで検証していく。これまでに構築してきた理論が性能の向上につながることが期待できる。
次年度使用額が生じた理由	次年度計画にも記載したように、本年度は当研究計画にとって非常に根本的な理論的成果のまとめと発表に注力した。また、当初は初年度に購入した計算機サーバーにて研究計画全体をすすめる予定であったが、本年度の検討で大規模数値計算による応用研究のためには2--3倍の計算機資源が必要になることが明らかになった。これらの理由から本年度は成果発表を最大限行いつつもなるべく支出を抑え、今後の学会・論文発表などは個人的な予算で行うよう計画変更し、かわりに平成29年度残額と平成30年度分予算を合計し、計算機環境の増設することを計画した。選定作業や複数計算機の並列処理のための予備検討などを完了し、平成30年度初旬に計算機サーバーを増設する予定としている。
備考	論文発表・個人ウェブページでの一般社会への成果アピールに先立ち、上記プレプリントサーバーにて論文を公開している。