研究課題
本研究では、時系列データの高速機械学習に適したレザバーコンピューティングシステムの数理的解析と最適設計に関する研究を行った。レザバーとしては、リカレントニューラルネットワークやさまざまな物理系を利用することが可能で、物理的リザバーコンピューティングも近年大きな注目を集めている。本年度は、まずレザバーコンピューティングの代表的なモデルであるエコーステートネットワークの発展的研究を行った。レザバーコンピューティングは時系列処理に適した手法ではあるが、その応用範囲を拡大するために画像処理への応用も試みられている。原画像をそのままレザバーに入力する従来の方法では、訓練するパラメータが多くなることが問題であった。そこで、訓練しない畳込みニューラルネットワークとエコーステートネットワークを組合わせた新しい手法を提案した。画像処理のベンチマーク問題に適用したところ、従来手法よりも大幅に少ない訓練パラメータ数で同等の高い性能を発揮することが分かった。また、エコーステートネットワークによる時系列予測では、レザバーサイズの増加と共に性能の向上率が飽和することが知られている。そこで、この問題を解消するため、レザバーを２つに分割し、それぞれのリードアウトを２段階で学習するエコーステートネットワークを提案した。１つ目のレザバーでおおよその予測を行い、２つ目のレザバーで出力誤差を修正することで、予測性能が向上することが分かった。この提案モデルの数理的解析を行うとともに、記憶容量および非線形性などの性質を調べた。次に、物理的リザバーコンピューティングに関しては、関連研究を幅広く調査し、包括的なレビュー論文を出版した。そして、昨年度から取り組んできた物理的レザバーコンピューティングシステムについて、引き続き物理的制約の下でのレザバー最適化について検討した。
すべて 2019 2018 その他
すべて 雑誌論文 (3件) (うち査読あり 3件、 オープンアクセス 2件) 学会発表 (10件) (うち国際学会 8件、 招待講演 1件) 備考 (1件)
Neural Networks
巻: 115 ページ: 100-123
10.1016/j.neunet.2019.03.005
IEEE Transactions on Neural Networks and Learning Systems
巻: - ページ: -
10.1109/TNNLS.2019.2899344
Neurocomputing
巻: 333 ページ: 76-85
10.1016/j.neucom.2018.12.036
http://eeip.t.u-tokyo.ac.jp/gtanaka/publication_jp.html
