2018 Fiscal Year Annual Research Report
Mathematical analysis and optimal design of reservoir computing systems
| Project/Area Number |
16K00326
|
|---|
| Research Institution | The University of Tokyo |
|---|
Principal Investigator |
田中 剛平 東京大学, 大学院工学系研究科(工学部), 特任准教授 (90444075)
|
|---|
| Project Period (FY) |
2016-04-01 – 2019-03-31
|
| Keywords | レザバーコンピューティング / 力学系 / 画像処理 / 時系列予測 / 高速機械学習 |
|---|
| Outline of Annual Research Achievements |
本研究では、時系列データの高速機械学習に適したレザバーコンピューティングシステムの数理的解析と最適設計に関する研究を行った。レザバーとしては、リカレントニューラルネットワークやさまざまな物理系を利用することが可能で、物理的リザバーコンピューティングも近年大きな注目を集めている。
本年度は、まずレザバーコンピューティングの代表的なモデルであるエコーステートネットワークの発展的研究を行った。レザバーコンピューティングは時系列処理に適した手法ではあるが、その応用範囲を拡大するために画像処理への応用も試みられている。原画像をそのままレザバーに入力する従来の方法では、訓練するパラメータが多くなることが問題であった。そこで、訓練しない畳込みニューラルネットワークとエコーステートネットワークを組合わせた新しい手法を提案した。画像処理のベンチマーク問題に適用したところ、従来手法よりも大幅に少ない訓練パラメータ数で同等の高い性能を発揮することが分かった。また、エコーステートネットワークによる時系列予測では、レザバーサイズの増加と共に性能の向上率が飽和することが知られている。そこで、この問題を解消するため、レザバーを２つに分割し、それぞれのリードアウトを２段階で学習するエコーステートネットワークを提案した。１つ目のレザバーでおおよその予測を行い、２つ目のレザバーで出力誤差を修正することで、予測性能が向上することが分かった。この提案モデルの数理的解析を行うとともに、記憶容量および非線形性などの性質を調べた。次に、物理的リザバーコンピューティングに関しては、関連研究を幅広く調査し、包括的なレビュー論文を出版した。そして、昨年度から取り組んできた物理的レザバーコンピューティングシステムについて、引き続き物理的制約の下でのレザバー最適化について検討した。
|
