2017 Fiscal Year Research-status Report
非カオス的なストレンジアトラクターを活用したレザバー計算機の理論と実装
| Project/Area Number |
16KT0019
|
|---|
| Research Institution | Kyoto University |
|---|
Principal Investigator |
青柳 富誌生 京都大学, 情報学研究科, 教授 (90252486)
|
|---|
| Co-Investigator(Kenkyū-buntansha) |
中嶋 浩平 東京大学, 大学院情報理工学系研究科, 特任准教授 (10740251)
茶碗谷 毅 大阪大学, 情報科学研究科, 准教授 (80294148)
|
|---|
| Project Period (FY) |
2016-07-19 – 2019-03-31
|
| Keywords | レザバー計算機 / カオス / ニューラルネットワーク / 情報量最大化 / ネットワーク結合力学系 |
|---|
| Outline of Annual Research Achievements |
本研究では，力学系の性質を上手く利用することで，計算資源として力学系を活用し，そこから力学系自体を新たな側面で捉え直す基礎理論を構築することを目指す．本年度は，力学系を計算資源(レザバー)として活用することで，従来の限界を超えた高い学習・適応能力をもつレザバー計算機の理論モデルを構成するため、力学系の性質や適切なタスクの設定などの評価を行った．また，その過程で大自由度結合力学系を情報論的視点も包含する新たな切り口で数学的に捉え直し，力学系の新たな特徴付けの理論手法の開発にも取り組んでいる。具体的には、以下の点に着目して，レザバーとしての能力を具体的に評価することから研究を行った．
①望ましい結合ネットワークの構造は何か？例えば非対称な方が良いのか？カオスの縁以外の何か適切な指標は無いのか？情報理論的な指標も検討した。具体的には時間の前後でのレザバーの状態間の相互情報量が最大化するように結合を構成し、その計算資源としての能力を評価した。また力学系としての性質として、SNA力学系の分岐構造や通常カオスからSNAに至るルートの詳細に関して数学的に検討した。
②現実の物理系として流体やソフトロボティクスを用いたタイマータスクを実装した。具体的には、流体の表面波のダイナミクスや軟体動物を想定したソフトロボティクスを活用してタイマーが構築できることを示した。入力の強度に応じて、出力の時間間隔を様々に制御できるような関数が水面のダイナミクスに埋め込めるか、その限界・適用範囲をダイナミクスの特性と関連付けて議論した。
③状況に応じて複数の時系列を学習するためフィードバックを導入するが，入力の強度はどうすることが適切か、情報理論的な観点などを手がかりとして調べた．
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
研究実績の概要に示した各項目に関して、以下の様な結果を得ている。
①本研究ではレザバー内のランダム結合に対して，リカレント相互情報量最大化と呼ばれる教師無し学習を行い。その計算能力を memory task（過去の情報を計算に利用する能力） および random boolean task（主として非線形の複雑さに対する能力）により、情報処理能力を調べた。結果として、memory task の能力は向上したが、非線形性の処理に関してはあまり向上は見られた無かった。
②現実の物理系として流体およびソフトロボットを用いたタイマータスクを実装し、トランスファーエントロピーなどの手法も用いて、その性質を評価した。
③情報量最大化の指標を用いるさいに、レザバー内の結合の学習よりも入力信号の結合を数倍に設定した方が、計算能力が向上することが分かった。
SNAに関しては、大自由度力学系における基本的性質が未だ明らかで無く、やや進捗は遅いが、一方、情報理論的評価に関しては想定以上に進捗した。
|
| Strategy for Future Research Activity |
前年度までの研究を引き続き進め，最初に提案した準周期外力の影響下でのSNA力学系の分岐構造の解析とそれに基づく系の性質を調べる。今までの研究成果では、カオスの縁に変わる指標として、Recurrent Infomax （再帰型情報量最大化原理）がメモリータスクに対して一定の性能向上の効果を示した。「レザバー」としての性能を決める重要な要因は，入力の影響をtransientなdynamicsとして一定時間保持する特性（fading memory）と，入力を高次元の空間に非線形変換し分離可能なものにする特性（input separability）がある。後者に対する有効な指標としては、情報理論的指標以外に、SNAなど力学系の指標が重要である可能性があり、引き続き理論と数値計算により解析を進める。
|
| Causes of Carryover |
実験を担当している研究分担者が異動(准教授へ昇進)した初年度であり、これに伴う状況の変化に対応するため、実験装置や計算機の整備を計画通り無理に進めるより、幾つかの物品は再考して設備を導入する方かが効率的に研究が進められると判断した。具体的には、移動先の建物のネットワーク環境が大規模に更新される予定もあり、居室の実験室としての適切性にもやや問題があったことで、新たに購入する実験装置とデータ解析用クラスターマシンの一部を次年度の状況も見ながら検討する必要があった。本年度は、高性能のiMac pro を導入して、また、東大と京大での遠隔地の打ち合わせをスムーズに行うために、テレビ会議システムを導入したが、残金が若干生じた。今回、年度繰り越しの制度を活用することで柔軟に対応できた。
次年度には実験装置やデータ解析用計算機の購入を検討し、本年度得られた知見を基礎に、更に大自由度力学系をレザバーとして活用するため、GPUに対応したpyhtonのライブラリなどを実装するクラスターマシンの導入を行う。また、研究成果の発表や国際的な共同研究を見据えて国際会議などに積極的に参加する予定である。
|
