2018 Fiscal Year Research-status Report
非カオス的なストレンジアトラクターを活用したレザバー計算機の理論と実装
| Project/Area Number |
16KT0019
|
|---|
| Research Institution | Kyoto University |
|---|
Principal Investigator |
青柳 富誌生 京都大学, 情報学研究科, 教授 (90252486)
|
|---|
| Co-Investigator(Kenkyū-buntansha) |
中嶋 浩平 東京大学, 大学院情報理工学系研究科, 特任准教授 (10740251)
茶碗谷 毅 大阪大学, 情報科学研究科, 准教授 (80294148)
|
|---|
| Project Period (FY) |
2016-07-19 – 2020-03-31
|
| Keywords | レザバー計算機 / カオス / ニューラルネットワーク / 非線形力学系 |
|---|
| Outline of Annual Research Achievements |
本研究では、力学系の性質を適切な指導原理に基づいて上手く利用することで、計算資源として力学系を活用するレザバー計算機を構築すること、また，逆に力学系自体を計算資源という新たな側面で捉え直す研究も実施することを目指していた。前年度までの研究で、非カオス的なストレンジアトラクターを示す力学系（Strange non-chaotic attractor 略してSNA)を計算資源(レザバー)として活用する可能性や，従来の限界を超えた高い学習・適応能力をもつレザバー計算機の理論モデルを構成するため、力学系の性質や適切なタスクの設定などの解析を行う研究を行った。本年度は、これまでの研究を総合的に勘案し、特に力学系の相互作用を規定するネットワーク構造が重要である点に着目して、これまで単純なランダム結合であったものを、リカレント相互情報量最大化という指導原理で構築する事で、特にメモリータスクに関して性能の向上が見られる事を発見した。これを活用することでレザバー計算機における従来の限界であると考えられていたedge of chaos のみの場合の性能を超えることが期待出来る。これまでは edge of chaos の他には特定のタスクによらないレザバー計算機のための力学系構築の指導原理は無かったが、リカレント相互情報量最大化は alternative な指導原理と成り得る点を示せた点に意義があったと考えている。ただし、非線形のタスクに対する性能向上はあまり見られなかった点など、今後の課題も多く残されている。従来からメモリータスクと非線形のタスクは互いに相補的な関係であり、両者を同時に向上させることには一定の限界があるとの先行研究もあり、この点も理論的に解明して今後研究を発展させる予定である。
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
当初はSNAを示す系を中心として、様々な力学系のレザバーとしての能力を多面的に評価することから研究を行った。また、望ましい結合ネットワークの構造は何か？情報理論的な視点も絡め、記憶課題や非線形性の強い課題などに対しての能力を検証した。以上の検証の過程で、必ずしもSNA近傍だけで無く、時間遅れを含む力学系や、SNA近傍のパラメータが分布した複数の力学系をレザバーとして考えることでも、計算能力を高める可能性があることが判明した。また、時間発展に伴う力学系の状態変数の情報の保持を最大化することで、時間的な意味での記憶容量が増加することも示された。特に、ある入力の情報を力学系が時間的にどれだけ保持しているかの指標、すなわち過去と現在の力学系の状態変数の相互情報量を最大化することで、レザバーとしての性能が向上すると考えられる。すなわち、指導原理としてリカレント相互情報量最大化を用いて、予め力学系の相互作用のネットワーク構造を構築してレザバーとして活用する方策である。実際の詳しい解析によると、情報の保持を最大化すると、過去の状態を記憶することが必要な課題に対しては、能力が増大するが、非線形性の強い課題の能力は必ずしも増大しない。ブーリアン関数を用いた計算結果によれば、非線形性の強い課題の学習は、必ずしも情報量最大化では向上しなかった。しかしながら、edge of chaos の他には特定のタスクによらないレザバー計算機のための力学系構築の指導原理は無かったが、リカレント相互情報量最大化も指導原理と成り得る点を示せた点は一定の成果である。
|
| Strategy for Future Research Activity |
本研究の結果から、レザバー計算機として望ましい力学系は edge of chaos 以外の特性としてリカレント情報量が最大化されるような相互作用のネットワーク構造があげられる点を明らかにした。ただし、メモリー課題に対しては性能向上が見られたが、非線形性の強い課題では必ずしも性能の向上はしなかった。一方で、先行研究ではメモリ課題と非線形処理の課題はトレードオフの関係があるとの報告例がある。今回は相互作用を単なるランダム結合から情報量最大化による特定の結合構造を選択したが、ネットワーク構造は時間とともに信号が伝わる経路を規定し、結果としてメモリータスクには影響するが、非線形処理は素子のダイナミクスそのものの特性である可能性がある。その点に関して更に研究を進め、非線形の処理能力の向上には何が必要かを解明する予定である。
|
| Causes of Carryover |
理由：研究成果の発表に関して，当初の研究成果から派生した研究もあり，その研究を継続的に次年度も続けて成果としてまとめるため，延長を希望した．また，研究年度中頃の，実験を担当している研究分担者の異動（准教授へ昇進）や，研究代表者がH30年度は学部長相当の用務を担当しており，想定していたより研究時間が短かったこと，研究協力者一名が一身上の都合で活動できなくなったことなども遠因である．
使用計画：現在既に投稿中の論文へのレフリー対応で新たに必要になった計算や、本年度得られた知見を基礎に、更に大自由度力学系をレザバーとして活用するため、計算資源拡充のために使用する。また、積極的に研究成果を国内外の学会やワークショップなどで発表し、そのために東大と京大・阪大間で緊密に研究打ち合わせを行うための経費にも使用予定である。
|
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
[Presentation] Soft Keyboard: A Novel User Interface for Soft Devices2018
Author(s)
K. Nakajima, K. Inoue, Y. Kuniyoshi, S. Somlor, T. P. Tomo, A. Schmitz
Organizer
Special Session "Laser Dynamics and Complex Photonics 3: Reservoir Computing Session" in The 2018 International Symposium on Nonlinear Theory and Its Applications (NOLTA2018)
Int'l Joint Research / Invited
-
-
-
-
-
-
-
-
-
