2020 Fiscal Year Research-status Report
光リザーバコンピューティングの多機能化と並列リザーバによる高性能化
| Project/Area Number |
20K15185
|
|---|
| Research Institution | Saitama University |
|---|
Principal Investigator |
菅野 円隆 埼玉大学, 理工学研究科, 助教 (10734890)
|
|---|
| Project Period (FY) |
2020-04-01 – 2023-03-31
|
| Keywords | 機械学習 / 時間遅延システム / レーザ / リザーバコンピューティング |
|---|
| Outline of Annual Research Achievements |
時間遅延リザーバコンピューティングは機械学習手法の一種である．これは時間遅延フィードバックを有する非線形素子をネットワークの代わりに使用するため，物理実装が容易である．本方式で様々なタスクを可能とするには，リザーバの処理能力の向上が必要不可欠である．しかしながら物理システムは，内部構造を変化させることに自由度が少ない．これに対して時間遅延リザーバではフィードバックの強さや遅延時間を変化できる．これらを変化させることによる計算能力の向上可能性を明らかにすることは課題の１つである．
そこで令和２年度は「情報処理目的に応じた物理リザーバの実現」を目的として研究を行った．特に「前処理のマスク信号の周期」と「フィードバック遅延時間」の関係に着目した．本方式ではリザーバの出力を時間方向に区切ることで仮想的にノードを定義する．このとき各仮想ノードへの入力信号にランダムマスクを乗算する．このマスクの周期とフィードバック遅延時間は慣習的に一致させていた．マスク周期に対して遅延時間を定数倍に設定することで，非線形素子による変換を複数回実行するノードを実現できる．繰り返し非線形変換を行うことで，高い非線形変換能力の実現が期待できる．
上記の確認に光電気遅延システムを用いたリザーバにおいて関数近似タスクを実装した．これは正弦関数を近似させるタスクである．タスクのパラメータを介して要求される記憶能力，非線形変換能力を調整できる．タスクの結果から，ループ数の増加に伴い非線形変換能力が増加し，ループ数が減少すると記憶能力が増加することが確認できた．ループ数により非線形変換能力と記憶能力を調整可能であり，タスクに必要な能力に応じて，適切なリザーバを実現できることが分かった．本成果は，国際学会NOLTA2020および国内学会第81回応用物理学会秋季学術講演会にて発表を行った．また国際論文誌に投稿予定である．
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
令和２年度の初頭は，新型コロナウイルスの影響で実験に関する課題に取り組むことが困難であった．そこで令和２年度の課題の中で，数値シミュレーションによる調査を積極的に行った．本研究においてリザーバとして使用する光電気遅延システムは，その時間ダイナミクスを比較的簡単な数値モデルで数値的にシミュレートすることができる．あらかじめ数値シミュレーションにおいて，リザーバコンピューティングによる関数近似タスクを実装し，その性能を評価した．特に光電気遅延システムの遅延時間に限らず，他のパラメータへの性能の依存性を調査することで，後に行ったリザーバコンピューティングの実験を効率的に行うことができた．
さらに関数近似タスクだけでなく，リザーバコンピューティングの評価に用いられている一般的なタスクの実装も行った．具体的には，時系列予測や通信路チャネル等化などである．ここでは遅延ループ回数を変化させ，各タスクの性能の依存性を調査することにより，タスクに要求される非線形性や記憶能力の見積りも行った．リザーバコンピューティングの評価に広く用いられるタスクに要求される性能の知見は，今後の様々なリザーバコンピューティングの評価において有用である．
また研究課題として設定されていない項目ではあるが，リザーバコンピューティングの新たな発展として，強化学習との融合について研究を行った．リザーバコンピューティングにおいて，学習済みのモデルとは異なるモデルが入力された場合，情報処理精度が悪化することが考えられる．一方で様々なモデルを学習させた場合，個々のモデルに対する情報処理精度が悪化すると考えられる．この問題に対して，強化学習を用いたモデル選択手法を提案し，実験的に実装した．本手法において強化学習を併用することで，異なる目的の情報処理に適応的なリザーバコンピューティングシステムが実現できることが確認された．
|
| Strategy for Future Research Activity |
令和３年度は当初計画の通り，リザーバの応答出力と情報処理能力の関連性について調査する予定である．光リザーバコンピューティングによる情報処理は，時系列予測や音声認識などのベンチマークタスクを高い精度で達成できることが示されているが，「なぜ正しく情報処理が達成されるのか」ということに関して十分に調査されていない．時間遅延ループの構造を変化させることでリザーバの応答出力を変化させ，応答出力の変化と情報処理能力との関係を明らかにする．
方法として，異なる遅延時間を持つ複数のリザーバが同一の信号を入力されたときに，リザーバの応答出力の変化を調査する．具体的には，応答出力の変化について，出力間の類似度を測るために相互相関関数を計算する．特に遅延時間が異なるリザーバにおいて，相互相関関数がどの程度小さくなるかについて調査する．これは今後の課題として，異なる遅延時間を持つ複数のリザーバによる並列化において重要な知見であると期待される．並列化のためには，２つのリザーバが異なるノードを出力することが望ましく，これは出力間の相関の有無で確認することができる．
またリザーバの応答出力の多様性を非線形時系列解析の手法を用いて定量化する．ここでは特にカルーネン・レーベ展開を利用することを考える．カルーネン・レーベ展開を用いて時空間ダイナミクスの再構成のために必要なモードの数を測ることができ，ダイナミクスの複雑性をエントロピーとして定量化することが可能である．本手法を用いてリザーバの応答出力ダイナミクスの多様性を複雑性として定量化し，遅延時間を変化させたときの変化を調査する．
|
