• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2016 Fiscal Year Research-status Report

レザバーコンピューティングシステムの数理的解析と最適設計

Research Project

Project/Area Number 16K00326
Research InstitutionThe University of Tokyo

Principal Investigator

田中 剛平  東京大学, 大学院工学系研究科(工学部), 特任准教授 (90444075)

Project Period (FY) 2016-04-01 – 2019-03-31
Keywordsレザバーコンピューティング / エコーステートネットワーク / ばらつき / 時系列予測
Outline of Annual Research Achievements

本研究では、時系列データの学習に適したレザバーコンピューティングシステムの数理的解析と最適設計を目指す。レザバーコンピューティングシステムは、入力情報を高次元時空間ダイナミクスにマッピングするレザバー部と生成ダイナミクスから学習を行うリードアウト部から成る。例えば識別問題では、低次元の入力情報がそのままでは識別できない場合に、高次元にマッピングされることで識別が可能になることがある。その他にも学習によって、時系列予測や時系列信号生成などのタスクを行うことが可能である。レザバー部は非線形性を備えた系である必要があり、ニューラルネットワークや非線形物理系が利用される。

エコーステートネットワークは、レザバー部にスパースに結合された相互結合型ニューラルネットワークを用いたシステムである。従来から相互結合型ニューラルネットワークは時系列データの学習に用いられてきたが、既存の学習アルゴリズムは計算量が大きいために広い普及や実用にはつながっていなかった。エコーステートネットワークでは、学習によってすべてのシナプス荷重を適応的に変化させるのではなく、一部の荷重のみの調整だけを行うことによってこうした問題を解消しようとする。

本年度は、ニューロン素子のばらつきを考慮したエコーステートネットワークの時系列予測性能について調べた。素子ばらつきを考えたのは、ナノ・マイクロデバイスによるハードウェア実装を想定する際に個々のユニットの特性ばらつきが不可避だからである。我々は、レザバー部の素子間結合強度によっては、素子特性のばらつきが性能向上につながることを示した。したがって、ばらつきの程度が実験的に判明した場合、それに応じて適切なレザバー部の構造やパラメータの設計を行える可能性があることが分かった。

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

素子ばらつきを考慮したエコーステートネットワークの解析を行い、(1)素子ばらつきは有る条件下で性能向上につながること、および(2)その条件は数理的な要因によって決まること、を示した。デバイス実装においては大きな問題であるが、これまで理論的にはほとんど考えられてこなかった素子ばらつきに着目し、レザバーコンピューティングの性能にどのような影響があるかを数理的に明らかにできたので、全体の目標に資する一定の成果を得たと言える。したがって、本研究はおおむね順調に進展していると考える。

Strategy for Future Research Activity

素子ばらつきの影響を数理的に考察するため、手始めとしてよく研究されてきたエコーステートネットワークを用いて研究を行ってきた。しかし、本当に知りたいのは、実際にデバイス実装した際にどうなるかである。そこで、今後は具体的な非線形物理系を用いたレザバーコンピューティングに着目して、素子ばらつきの影響を考察していきたい。また、数理解析をもとに、レザバーコンピューティングの性能向上につながる新しい工夫を見出していく予定である。

  • Research Products

    (5 results)

All 2017 2016 Other

All Presentation (4 results) (of which Int'l Joint Research: 2 results,  Invited: 1 results) Remarks (1 results)

  • [Presentation] ニューロン特性の不均一性を考慮したエコーステートネットワーク2017

    • Author(s)
      田中 剛平, 中根 了昌, 山根 敏志, 中野 大樹, 武田 征士, 中川 茂, 廣瀬 明
    • Organizer
      電子情報通信学会2017年総合大会
    • Place of Presentation
      名城大学
    • Year and Date
      2017-03-21 – 2017-03-25
  • [Presentation] Exploiting Heterogeneous Units for Reservoir Computing with Simple Architecture2016

    • Author(s)
      G. Tanaka, R. Nakane, T. Yamane, D. Nakano, S. Takeda, S. Nakagawa, and A. Hirose
    • Organizer
      International Conference on Neural Information Processing
    • Place of Presentation
      Kyoto
    • Year and Date
      2016-10-16 – 2016-10-21
    • Int'l Joint Research
  • [Presentation] Computational Performance of Echo State Networks with Dynamic Synapses2016

    • Author(s)
      R. Mori, G. Tanaka, R. Nakane, A. Hirose, and K. Aihara
    • Organizer
      International Conference on Neural Information Processing
    • Place of Presentation
      Kyoto
    • Year and Date
      2016-10-16 – 2016-10-21
    • Int'l Joint Research
  • [Presentation] リザーバ計算と省エネルギー情報処理2016

    • Author(s)
      田中 剛平
    • Organizer
      第219回有機エレクトロニクス材料研究会
    • Place of Presentation
      東京大学
    • Year and Date
      2016-10-12 – 2016-10-12
    • Invited
  • [Remarks] GT: Publications

    • URL

      http://www.sat.t.u-tokyo.ac.jp/~gouhei/publication.html

URL: 

Published: 2018-01-16  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi