• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2020 Fiscal Year Research-status Report

Development of fast machine learning methods based on combinations of different computational models

Research Project

Project/Area Number 20K11882
Research InstitutionThe University of Tokyo

Principal Investigator

田中 剛平  東京大学, ニューロインテリジェンス国際研究機構, 特任准教授 (90444075)

Project Period (FY) 2020-04-01 – 2023-03-31
Keywords機械学習 / 時系列データ / リザバー計算 / 高速学習
Outline of Annual Research Achievements

あらゆるモノがつながるIoT時代には、インターネット上を流れるデータ量がますます増加すると言われている。データ通信量の爆発的増大を軽減する一つの方法は、情報端末機器やセンサで取得されたデータを近くのコンピュータで即時処理するエッジコンピューティングを推進することである。とくに機械学習に基づくエッジコンピューティングには、高速学習可能な機械学習モデルが必要となる。本研究では、異種の機械学習モデルを融合したり、既存モデルに効果的な前処理・後処理を追加したりすることにより、そのような目的に資する技術の開発を目指している。

高速機械学習モデルの一つにリザバー計算モデルがある。主に時系列データを用いたパターン認識に適用される。本年度の研究では、学習の簡便性と高速性というリザバー計算のメリットを維持しつつ計算性能を向上させる発展的なモデルを研究した。一つは、データを一括で処理するバッチ学習において、リザバー状態の時間方向の順序を入れ替えることにより、多様な特徴を抽出することができるモデルである。非線形時系列予測タスクにおいて、提案モデルが性能向上に有用であることを示した。もう一つは、Hodrick-Prescottフィルタとリザバー計算モデルを組み合わせたモデルである。不規則ではあるが潜在的に周期性をもつデータに対し、フィルタを用いてトレンド成分と周期変動成分を段階的に分離する前処理を考えた。気温や黒点数などのデータを用いた時系列予測において、提案手法は従来手法より高い予測精度を達成することを示した。以上の発展的モデルは、学習コストを増大させることなくモデルの認識性能強化に貢献することが分かった。

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

従来は固定されていたリザバー状態の時間順序の組み換えや周期性のあるデータにおける適切な前処理を提案し、リザバー計算モデルの性能向上に効果的であるという結果を得ることができており、高速機械学習モデルの発展に向けて着実な前進が見られた。

Strategy for Future Research Activity

さまざまなデータ特性を考慮した発展的リザバー計算モデルを引き続き開発するとともに、実際のセンサーデータを扱うタスクへの応用にも着手する。

Causes of Carryover

計画書においては学会発表のための旅費を見込んでいたが、新型コロナウィルス流行の影響により参加予定学会が中止になったため、その旅費・学会参加費にあたる経費を次年度に繰り越す。次年度も同様の状況が続くようであれば、旅費・学会参加費の経費を論文出版費用に充当するなど、効果的な用途変更を行う。

  • Research Products

    (10 results)

All 2021 2020 Other

All Presentation (8 results) (of which Int'l Joint Research: 5 results) Book (1 results) Remarks (1 results)

  • [Presentation] Two-Step FORCE Learning Algorithm for Fast Convergence in Reservoir Computing2020

    • Author(s)
      Hiroto Tamura and Gouhei Tanaka
    • Organizer
      International Conference on Artificial Neural Networks
    • Int'l Joint Research
  • [Presentation] Deep Echo State Networks with Multi-Span Features for Nonlinear Time Series Prediction2020

    • Author(s)
      Ziqiang Li and Gouhei Tanaka
    • Organizer
      International Joint Conference on Neural Networks
    • Int'l Joint Research
  • [Presentation] HP-ESN: Echo State Networks Combined with Hodrick-Prescott Filter for Nonlinear Time-Series Prediction2020

    • Author(s)
      Ziqiang Li and Gouhei Tanaka
    • Organizer
      International Joint Conference on Neural Networks
    • Int'l Joint Research
  • [Presentation] Introduction to Physical RC2020

    • Author(s)
      Gouhei Tanaka
    • Organizer
      International Conference on Neuromorphic Systems
    • Int'l Joint Research
  • [Presentation] 少数のニューロンから成るリカレントニューラルネットワークの訓練のための拡張full-FORCE法2020

    • Author(s)
      田村 浩人,田中 剛平
    • Organizer
      第30回日本神経回路学会全国大会
    • Int'l Joint Research
  • [Presentation] ワーキングメモリと選択の脳内メカニズムを考慮したリザバーコンピューティングモデル2020

    • Author(s)
      鈴木雄大,田中 剛平
    • Organizer
      第30回日本神経回路学会全国大会
  • [Presentation] リザバーコンピューティングの現状と未来2020

    • Author(s)
      田中 剛平
    • Organizer
      応用物理学会 システムデバイスロードマップ委員会
  • [Presentation] 物理リザバーコンピューティングによる時系列パターン認識2020

    • Author(s)
      田中 剛平
    • Organizer
      第41回IBISML研究会
  • [Book] リザバーコンピューティング2021

    • Author(s)
      田中 剛平、中根 了昌、廣瀬 明
    • Total Pages
      224
    • Publisher
      森北出版
    • ISBN
      978-4-627-85531-1
  • [Remarks] G. Tanaka | Complex Systems Dynamics Laboratory

    • URL

      http://eeip.t.u-tokyo.ac.jp/lab/index.html

URL: 

Published: 2021-12-27  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi