• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2023 Fiscal Year Annual Research Report

Computing based on pseudo-billiard dynamics in hypercube and its applications

Research Project

Project/Area Number 20H04258
Research InstitutionFuture University-Hakodate

Principal Investigator

香取 勇一  公立はこだて未来大学, システム情報科学部, 教授 (20557607)

Co-Investigator(Kenkyū-buntansha) 田向 権  九州工業大学, 大学院生命体工学研究科, 教授 (90432955)
森江 隆  九州工業大学, 大学院生命体工学研究科, 特任教授 (20294530)
Project Period (FY) 2020-04-01 – 2024-03-31
Keywordsレザバー計算 / ニューラルネットワーク / 感覚情報処理 / 運動制御
Outline of Annual Research Achievements

最終年度の2023年度は、超立方体上の疑似ビリヤード・ダイナミクスを用いた計算機構(超立方体計算)について、前年度までの応用探索の成果であるレザバー強化学習モデルを電子回路に実装し、その有効性を確認した。さらに応用先のさらなる探索を進め、複合的なレザバー計算モデルを構築した。
電子回路実装については、FPGA上にレザバー強化学習モデルを実装し、その有効性を示した。低消費電力かつ高集積のVLSIハードウェアを実現し、二次元空間で構成された環境での行動計画タスクに適用し、その有効性を確認した。複合的なレザバー計算モデルの構築では、まず視覚情報のみを使用してエージェントの行動を計画するためのレザバー・ベースのメンタルシミュレーションモデルを提案した。このモデルは予測符号化とレザバー計算モデルを組み合わせることで、エージェントの行動を最適化し、目標状態に到達するための環境をシミュレートする。また、多層構造を取り入れたレザバー・ソフトアクタークリティックモデルの研究では、部分観測可能なマルコフ決定過程(POMDP)におけるオフポリシー強化学習モデルとレザバー計算を組み合わせた新しいアプローチを提案した。レザバー計算の出力層に多層構造を導入することで性能が向上し、POMDPにおける学習を効果的に促進することが明らかになった。さらに、モータープリミティブの生成と切り替えのためのレザバー強化学習モデルの研究では、基本的な運動パターンであるモータープリミティブを生成し、これらを切り替えるための強化学習モデルを提案した。連続した状態行動空間を持つタスクにおいて、提案モデルがモータープリミティブの切り替えを行い、複雑な軌道パターンを生成する能力を示した。これらの結果から、提案モデルが実世界環境での効率的な学習、行動計画、教示データの欠如や未知の環境への適応という課題に対処できる可能性が示された。

Research Progress Status

令和5年度が最終年度であるため、記入しない。

Strategy for Future Research Activity

令和5年度が最終年度であるため、記入しない。

  • Research Products

    (13 results)

All 2024 2023

All Journal Article (3 results) (of which Peer Reviewed: 3 results) Presentation (9 results) (of which Int'l Joint Research: 8 results) Patent(Industrial Property Rights) (1 results)

  • [Journal Article] "Reservoir Computing-Based Mental Simulation for Direct Action Sequence Optimization,"2024

    • Author(s)
      Yoshihiro Yonemura, Yuichi Katori,
    • Journal Title

      Nonlinear Theory and Its Applications, IEICE,

      Volume: 15, (2), Pages: 421~431

    • DOI

      10.1587/nolta.15.421

    • Peer Reviewed
  • [Journal Article] "Integrating Predictive Coding with Reservoir Computing in Spiking Neural Network Model of Cultured Neurons,"2024

    • Author(s)
      Yoshitaka Ishikawa, Takumi Shinkawa, Takuma Sumi, Hideyuki Kato, Hideaki Yamamoto, Yuichi Katori,
    • Journal Title

      Nonlinear Theory and Its Applications, IEICE,

      Volume: 15, (2), Pages: 432~442

    • DOI

      10.1587/nolta.15.432

    • Peer Reviewed
  • [Journal Article] Biological neurons act as generalization filters in reservoir computing2023

    • Author(s)
      Takuma Sumi, Hideaki Yamamoto, Yuichi Katori, Koki Ito, Satoshi Moriya, Tomohiro Konno, Shigeo Sato, Ayumi Hirano-Iwata
    • Journal Title

      The Proceedings of the National Academy of Sciences (PNAS)

      Volume: 120 Pages: e2217008120

    • DOI

      10.1073/pnas.2217008120

    • Peer Reviewed
  • [Presentation] Enhancing Reinforcement Learning in POMDPs with the Reservoir Soft Actor-Critic Model Incorporating Multi-layer Structures2024

    • Author(s)
      Tatsuro Nagai, Yuichi Katori
    • Organizer
      The 10th Anniversary Korea-Japan Joint Workshop on Complex Communication Sciences (KJCCS2024),
    • Int'l Joint Research
  • [Presentation] Reservoir Reinforcement Learning Model for Generating and Switching Motor Primitives2024

    • Author(s)
      Yu Yoshino, Yuichi Katori
    • Organizer
      The 10th Anniversary Korea-Japan Joint Workshop on Complex Communication Sciences (KJCCS2024),
    • Int'l Joint Research
  • [Presentation] Analysis of Modular Reservoir Computing Using Chaotic Boltzmann Machines2024

    • Author(s)
      Kazuo Nakahara, Osamu Nomura, Hakaru Tamukoh, Yuichi Katori, Takashi Morie
    • Organizer
      The 5th International Symposium on Neuromorphic AI Hardware
    • Int'l Joint Research
  • [Presentation] リザバー計算の記憶容量増大手法の性能評価2024

    • Author(s)
      横田 篤紀,川島 一郎,田向 権,野村 修,森江 隆
    • Organizer
      第71回応用物理学会春季学術講演会
  • [Presentation] Modular topology enhances reservoir computing performance in biological neuronal networks2023

    • Author(s)
      Takuma Sumi, Hideaki Yamamoto, Yuichi Katori, Koki Ito, Shigeo Sato, Ayumi Hirano-Iwata
    • Organizer
      2023 International Symposium on Nonlinear Theory and Its Applications (NOLTA2023),
    • Int'l Joint Research
  • [Presentation] Network Model with Predictive Coding and Reservoir Computing in Cultured Neurons2023

    • Author(s)
      Yoshitaka Ishikawa, Takumi Shinkawa, Takuma Sumi, Hideyuki Kato, Hideaki Yamamoto, Yuichi Katori
    • Organizer
      2023 International Symposium on Nonlinear Theory and Its Applications (NOLTA2023),
    • Int'l Joint Research
  • [Presentation] Reservoir Reinforcement Learning with Chaotic Boltzmann Machines Implemented on an FPGA2023

    • Author(s)
      Yamato Sakino, Hakaru Tamukoh, Takashi Morie, Yuichi Katori
    • Organizer
      2023 International Symposium on Nonlinear Theory and Its Applications (NOLTA2023),
    • Int'l Joint Research
  • [Presentation] Visual Information-Based Mental Simulation Model with Reservoir Computing for Controlling Deterministic Systems2023

    • Author(s)
      Yoshihiro Yonemura, Yuichi Katori
    • Organizer
      2023 International Symposium on Nonlinear Theory and Its Applications (NOLTA2023),
    • Int'l Joint Research
  • [Presentation] FPGA Implementation of a Chaotic Boltzmann Machine Annealer2023

    • Author(s)
      Kanta Yoshioka, Yuichi Katori, Yuichiro Tanaka, Osamu Nomura, Takashi Morie, Hakaru Tamukoh
    • Organizer
      2023 International Joint Conference on Neural Network (IJCNN2023),
    • Int'l Joint Research
  • [Patent(Industrial Property Rights)] レザバー計算装置及びレザバー計算プログラム2023

    • Inventor(s)
      田向 権、森江 隆、田中 悠一朗、川島 一郎、野村 修
    • Industrial Property Rights Holder
      田向 権、森江 隆、田中 悠一朗、川島 一郎、野村 修
    • Industrial Property Rights Type
      特許
    • Industrial Property Number
      特願2023-88827

URL: 

Published: 2024-12-25  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi