• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 前のページに戻る

「探索」から「思考」へ-強化学習によるカオスニューラルネットダイナミクスの発達

研究課題

研究課題/領域番号 15K00360
研究種目

基盤研究(C)

配分区分基金
応募区分一般
研究分野 知能ロボティクス
研究機関大分大学

研究代表者

柴田 克成  大分大学, 理工学部, 教授 (10260522)

研究期間 (年度) 2015-04-01 – 2020-03-31
研究課題ステータス 完了 (2019年度)
配分額 *注記
4,680千円 (直接経費: 3,600千円、間接経費: 1,080千円)
2019年度: 650千円 (直接経費: 500千円、間接経費: 150千円)
2018年度: 1,170千円 (直接経費: 900千円、間接経費: 270千円)
2017年度: 1,430千円 (直接経費: 1,100千円、間接経費: 330千円)
2016年度: 780千円 (直接経費: 600千円、間接経費: 180千円)
2015年度: 650千円 (直接経費: 500千円、間接経費: 150千円)
キーワードダイナミック強化学習 / 感度 / 感度調整学習 / カオスニューラルネット / 思考 / 探索 / ダイナミクス / 汎用人工知能 / ニューラルネット / カオスダイナミクス / リアプノフ指数 / 勾配消失問題 / 深層学習 / 強化学習 / 決定論的探索 / 内部ダイナミクス / カオス生成・維持学習 / 因果トレース / 誤差逆伝播法 / 不応性 / 障害物回避 / 視覚センサ / カオスニューロン / リザバー / BPWT / 符号付き因果トレース / 高次探索
研究成果の概要

当初目標である,筆者が提案したカオスニューラルネット(NN)を用いた強化学習のアルゴリズムの確立,学習による「探索」から「思考」への成長仮説に基づいた「原始思考」の創発は達成できなかった。
その一方で,カオス性の制御のために各ニューロンに「感度」という指標を導入し,それを学習する「感度調整学習」を提案した。これがカオスの生成の指標となること,また,学習時の勾配消失・爆発問題の解決にも繋がることを示した。さらに,強化学習で用いるTD誤差(状態の評価の予測との差)によって「感度」を調整することで,現在の出力値ではなくダイナミクスを学習する全く新しい強化学習「ダイナミック強化学習」の考案に至った。

研究成果の学術的意義や社会的意義

各ニューロンのローカルな指標「感度」でニューラルネット全体のダイナミクスを制御すること,さらに,従来の静的な発想に基づく「現在の出力値を目的のものに近づける」ための学習という考えから脱し,動的な処理の学習に向けた「評価が良い場合は再現性を上げるためダイナミクスを収束へ,悪い場合は探索を強化するためダイナミクスを発散(カオス)へ」という「ダイナミック強化学習」は,全く新しい学習パラダイムを切り拓くものである。今後,より高次な機能が求められるに従い,求められるものが静的なものからより動的なものへとシフトしていく中で,学習の新たな根本原理としての役割を担うポテンシャルを持っていると期待している。

報告書

(6件)
  • 2019 実績報告書   研究成果報告書 ( PDF )
  • 2018 実施状況報告書
  • 2017 実施状況報告書
  • 2016 実施状況報告書
  • 2015 実施状況報告書
  • 研究成果

    (49件)

すべて 2019 2018 2017 2016 2015

すべて 雑誌論文 (23件) (うち査読あり 11件、 謝辞記載あり 7件) 学会発表 (26件) (うち国際学会 10件、 招待講演 2件)

  • [雑誌論文] Learning Time Constant of Continuous-Time Neurons with Gradient Descent2019

    • 著者名/発表者名
      Matsuki Toshitaka, Shibata Katsunari
    • 雑誌名

      In: P. P. Abdul Majeed A., Mat-Jizat J., Hassan M., Taha Z., Choi H., Kim J. (eds) RITA 2018. Lecture Notes in Mechanical Engineering. Springer

      巻: - ページ: 149-159

    • DOI

      10.1007/978-981-13-8323-6_13

    • ISBN
      9789811383229, 9789811383236
    • 関連する報告書
      2019 実績報告書
    • 査読あり
  • [雑誌論文] Chaos-Based Reinforcement Learning When Introducing Refractoriness in Each Neuron2019

    • 著者名/発表者名
      Katsuki Sato and Katsunari Shibata
    • 雑誌名

      In: Kim JH., Myung H., Lee SM. (eds) Robot Intelligence Technology and Applications. RiTA 2018. Communications in Computer and Information Science

      巻: 1015 ページ: 76-84

    • DOI

      10.1007/978-981-13-7780-8_7

    • ISBN
      9789811377792, 9789811377808
    • 関連する報告書
      2019 実績報告書 2018 実施状況報告書
    • 査読あり
  • [雑誌論文] リカレントネットにおける感度調整学習でのカオスダイナミクスの生成と維持2019

    • 著者名/発表者名
      徳丸侑輝, 柴田克成
    • 雑誌名

      第38回計測自動制御学会九州支部学術講演会予稿集

      巻: - ページ: 75-78

    • 関連する報告書
      2019 実績報告書
  • [雑誌論文] 多層リードアウトを持つリザバを用いた強化学習におけるネットワーク構造の検討2019

    • 著者名/発表者名
      吉岡晴海, 松木俊貴, 柴田克成
    • 雑誌名

      第38回計測自動制御学会九州支部学術講演会予稿集

      巻: - ページ: 79-82

    • 関連する報告書
      2019 実績報告書
  • [雑誌論文] カオスニューラルネットを用いた記憶タスクの強化学習におけるカオス性の影響2019

    • 著者名/発表者名
      大石将人, 柴田克成
    • 雑誌名

      第38回計測自動制御学会九州支部学術講演会予稿集

      巻: - ページ: 83-86

    • 関連する報告書
      2019 実績報告書
  • [雑誌論文] 多層ニューラルネットにおける勾配消失問題解決法としての感度調整学習2019

    • 著者名/発表者名
      長谷部圭亮, 柴田克成
    • 雑誌名

      第38回計測自動制御学会九州支部学術講演会予稿集

      巻: - ページ: 87-90

    • 関連する報告書
      2019 実績報告書
  • [雑誌論文] Reinforcement Learning of a Memory Task Using an Echo State Network with Multi-layer Readout2018

    • 著者名/発表者名
      Matsuki Toshitaka、Shibata Katsunari
    • 雑誌名

      In: Kim JH. et al. (eds) Robot Intelligence Technology and Applications 5. RiTA 2017. Advances in Intelligent Systems and Computing

      巻: 751 ページ: 17-26

    • DOI

      10.1007/978-3-319-78452-6_2

    • ISBN
      9783319784519, 9783319784526
    • 関連する報告書
      2018 実施状況報告書
    • 査読あり
  • [雑誌論文] Functions that Emerge through End-to-end Reinforcement Learning - The Direction for Artificial General Intelligence -2017

    • 著者名/発表者名
      Katsunari Shibata
    • 雑誌名

      Proc. of The 3rd Multidiscipliary Conf. on Reinforcement Learning and Decision Making (RLDM)17

      巻: -

    • 関連する報告書
      2017 実施状況報告書
    • 査読あり
  • [雑誌論文] Communications that Emerge through Reinforcement Learning Using a (Recurrent) Neural Network2017

    • 著者名/発表者名
      Katsunari Shibata
    • 雑誌名

      Proc. of The 3rd Multidiscipliary Conf. on Reinforcement Learning and Decision Making (RLDM)17

      巻: -

    • 関連する報告書
      2017 実施状況報告書
    • 査読あり
  • [雑誌論文] New Reinforcement Learning Using a Chaotic Neural Network for Emergence of “Thinking”2017

    • 著者名/発表者名
      Katsunari Shibata
    • 雑誌名

      Proc. of The 3rd Multidiscipliary Conf. on Reinforcement Learning and Decision Making (RLDM)17

      巻: -

    • 関連する報告書
      2017 実施状況報告書
    • 査読あり
  • [雑誌論文] Influence of the Chaotic Property on Reinforcement Learning Using a Chaotic Neural Network2017

    • 著者名/発表者名
      Yuki Goto, Katsunari Shibata
    • 雑誌名

      Proc. of Int'l Conf. on Neural Information Processing (ICONIP)2017, LNCS 10634

      巻: - ページ: 759-767

    • DOI

      10.1007/978-3-319-70087-8_78

    • ISBN
      9783319700861, 9783319700878
    • 関連する報告書
      2017 実施状況報告書
    • 査読あり
  • [雑誌論文] カオスニューラルネットを用いた強化学習におけるカオス性の影響2017

    • 著者名/発表者名
      後藤祐樹, 柴田克成
    • 雑誌名

      第36回計測自動制御学会九州支部学術講演会予稿集

      巻: - ページ: 97-100

    • 関連する報告書
      2017 実施状況報告書
  • [雑誌論文] カオスニューラルネットの内部ダイナミクスを利用した記憶タスクの報酬に基づく学習2017

    • 著者名/発表者名
      松木俊貴, 柴田克成
    • 雑誌名

      第36回計測自動制御学会九州支部学術講演会予稿集

      巻: - ページ: 101-104

    • 関連する報告書
      2017 実施状況報告書
  • [雑誌論文] カオスニューラルネットを用いた強化学習における不応性を有するカオスニューロンの導入2017

    • 著者名/発表者名
      佐藤克樹, 後藤祐樹, 柴田克成
    • 雑誌名

      第36回計測自動制御学会九州支部学術講演会予稿集

      巻: - ページ: 109-112

    • 関連する報告書
      2017 実施状況報告書
  • [雑誌論文] ニューラルネットワークを使った強化学習による行動学習を通した音声認識機能の創発2017

    • 著者名/発表者名
      江越正大, 柴田克成
    • 雑誌名

      第36回計測自動制御学会九州支部学術講演会予稿集

      巻: - ページ: 129-132

    • 関連する報告書
      2017 実施状況報告書
  • [雑誌論文] 深層学習が示唆するend-to-end強化学習に基づく機能創発アプローチの重要性と 思考の創発に向けたカオスニューラルネットを用いた新しい強化学習2017

    • 著者名/発表者名
      柴田克成,後藤祐樹
    • 雑誌名

      認知科学

      巻: 24巻,1号 ページ: 96-117

    • NAID

      130006038535

    • 関連する報告書
      2016 実施状況報告書
    • 査読あり / 謝辞記載あり
  • [雑誌論文] Emergence of Higher Exploration in Reinforcement Learning Using a Chaotic Neural Network2016

    • 著者名/発表者名
      Yuki Goto and Katsunari Shibata
    • 雑誌名

      Proc. of Int'l Conf. on Neural Information Processing (ICONIP)2016, LNCS 9947

      巻: - ページ: 40-48

    • DOI

      10.1007/978-3-319-46687-3_5

    • ISBN
      9783319466866, 9783319466873
    • 関連する報告書
      2016 実施状況報告書
    • 査読あり / 謝辞記載あり
  • [雑誌論文] Reward-Based Learning of a Memory-Required Task Based on the Internal Dynamics of a Chaotic Neural Network2016

    • 著者名/発表者名
      Toshitaka Matsuki and Katsunari Shibata
    • 雑誌名

      Proc. of Int'l Conf. on Neural Information Processing (ICONIP)2016, LNCS 9947

      巻: - ページ: 376-383

    • DOI

      10.1007/978-3-319-46687-3_42

    • ISBN
      9783319466866, 9783319466873
    • 関連する報告書
      2016 実施状況報告書
    • 査読あり / 謝辞記載あり
  • [雑誌論文] カオスニューラルネットを用いた強化学習における高次探索の創発2016

    • 著者名/発表者名
      後藤祐樹,柴田克成
    • 雑誌名

      第32回計測自動制御学会九州支部学術講演会予稿集

      巻: - ページ: 120-123

    • 関連する報告書
      2016 実施状況報告書
    • 謝辞記載あり
  • [雑誌論文] カオスニューラルネットの内部ダイナミクスを利用した記憶タスクの報酬に基づく学習2016

    • 著者名/発表者名
      松木俊貴,柴田克成
    • 雑誌名

      第32回計測自動制御学会九州支部学術講演会予稿集

      巻: - ページ: 124-127

    • 関連する報告書
      2016 実施状況報告書
    • 謝辞記載あり
  • [雑誌論文] BPWT を用いたリカレントネットの教師あり学習における相互結合部の重み値の影響2016

    • 著者名/発表者名
      山本一真,柴田克成
    • 雑誌名

      第32回計測自動制御学会九州支部学術講演会予稿集

      巻: - ページ: 128-131

    • 関連する報告書
      2016 実施状況報告書
    • 謝辞記載あり
  • [雑誌論文] Reinforcement Learning with Internal-Dynamics-based Exploration Using a Chaotic Neural Network2015

    • 著者名/発表者名
      Katsunari Shibata and Yuta Sakashita
    • 雑誌名

      Proc. of Int'l Joint Conf. on Neural Networks (IJCNN)2015

      巻: -

    • 関連する報告書
      2015 実施状況報告書
    • 査読あり / 謝辞記載あり
  • [雑誌論文] 動的ニューロンモデルを用いたニューラルネットワークへの因果トレースの適用2015

    • 著者名/発表者名
      山本一真,柴田克成
    • 雑誌名

      第25回インテリジェント・システム・シンポジウム論文集

      巻: - ページ: 136-141

    • 関連する報告書
      2015 実施状況報告書
  • [学会発表] リカレントネットにおける感度調整学習でのカオスダイナミクスの生成と維持2019

    • 著者名/発表者名
      徳丸侑輝, 柴田克成
    • 学会等名
      第38回計測自動制御学会九州支部学術講演会
    • 関連する報告書
      2019 実績報告書
  • [学会発表] 多層リードアウトを持つリザバを用いた強化学習におけるネットワーク構造の検討2019

    • 著者名/発表者名
      吉岡晴海, 松木俊貴, 柴田克成
    • 学会等名
      第38回計測自動制御学会九州支部学術講演会
    • 関連する報告書
      2019 実績報告書
  • [学会発表] カオスニューラルネットを用いた記憶タスクの強化学習におけるカオス性の影響2019

    • 著者名/発表者名
      大石将人, 柴田克成
    • 学会等名
      第38回計測自動制御学会九州支部学術講演会
    • 関連する報告書
      2019 実績報告書
  • [学会発表] 多層ニューラルネットにおける勾配消失問題解決法としての感度調整学習2019

    • 著者名/発表者名
      長谷部圭亮, 柴田克成
    • 学会等名
      第38回計測自動制御学会九州支部学術講演会
    • 関連する報告書
      2019 実績報告書
  • [学会発表] End-to-End強化学習による知能創発と「思考」創発へ向けた新しい強化学習2018

    • 著者名/発表者名
      柴田克成
    • 学会等名
      第62回システム制御情報学会研究発表講演会
    • 関連する報告書
      2018 実施状況報告書
    • 招待講演
  • [学会発表] Learning Time Constant of Continuous-Time Neurons with Gradient Descent2018

    • 著者名/発表者名
      Toshitaka Matsuki & Katsunari Shibata
    • 学会等名
      The 6th Int'l Conf. on Robot Intelligent Technology and Applications
    • 関連する報告書
      2018 実施状況報告書
    • 国際学会
  • [学会発表] Chaos-based Reinforcement Learning when Introducing Refractoriness in Each Neuron2018

    • 著者名/発表者名
      Katsuki Sato & Katsunari Shibata
    • 学会等名
      The 6th Int'l Conf. on Robot Intelligent Technology and Applications
    • 関連する報告書
      2018 実施状況報告書
    • 国際学会
  • [学会発表] 勾配法による動的なニューロンモデルの時定数の学習2018

    • 著者名/発表者名
      松木俊貴,柴田克成
    • 学会等名
      第37回計測自動制御学会九州支部学術講演会
    • 関連する報告書
      2018 実施状況報告書
  • [学会発表] カオスベース強化学習への誤差逆伝播法の適用2018

    • 著者名/発表者名
      佐藤克樹,柴田克成
    • 学会等名
      第37回計測自動制御学会九州支部学術講演会
    • 関連する報告書
      2018 実施状況報告書
  • [学会発表] Reinforcement Learning of a Memory Task using an Echo State Network with Multi-Layer Readout2017

    • 著者名/発表者名
      Toshitaka Matsuki, Katsunari Shibata
    • 学会等名
      The Fifth Int'l Conf. on Robot Intelligence Technology and Applications
    • 関連する報告書
      2017 実施状況報告書
    • 国際学会
  • [学会発表] Influence of the Chaotic Property on Reinforcement Learning Using a Chaotic Neural Network2017

    • 著者名/発表者名
      Yuki Goto, Katsunari Shibata
    • 学会等名
      Int'l Conf. on Neural Information Processing (ICONIP)2017
    • 関連する報告書
      2017 実施状況報告書
    • 国際学会
  • [学会発表] New Reinforcement Learning Using a Chaotic Neural Network for Emergence of “Thinking”2017

    • 著者名/発表者名
      Katsunari Shibata
    • 学会等名
      The 3rd Multidiscipliary Conf. on Reinforcement Learning and Decision Making (RLDM)17
    • 関連する報告書
      2017 実施状況報告書
    • 国際学会
  • [学会発表] Communications that Emerge through Reinforcement Learning Using a (Recurrent) Neural Network2017

    • 著者名/発表者名
      Katsunari Shibata
    • 学会等名
      The 3rd Multidiscipliary Conf. on Reinforcement Learning and Decision Making (RLDM)17
    • 関連する報告書
      2017 実施状況報告書
    • 国際学会
  • [学会発表] Functions that Emerge through End-to-end Reinforcement Learning - The Direction for Artificial General Intelligence -2017

    • 著者名/発表者名
      Katsunari Shibata
    • 学会等名
      The 3rd Multidiscipliary Conf. on Reinforcement Learning and Decision Making (RLDM)17
    • 関連する報告書
      2017 実施状況報告書
    • 国際学会
  • [学会発表] カオスニューラルネットを用いた強化学習におけるカオス性の影響2017

    • 著者名/発表者名
      後藤祐樹, 柴田克成
    • 学会等名
      第36回計測自動制御学会九州支部学術講演会
    • 関連する報告書
      2017 実施状況報告書
  • [学会発表] カオスニューラルネットの内部ダイナミクスを利用した記憶タスクの報酬に基づく学習2017

    • 著者名/発表者名
      松木俊貴, 柴田克成
    • 学会等名
      第36回計測自動制御学会九州支部学術講演会
    • 関連する報告書
      2017 実施状況報告書
  • [学会発表] カオスニューラルネットを用いた強化学習における不応性を有するカオスニューロンの導入2017

    • 著者名/発表者名
      佐藤克樹, 後藤祐樹, 柴田克成
    • 学会等名
      第36回計測自動制御学会九州支部学術講演会
    • 関連する報告書
      2017 実施状況報告書
  • [学会発表] ニューラルネットワークを使った強化学習による行動学習を通した音声認識機能の創発2017

    • 著者名/発表者名
      江越正大, 柴田克成
    • 学会等名
      第36回計測自動制御学会九州支部学術講演会
    • 関連する報告書
      2017 実施状況報告書
  • [学会発表] Emergence of Intelligence through End-to-End Reinforcement Learning and Chaos-based Reinforcement Learning towards the Emergence of "Thinking"2017

    • 著者名/発表者名
      Katsunari Shibata
    • 学会等名
      OIST(Okinawa Institute of Science and Technology ) Seminar
    • 関連する報告書
      2017 実施状況報告書
    • 招待講演
  • [学会発表] カオスニューラルネットを用いた強化学習における高次探索の創発2016

    • 著者名/発表者名
      後藤祐樹,柴田克成
    • 学会等名
      第32回計測自動制御学会九州支部学術講演会
    • 発表場所
      佐賀大学(佐賀県佐賀市)
    • 年月日
      2016-11-26
    • 関連する報告書
      2016 実施状況報告書
  • [学会発表] カオスニューラルネットの内部ダイナミクスを利用した記憶タスクの報酬に基づく学習2016

    • 著者名/発表者名
      松木俊貴,柴田克成
    • 学会等名
      第32回計測自動制御学会九州支部学術講演会
    • 発表場所
      佐賀大学(佐賀県佐賀市)
    • 年月日
      2016-11-26
    • 関連する報告書
      2016 実施状況報告書
  • [学会発表] BPWT を用いたリカレントネットの教師あり学習における相互結合部の重み値の影響2016

    • 著者名/発表者名
      山本一真,柴田克成
    • 学会等名
      第32回計測自動制御学会九州支部学術講演会
    • 発表場所
      佐賀大学(佐賀県佐賀市)
    • 年月日
      2016-11-26
    • 関連する報告書
      2016 実施状況報告書
  • [学会発表] Emergence of Higher Exploration in Reinforcement Learning Using a Chaotic Neural Network2016

    • 著者名/発表者名
      Yuki Goto and Katsunari Shibata
    • 学会等名
      Int'l Conf. on Neural Information Processing (ICONIP) 2016
    • 発表場所
      Kyoto University (Kyoto, Japan)
    • 年月日
      2016-10-16
    • 関連する報告書
      2016 実施状況報告書
    • 国際学会
  • [学会発表] Reward-Based Learning of a Memory-Required Task Based on the Internal Dynamics of a Chaotic Neural Network2016

    • 著者名/発表者名
      Toshitaka Matsuki and Katsunari Shibata
    • 学会等名
      Int'l Conf. on Neural Information Processing (ICONIP) 2016
    • 発表場所
      Kyoto University (Kyoto, Japan)
    • 年月日
      2016-10-16
    • 関連する報告書
      2016 実施状況報告書
    • 国際学会
  • [学会発表] 動的ニューロンモデルを用いたニューラルネットへの因果トレースの適用2015

    • 著者名/発表者名
      山本一真,柴田克成
    • 学会等名
      第25回インテリジェント・システム・シンポジウム (FAN2015)
    • 発表場所
      東北大学 (宮城県,仙台市)
    • 年月日
      2015-09-25
    • 関連する報告書
      2015 実施状況報告書
  • [学会発表] Reinforcement Learning with Internal-Dynamics-based Exploration Using a Chaotic Neural Network2015

    • 著者名/発表者名
      Katsunari Shibata and Yuta Sakashita
    • 学会等名
      Int'l Joint Conf. on Neural Networks (IJCNN) 2015
    • 発表場所
      Killarney Convention Center (Ireland, Killarney)
    • 年月日
      2015-07-13
    • 関連する報告書
      2015 実施状況報告書
    • 国際学会

URL: 

公開日: 2015-04-16   更新日: 2021-02-19  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi