• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 前のページに戻る

通信無し強化学習エージェント群による動的環境への追従

研究課題

研究課題/領域番号 17J08724
研究種目

特別研究員奨励費

配分区分補助金
応募区分国内
研究分野 知能情報学
研究機関電気通信大学

研究代表者

上野 史  電気通信大学, 情報理工学研究科, 特別研究員(DC1)

研究期間 (年度) 2017-04-26 – 2020-03-31
研究課題ステータス 完了 (2019年度)
配分額 *注記
2,500千円 (直接経費: 2,500千円)
2019年度: 800千円 (直接経費: 800千円)
2018年度: 800千円 (直接経費: 800千円)
2017年度: 900千円 (直接経費: 900千円)
キーワードマルチエージェントシステム / 強化学習 / 動的環境 / 通信なし / 動的変化 / 報酬
研究実績の概要

本年度は3年目のテーマである「実問題における適用」に向けて,1)複数種類の動的変化が複合した環境に対する通信なしマルチエージェント強化学習法の提案,および,2)環境変化が断続的に発生する際の適用方法を提案し,最後に,3)提案手法を一般化し,適用可能な実応用問題を定義した.具体的には,1)に関して,エージェント毎の学習範囲と利用する情報を制限して学習することで,環境形状及びエージェント・ゴール数の変化へ追従する手法を提案し,その有効性を示した.また,2)に関して,1)での提案手法において,学習範囲を制限するタイミング,および利用する情報の窓(どれほど昔の情報まで利用するか)をハイパーパラメータとして設定していたものを,環境に合わせて適応的に設定することで,タイミングが異なる断続的な動的変化に追従可能となるように拡張した.これらの成果により,物流システムでいえば,物資の補給地点や目的地,通行路が変わるだけではなく,物資を運ぶロボットの数や目的が増えたとき,そしてそのタイミングが不明であっても,各ロボットが通信を一切行わずに協調行動の学習が可能となり,実問題に対する適用範囲が大きく広がった.そしてこれらの成果は,国際ジャーナルSN Computer Scienceへ掲載が決定しており,英語論文誌SICE JCMSIに掲載済みである.また,国内学会FIT2019,JAWS2019,そして国際会議OptLearnMAS2020にて発表を行った.最後に,3)に関しては,1)と2)の提案手法について,学習範囲の制限により,各エージェントの学習を2体エージェントの協調で分割可能腕あり,提案手法の性能は十分発揮できることを示し,問題に関しては,提案手法がエージェント同士の衝突を加味した上でも性能を発揮することを実験で示した.これにより,実問題として想定していた倉庫ロボットへの適用が可能であることがわかった.この成果は電気学会論文誌Cに掲載済みである.

現在までの達成度 (段落)

令和元年度が最終年度であるため、記入しない。

今後の研究の推進方策

令和元年度が最終年度であるため、記入しない。

報告書

(3件)
  • 2019 実績報告書
  • 2018 実績報告書
  • 2017 実績報告書
  • 研究成果

    (52件)

すべて 2020 2019 2018 2017

すべて 雑誌論文 (11件) (うち国際共著 2件、 査読あり 11件、 オープンアクセス 10件) 学会発表 (39件) (うち国際学会 21件、 招待講演 1件) 図書 (1件) 産業財産権 (1件) (うち外国 1件)

  • [雑誌論文] 目的制限に基づく通信なしマルチエージェント協調行動学習とその効果の証明2020

    • 著者名/発表者名
      Uwano Fumito、Takadama Keiki
    • 雑誌名

      電気学会論文誌C(電子・情報・システム部門誌)

      巻: 140 号: 1 ページ: 75-84

    • DOI

      10.1541/ieejeiss.140.75

    • NAID

      130007779190

    • ISSN
      0385-4221, 1348-8155
    • 年月日
      2020-01-01
    • 関連する報告書
      2019 実績報告書
    • 査読あり
  • [雑誌論文] Reward Value-based Goal Selection for Agents' Cooperative Route Learning without Communication in Reward and Goal Dynamism2020

    • 著者名/発表者名
      Uwano Fumito、Takadama Keiki
    • 雑誌名

      SN Computer Science

      巻: 未定 号: 3

    • DOI

      10.1007/s42979-020-00191-2

    • 関連する報告書
      2019 実績報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] Utilizing Observed Information for No-Communication Multi-Agent Reinforcement Learning toward Cooperation in Dynamic Environment2019

    • 著者名/発表者名
      UWANO Fumito、TAKADAMA Keiki
    • 雑誌名

      SICE Journal of Control, Measurement, and System Integration

      巻: 12 号: 5 ページ: 199-208

    • DOI

      10.9746/jcmsi.12.199

    • 関連する報告書
      2019 実績報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] Multi-Agent Cooperation Based on Reinforcement Learning with Internal Reward in Maze Problem2018

    • 著者名/発表者名
      UWANO Fumito、TATEBE Naoki、TAJIMA Yusuke、NAKATA Masaya、KOVACS Tim、TAKADAMA Keiki
    • 雑誌名

      SICE Journal of Control, Measurement, and System Integration

      巻: 11 号: 4 ページ: 321-330

    • DOI

      10.9746/jcmsi.11.321

    • 関連する報告書
      2018 実績報告書
    • 査読あり / オープンアクセス / 国際共著
  • [雑誌論文] Weighted Opinion Sharing Model for Cutting Link and Changing Information among Agents as Dynamic Environment2018

    • 著者名/発表者名
      UWANO Fumito、SAITO Rei、TAKADAMA Keiki
    • 雑誌名

      SICE Journal of Control, Measurement, and System Integration

      巻: 11 号: 4 ページ: 331-340

    • DOI

      10.9746/jcmsi.11.331

    • 関連する報告書
      2018 実績報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] Weighted Opinion Sharing Model for Cutting Link and Changing Information among Agents as Dynamic Environment2018

    • 著者名/発表者名
      Fumito Uwano、Rei Saito、Keiki Takadama
    • 雑誌名

      SICE Journal of Control, Measurement, and System Integration

      巻: 11

    • 関連する報告書
      2017 実績報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] Sleep Stage Estimation Comparing own past heartrate or other's heartrate,2018

    • 著者名/発表者名
      Tajima, Y., Uwano, F., Murata, A., Harada, T., and Takadama, K.
    • 雑誌名

      '',SICE Journal of Control, Measurement, and System Integration (JCMSI)

      巻: 11/1 号: 1 ページ: 32-39

    • DOI

      10.9746/jcmsi.11.32

    • 関連する報告書
      2017 実績報告書
    • 査読あり / オープンアクセス / 国際共著
  • [雑誌論文] 相似な三角形に基づくクレータマッチングによるSLIM探査機の自己位置推定とその精度向上2018

    • 著者名/発表者名
      石井 晴之、福田 盛介、澤井 秀次郎、坂井 真一郎、村田 暁紀、上野 史、辰巳 嵩豊、梅内 祐太、高玉 圭樹、原田 智広、鎌田 弘之、石田 貴行
    • 雑誌名

      航空宇宙技術

      巻: 17 号: 0 ページ: 69-78

    • DOI

      10.2322/astj.JSASS-D-17-00011

    • NAID

      130006731199

    • ISSN
      1884-0477
    • 関連する報告書
      2017 実績報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] Recovery System Based on Exploration-Biased Genetic Algorithm for Stuck Rover in Planetary Exploration2017

    • 著者名/発表者名
      Uwano, F., Tajima, Y., Murata, A., and Takadama, K.
    • 雑誌名

      Journal of Robotics and Mechatronics

      巻: 29 号: 5 ページ: 877-886

    • DOI

      10.20965/jrm.2017.p0877

    • NAID

      130007519878

    • ISSN
      0915-3942, 1883-8049
    • 年月日
      2017-10-20
    • 関連する報告書
      2017 実績報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] Comparison Between Reinforcement Learning Methods with Different Goal Selections in Multi-Agent Cooperation2017

    • 著者名/発表者名
      Uwano F. and Takadama, K
    • 雑誌名

      Journal of Advanced Computational Intelligence and Intelligent Informatics

      巻: 21 号: 5 ページ: 917-929

    • DOI

      10.20965/jaciii.2017.p0917

    • NAID

      130007520191

    • ISSN
      1343-0130, 1883-8014
    • 年月日
      2017-09-20
    • 関連する報告書
      2017 実績報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] Supporting the Exploration of the Learning Goals for a Continuous Learner Toward Creative Learning2017

    • 著者名/発表者名
      Okudo, T., Yamaguchi, T., Murata, A., Tatsumi, T., Uwano, F. and Takadama, K.
    • 雑誌名

      Journal of Advanced Computational Intelligence and Intelligent Informatics

      巻: 21 号: 5 ページ: 907-916

    • DOI

      10.20965/jaciii.2017.p0907

    • NAID

      130007520194

    • ISSN
      1343-0130, 1883-8014
    • 年月日
      2017-09-20
    • 関連する報告書
      2017 実績報告書
    • 査読あり / オープンアクセス
  • [学会発表] Directionality Reinforcement Learning to Operate Multi-Agent System without Communication2020

    • 著者名/発表者名
      Fumito Uwano
    • 学会等名
      The 11th International Workshop on Optimization and Learning in Multiagent System
    • 関連する報告書
      2019 実績報告書
    • 国際学会
  • [学会発表] エージェント間通信を伴わず環境状態および報酬の包括的動的変化に追従する理論的マルチエージェント強化学習2019

    • 著者名/発表者名
      上野史
    • 学会等名
      合同エージェントワークショップ&シンポジウム 2019
    • 関連する報告書
      2019 実績報告書
  • [学会発表] 非通信マルチエージェント強化学習における獲得報酬値の変動を用いたエージェント数の動的変化への追従2019

    • 著者名/発表者名
      上野史
    • 学会等名
      第18回情報科学技術フォーラム
    • 関連する報告書
      2019 実績報告書
  • [学会発表] How to Select Appropriate Craters to Estimate Location Accurately in Comprehensive Situations for SLIM Project2019

    • 著者名/発表者名
      Fumito Uwano
    • 学会等名
      The 32nd International Symposium on Space Technology and Science
    • 関連する報告書
      2019 実績報告書
    • 国際学会
  • [学会発表] How to Select Appropriate Craters to Estimate Location Accurately in Comprehensive Situations for SLIM Project2019

    • 著者名/発表者名
      Fumito Uwano, Takato Tatsumi, Akinori Murata, Keiki Takadama, Hiroyuki Kamata, Takayuki Ishida, Seisuke Fukuda, Shujiro Sawai, and Shinichiro Sakai
    • 学会等名
      The 32nd International Symposium on Space Technology and Science and the 9th Nano-Satellite Symposium
    • 関連する報告書
      2018 実績報告書
    • 国際学会
  • [学会発表] How to Design Adaptable Agents to Obtain Consensus with Omoiyari2019

    • 著者名/発表者名
      Yoshimiki Maekawa, Fumito Uwano, Eiki Kitajima, and Keiki Takadama
    • 学会等名
      The 21st International Conference on Human-Computer Interaction
    • 関連する報告書
      2018 実績報告書
    • 国際学会 / 招待講演
  • [学会発表] Niche Radius Adaptation in Bat Algorithm for Location Multiple Optima in Multimodal Functions2019

    • 著者名/発表者名
      Takuya Iwase, Ryo Takano, Fumito Uwano, Hiroyuki Sato, and Keiki Takadama
    • 学会等名
      IEEE Congress on Evolutionary Computation 2019
    • 関連する報告書
      2018 実績報告書
    • 国際学会
  • [学会発表] Bat Algorithm with Dynamic Niche Radius for Multimodal Optimization2019

    • 著者名/発表者名
      Takuya Iwase, Ryo Takano, Fumito Uwano, Hiroyuki Sato, and Keiki Takadama
    • 学会等名
      The 3rd International Conference on Intelligent Systems, Metaheuristics & Swarm Intelligence
    • 関連する報告書
      2018 実績報告書
    • 国際学会
  • [学会発表] Maximum Entropy Inverse Reinforcement Learning with Incomplete Experts2019

    • 著者名/発表者名
      Satoshi Hasegawa, Fumito Uwano, and Keiki Takadama
    • 学会等名
      The 24th International Symposium on Artificial Life and Robotics
    • 関連する報告書
      2018 実績報告書
    • 国際学会
  • [学会発表] Novelty Search-based Bat Algorithm: Adjusting Distance among Solutions for Multimodal Optimization2019

    • 著者名/発表者名
      Takuya Iwase, Ryo Takano, Fumito Uwano, Hiroyuki Sato, and Keiki Takadama
    • 学会等名
      The 22nd Asia Pacific Symposium on Intelligent and Evolutionary Systems
    • 関連する報告書
      2018 実績報告書
    • 国際学会
  • [学会発表] 集団適応を導くギャップ補填に基づく「思いやり」2019

    • 著者名/発表者名
      前川佳幹,上野史,北島瑛貴,髙玉圭樹
    • 学会等名
      第33回人工知能学会全国大会
    • 関連する報告書
      2018 実績報告書
  • [学会発表] 故障に対して冗長性を備えた仮想ロボットのニューロ進化による持続可能な行動獲得2019

    • 著者名/発表者名
      速水陽平,辰巳嵩豊,上野史,髙玉圭樹
    • 学会等名
      第46回知能システムシンポジウム
    • 関連する報告書
      2018 実績報告書
  • [学会発表] 好奇心を持つエージェントによる多様性のある情報伝搬シミュレーションモデルの提案2019

    • 著者名/発表者名
      北島瑛貴,髙玉圭樹,村田暁紀,上野史
    • 学会等名
      HAIシンポジウム2018
    • 関連する報告書
      2018 実績報告書
  • [学会発表] Strategy for Learning Cooperative Behavior with Local Information for Multi-agent Systems2018

    • 著者名/発表者名
      Fumito Uwano and Keiki Takadama
    • 学会等名
      The 21st International Conference on Principles and Practice of Multi-Agent Systems
    • 関連する報告書
      2018 実績報告書
    • 国際学会
  • [学会発表] Generalizing Rules by Random Forest-based Learning Classifier Systems for High-dimensional Data Mining2018

    • 著者名/発表者名
      Fumito Uwano, Koji Dobashi, Keiki Takadama, and Tim Kovacs
    • 学会等名
      The Genetic and Evolutionary Computation Conference Companion 2018
    • 関連する報告書
      2018 実績報告書
    • 国際学会
  • [学会発表] Analyzing Triangle Matching Method Based on Craters for Spacecraft Localization2018

    • 著者名/発表者名
      Fumito Uwano, Haruyuki Ishii, Yuta Umenai, Kazuma Matsumoto, Takato Tatsumi, Akinori Murata, and Keiki Takadama
    • 学会等名
      The International Symposium on Artificial Intelligence, Robotics and Automation in Space 2018
    • 関連する報告書
      2018 実績報告書
    • 国際学会
  • [学会発表] Correcting Wrongly Determined Opinions of Agents in Opinion Sharing Model2018

    • 著者名/発表者名
      Eiki Kitajima, Caili Zhang, Haruyuki Ishii, Fumito Uwano, and Keiki Takadama
    • 学会等名
      The 20th International Conference on Human-Computer Interaction
    • 関連する報告書
      2018 実績報告書
    • 国際学会
  • [学会発表] Multiple Swarm Intelligence Methods based on Multiple Population with Sharing Best Solution for Drastic Environmental Change2018

    • 著者名/発表者名
      Yuta Umenai, Fumito Uwano, Hiroyuki Sato, and Keiki Takadama
    • 学会等名
      The Genetic and Evolutionary Computation Conference Companion 2018
    • 関連する報告書
      2018 実績報告書
    • 国際学会
  • [学会発表] How to Detect Essential Craters in Camera Shot Image to Increase the Number of Spacecraft Location Estimation while Improving its Accuracy?2018

    • 著者名/発表者名
      Haruyuki Ishii, Yuta Umenai, Kazuma Matsumoto, Fumito Uwano, Takato Tatsumi, Keiki Takadama, Hiroyuki Kamata, Takayuki Ishida, Seisuke Fukuda, Shujiro Sawai, and Shinichiro Sakai
    • 学会等名
      The International Symposium on Artificial Intelligence, Robotics and Automation in Space 2018
    • 関連する報告書
      2018 実績報告書
    • 国際学会
  • [学会発表] 報酬の動的変化に適応する通信無しマルチエージェント協調学習のための公平性に基づく内部報酬設定法2018

    • 著者名/発表者名
      上野史,髙玉圭樹
    • 学会等名
      計測自動制御学会システム・情報部門学術講演会2018
    • 関連する報告書
      2018 実績報告書
  • [学会発表] 包括的な撮影画像パターンに対するSLIM探査機の自己位置推定の評価と精度向上2018

    • 著者名/発表者名
      上野史,村田暁紀,辰巳嵩豊,髙玉圭樹,鎌田弘之,石田貴行,福田盛介,澤井秀次郎,坂井真一郎
    • 学会等名
      第62回宇宙科学技術連合講演会
    • 関連する報告書
      2018 実績報告書
  • [学会発表] 行動系列分割に基づく不完全なエキスパートからの逆強化学習2018

    • 著者名/発表者名
      長谷川智,上野史,髙玉圭樹
    • 学会等名
      計測自動制御学会システム・情報部門学術講演会2018
    • 関連する報告書
      2018 実績報告書
  • [学会発表] 複数解探索を考慮した分散型Bat Algorithm2018

    • 著者名/発表者名
      岩瀬拓哉,高野諒,上野史,佐藤寛之,髙玉圭樹
    • 学会等名
      計測自動制御学会システム・情報部門学術講演会2018
    • 関連する報告書
      2018 実績報告書
  • [学会発表] グリッドネットワーク上の誤報抑制意見共有アルゴリズム2018

    • 著者名/発表者名
      北島瑛貴,辰巳嵩豊,村田暁紀,上野史,髙玉圭樹
    • 学会等名
      計測自動制御学会システム・情報部門学術講演会2018
    • 関連する報告書
      2018 実績報告書
  • [学会発表] 睡眠時無呼吸症候群患者のための無拘束型リアルタイム睡眠段階推定法2018

    • 著者名/発表者名
      田島友祐,上野史,原田智広,髙玉圭樹
    • 学会等名
      ヘルスケア・医療情報通信技術研究会
    • 関連する報告書
      2018 実績報告書
  • [学会発表] Theoretical Analysis of Triangle Matching Method Based on Craters for Spacecraft Localization2018

    • 著者名/発表者名
      Fumito Uwano
    • 学会等名
      International Symposium on Artificial Intelligence, Robotics and Automation in Space (i-SAIRAS 2018)
    • 関連する報告書
      2017 実績報告書
    • 国際学会
  • [学会発表] Ensemble Heart Rate Extraction Method for Biological Data from Pressure Sensor Sensor2018

    • 著者名/発表者名
      Fumito Uwano
    • 学会等名
      AAAI Spring Symposium 2018
    • 関連する報告書
      2017 実績報告書
    • 国際学会
  • [学会発表] Multiple Swarm Intelligence Methods based on Multiple Population with Sharing Best Solution for Drastic Environmental Change2018

    • 著者名/発表者名
      Yuta Umenai
    • 学会等名
      Genetic and Evolutionary Computation Conference (GECCO 2018)
    • 関連する報告書
      2017 実績報告書
    • 国際学会
  • [学会発表] How to Detect Essential Craters in Camera Shot Image to Increase the Number of Spacecraft Location Estimation while Improving its Accuracy?2018

    • 著者名/発表者名
      Haruyuki Ishii
    • 学会等名
      International Symposium on Artificial Intelligence, Robotics and Automation in Space (i-SAIRAS 2018)
    • 関連する報告書
      2017 実績報告書
    • 国際学会
  • [学会発表] Improving Sleep Stage Estimation Accuracy by Circadian Rhythm Extracted from a Low Frequency Component of Heart Rate2018

    • 著者名/発表者名
      Akari Tobaru
    • 学会等名
      AAAI Spring Symposium 2018
    • 関連する報告書
      2017 実績報告書
    • 国際学会
  • [学会発表] Correcting Wrongly Determined Opinions of Agents in Opinion Sharing Model2018

    • 著者名/発表者名
      Eiki Kitajima
    • 学会等名
      International Conference on Human-computer Interaction (HCII 2018)
    • 関連する報告書
      2017 実績報告書
    • 国際学会
  • [学会発表] 負の報酬生成による環境変化に適応可能な逆強化学習2018

    • 著者名/発表者名
      Satoshi Hasegawa
    • 学会等名
      第45回知能システムシンポジウム
    • 関連する報告書
      2017 実績報告書
  • [学会発表] 知識の忘却に基づく迷路形状の変化に追従する非通信マルチエージェント強化学習2017

    • 著者名/発表者名
      上野 史
    • 学会等名
      計測自動制御学会 システム・情報部門 学術講演会 2017
    • 関連する報告書
      2017 実績報告書
  • [学会発表] Strategies to Improve Cuckoo Search Toward Adapting Randomly Changing Environment2017

    • 著者名/発表者名
      Yuta Umenai
    • 学会等名
      International Conference of Swarm Intelligence (ICSI 2017)
    • 関連する報告書
      2017 実績報告書
    • 国際学会
  • [学会発表] 動的環境適応に向けた粒子群最適化とカッコウ探索の協働のための情報共有方法の検討2017

    • 著者名/発表者名
      梅内祐太
    • 学会等名
      進化計算シンポジウム 2017
    • 関連する報告書
      2017 実績報告書
  • [学会発表] 深層学習による次元圧縮ルールの学習分類子システムにおける初期ルールとしての可能性2017

    • 著者名/発表者名
      松本和馬
    • 学会等名
      進化計算シンポジウム 2017
    • 関連する報告書
      2017 実績報告書
  • [学会発表] SLIM探査機の高度や姿勢の傾きによるクレータ検出位置ずれに対応する自己位置推定法2017

    • 著者名/発表者名
      石井晴之
    • 学会等名
      第61回宇宙科学技術連合講演会
    • 関連する報告書
      2017 実績報告書
  • [学会発表] Searching Multiple Local Optimal Solutions in Multimodal Function by Bat Algorithm based on Novelty Search2017

    • 著者名/発表者名
      Takuya Iwase
    • 学会等名
      進化計算シンポジウム 2017
    • 関連する報告書
      2017 実績報告書
  • [学会発表] 複数解探索を考慮した分散型Bat Algorithm2017

    • 著者名/発表者名
      岩瀬拓哉
    • 学会等名
      計測自動制御学会 システム・情報部門 学術講演会 2017
    • 関連する報告書
      2017 実績報告書
  • [図書] PRIMA 2018: Principles and Practice of Multi-Agent Systems2018

    • 著者名/発表者名
      Fumito Uwano and Keiki Takadama
    • 出版者
      Springer
    • ISBN
      9783030030988
    • 関連する報告書
      2018 実績報告書
  • [産業財産権] 点群マッチング装置,点群マッチング方法及びプログラム2018

    • 発明者名
      髙玉圭樹,石井晴之,上野史
    • 権利者名
      髙玉圭樹,石井晴之,上野史
    • 産業財産権種類
      特許
    • 産業財産権番号
      2018-106820
    • 出願年月日
      2018
    • 関連する報告書
      2018 実績報告書
    • 外国

URL: 

公開日: 2017-05-25   更新日: 2024-03-26  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi