• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2016 Fiscal Year Annual Research Report

Self-Organizing Motion Primitives for Robots Utilizing Deep Learning

Research Project

Project/Area Number 15H01710
Research InstitutionWaseda University

Principal Investigator

尾形 哲也  早稲田大学, 理工学術院, 教授 (00318768)

Co-Investigator(Kenkyū-buntansha) 有江 浩明  早稲田大学, 次世代ロボット研究機構, その他(招聘研究員) (20424814)
Project Period (FY) 2015-04-01 – 2020-03-31
Keywords深層学習 / End to End学習 / ロボット動作学習 / 動作プリミティブ
Outline of Annual Research Achievements

本課題では,人間型ロボットによる多様な卓上タスクを行うことを目的として,ディープラーニングを利用した感覚運動統合を用いたロボットの行動学習手法を提案している.
H28年度は,H27年度までに行ったEnd to Endの動作学習法を拡張する形で,複数の動作を深層学習モデルに組み込み,切り替えを実行する手法を開発した.先行研究であるLevineらの手法では,生画像から適切なモータ制御を行う強化学習を提案しているが, 一つのモデルにつの動作しか学習出来ないため, 複数動作の切り替えは困難である.そこで我々はこれまで提案している自己符号化器に再帰型神経回路モデル(RNN)を組み合わせ,RNNの中で複数動作をアトラクタとして表現,状況に応じて遷移させる方法を構築した.従来手法では,動作の移行時に外部から意図的に入力を与えている研究が多く,画像などのセンサ情報からの直接的な切り替えを考慮していない.提案手法では,人間型ロボットNextageを用い,「箱を開ける」,「物を箱に入れる」,「箱を閉じる」の三つのフェーズからなる片付け動作を行わせた.具体的には,自己符号化器により画像を圧縮し, Nextageの両アーム,両グリッパーを合わせたデータをRNNで学習させる.それぞれの動作は個別にアトラクタ軌道として学習する.動作開始時点のRNNの内部状態が近くなるように制限をかける手法を用いた結果,結果,ロボットはタスク動作を一連で学習することなく,オンラインで取り込んだ画像情報から動作の移行が可能となった.さらに,一連の動作を生成中に,人間がステップを戻す,先に進めるなどの介入を行っても,提案手法は問題なく動作順を変更することが可能なこと,さらに類似した未学習物体が扱えること,動作中に未学習位置に物体が移動しても学習領域内であれば把持が可能なこと,などを確認した.

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

H28年度までに完成させた,ROS, RT-Middoleware,Oculus, 3D-マウスによる遠隔操作(動作教示)システムを援用する形で,研究を進めることができている.特に一時的な利用となっていたNextageについて,早稲田大学リーディングプログラムの協力によって,継続利用ができる環境が整ったために,多様な動作についての追加実験を行うことが可能となった.
またPR-2で行っていた柔軟物のハンドリングについて,Nextageで完全に再現が可能となり,産業技術総合研究所のプロジェクトでさらに発展をさせる方針が整った点,さらに現時点でジャーナルがアクセプトされるなど,成果は順調に挙げられている.
加えて,本申請課題の大きな目標であった,動作プリミティブの深層学習モデルによる取り扱いについて一定の目処がついた点は大きな収穫である.具体的には,「片付け」という単純タスク,さらに動作プリミティブは事前に与えてはいる基礎実験ではあるものの,手法の提案と構築,評価という点で実機での動作確認ができたこと,さらに神経回路モデルの学習状況を詳細に分析することができた.

Strategy for Future Research Activity

今後は,本申請課題の最終目的である多様なタスクの生成について,検討をしていく.具体的には,(1) エンドエフェクタの再設計,(2) 動作教示手法の拡張,(3) 動作プリミティブの自己組織化,などが課題となってくる.
(1) 現在の段階ではグリッパーを利用した動作生成となっているが,本手法は他のエンドエフェクタ,例えば多指ハンドなどにも拡張が可能だと期待される.可能な作業は,ロボットハードウェアの潜在的な作業能力に依存するため,どのようなエンドエフェクタが必要となるか,その設計論を検討する必要がある.
(2) 動作教示については,現在のところ3Dマウスによる遠隔操作にとどまっているが,操作自由度が低いため効率的とは言い難い.今後は他のインタフェースなども検討していく必要がある.またロボットが動作中利用な感覚が,画像と関節姿勢情報のみとなっており,これが学習精度に影響している可能性は否定できない.トルクセンサーや触覚センサーなどの導入も検討していく.
(3) 本申請課題の最大の目標となる「動作プリミティブ」の扱いであるが,現在のところは人間の設計者が事前に与えている.今後は主にRNNを利用することで,一連の動作から組み合わせ可能なプリミティブを自己組織化する手法についても検討を行っていく.

  • Research Products

    (33 results)

All 2017 2016 Other

All Int'l Joint Research (2 results) Journal Article (2 results) (of which Peer Reviewed: 2 results,  Open Access: 2 results,  Acknowledgement Compliant: 2 results) Presentation (29 results) (of which Int'l Joint Research: 8 results,  Invited: 14 results)

  • [Int'l Joint Research] ミュンヘン工科大学(ドイツ)

    • Country Name
      GERMANY
    • Counterpart Institution
      ミュンヘン工科大学
  • [Int'l Joint Research] イタリア工科大学(イタリア)

    • Country Name
      ITALY
    • Counterpart Institution
      イタリア工科大学
  • [Journal Article] Repeatable Folding Task by Humanoid Robot Worker using Deep Learning2016

    • Author(s)
      Pin-Chu Yang, Kazuma Sasaki, Kanata Suzuki, Kei Kase, Shigeki Sugano, and Tetsuya Ogata
    • Journal Title

      IEEE Robotics and Automation Letters

      Volume: 2 Pages: 397-403

    • DOI

      10.1109/LRA.2016.2633383

    • Peer Reviewed / Open Access / Acknowledgement Compliant
  • [Journal Article] Visual Motor Integration of Robot’s Drawing Behavior using Recurrent Neural Network2016

    • Author(s)
      Kazuma Sasaki, Kuniaki Noda, and Tetsuya Ogata
    • Journal Title

      Robotics and Autonomous Systems

      Volume: 86 Pages: 184-195

    • DOI

      10.1016/j.robot.2016.08.022

    • Peer Reviewed / Open Access / Acknowledgement Compliant
  • [Presentation] 深層学習とロボットの融合2017

    • Author(s)
      尾形哲也
    • Organizer
      日本音響学会2017年春季研究発表会
    • Place of Presentation
      明治大学
    • Year and Date
      2017-03-15 – 2017-03-15
    • Invited
  • [Presentation] Deep Neural Models for Object Manipulation and Communication of Robots2017

    • Author(s)
      Tetsuya Ogata
    • Organizer
      International Symposium on Cognitive Neuroscience Robotics
    • Place of Presentation
      大阪大学
    • Year and Date
      2017-03-10 – 2017-03-10
    • Int'l Joint Research / Invited
  • [Presentation] Deep Neural Models for Object Manipulation and Communication of Robots2017

    • Author(s)
      Tetsuya Ogata
    • Organizer
      International Symposium on Robotic and Human Cognition and Brain Development
    • Place of Presentation
      東京大学
    • Year and Date
      2017-02-28 – 2017-02-28
    • Int'l Joint Research / Invited
  • [Presentation] 深層学習とロボティクス2017

    • Author(s)
      尾形哲也
    • Organizer
      京都大学大学院情報学研究科第18回情報学シンポジウム
    • Place of Presentation
      京都大学
    • Year and Date
      2017-02-23 – 2017-02-23
    • Invited
  • [Presentation] RTミドルウェアを用いた開発の課題とサポートツールの開発2016

    • Author(s)
      菅佑樹,尾形哲也
    • Organizer
      計測自動制御学会システムインテグレーション部門講演会SI2016
    • Place of Presentation
      札幌コンベンションセンター
    • Year and Date
      2016-12-15 – 2016-12-17
  • [Presentation] Deep Learningによる把持動作を考慮した道具身体化モデルの学習と動作生成2016

    • Author(s)
      金杞泰,高橋城志,尾形哲也,菅野重樹
    • Organizer
      計測自動制御学会システムインテグレーション部門講演会SI2016
    • Place of Presentation
      札幌コンベンションセンター
    • Year and Date
      2016-12-15 – 2016-12-17
  • [Presentation] 多自由度柔軟関節ロボットのためのモーターバブリングを用いた効率的な動的動作の学習2016

    • Author(s)
      高橋城志,尾形哲也,中西淳,Gordon Cheng,菅野重樹
    • Organizer
      計測自動制御学会システムインテグレーション部門講演会SI2016
    • Place of Presentation
      札幌コンベンションセンター
    • Year and Date
      2016-12-15 – 2016-12-17
  • [Presentation] WOZ法を用いた動作教示を利用したRNNによるオンライン動作生成2016

    • Author(s)
      鈴木彼方,陽品駒,加瀬敬唯,尾形哲也
    • Organizer
      計測自動制御学会システムインテグレーション部門講演会SI2016
    • Place of Presentation
      札幌コンベンションセンター
    • Year and Date
      2016-12-15 – 2016-12-17
  • [Presentation] An Effective Visual Programming Tool for Learning and Using Robotics Middleware2016

    • Author(s)
      Yumi Nishimura, Yuki Suga, Tetsuya Ogata
    • Organizer
      IEEE/SICE International Symposium on System Integration (SII2016)
    • Place of Presentation
      Sapporo
    • Year and Date
      2016-12-13 – 2016-12-16
    • Int'l Joint Research
  • [Presentation] A Reusability-based Hierarchical Fault-detection Architecture for Robot Middleware and its Implementation in an Autonomous Mobile Robot System2016

    • Author(s)
      Tao Asato, Yuki Suga, Tetsuya Ogata
    • Organizer
      IEEE/SICE International Symposium on System Integration (SII2016)
    • Place of Presentation
      Sapporo
    • Year and Date
      2016-12-13 – 2016-12-16
    • Int'l Joint Research
  • [Presentation] 深層学習によるロボットの物体操作と言語の学習2016

    • Author(s)
      尾形哲也
    • Organizer
      日本機械学会 情報・知能・精密機器部門 機械と社会を変える人工知能(AI)基礎講座
    • Place of Presentation
      日本機械学会 会議室
    • Year and Date
      2016-11-09 – 2016-11-09
    • Invited
  • [Presentation] 深層学習モデルによるロボット行動・言語学習2016

    • Author(s)
      尾形哲也
    • Organizer
      CBI学会2016年大会
    • Place of Presentation
      タワーホール船堀
    • Year and Date
      2016-10-27 – 2016-10-27
    • Invited
  • [Presentation] Robot system handling unknown objects by deep learning2016

    • Author(s)
      Tetsuya Ogata
    • Organizer
      Japan-France Symposium on Deep Learning and Artificial Intelligence
    • Place of Presentation
      University of Tokyo
    • Year and Date
      2016-10-12 – 2016-10-12
    • Int'l Joint Research / Invited
  • [Presentation] ロボットにおけるディープラーニングによるマルチモーダル情報の統合2016

    • Author(s)
      尾形哲也
    • Organizer
      Prometech Simulation Conference 2016
    • Place of Presentation
      JPタワーホール&カンファレンス
    • Year and Date
      2016-09-09 – 2016-09-09
    • Invited
  • [Presentation] Deep Learningによるロボット道具使用のための把持を考慮した道具身体化モデル2016

    • Author(s)
      金杞泰,高橋城志,尾形哲也,菅野重樹
    • Organizer
      日本ロボット学会第34回学術講演会
    • Place of Presentation
      山形大学
    • Year and Date
      2016-09-07 – 2016-09-09
  • [Presentation] Wizard of Ozと深層学習によるロボットの柔軟物折り畳み作業2016

    • Author(s)
      陽品駒,佐々木一磨,鈴木彼方,加瀬敬唯,高橋城志,菅野重樹,尾形哲也
    • Organizer
      日本ロボット学会第34回学術講演会
    • Place of Presentation
      山形大学
    • Year and Date
      2016-09-07 – 2016-09-09
  • [Presentation] Body Model Transition by Tool Grasping During Motor Babbling using Deep Learning and RNN2016

    • Author(s)
      Kuniyuki Takahashi, Hadi Tjandra, Tetsuya Ogata, and Shigeki Sugano
    • Organizer
      International Conference on Artificial Neural Networks (ICANN 2016)
    • Place of Presentation
      Barcelona
    • Year and Date
      2016-09-06 – 2016-09-09
    • Int'l Joint Research
  • [Presentation] Classification of Photo and Sketch Images using Convolutional Neural Networks2016

    • Author(s)
      Kazuma Sasaki, Madoka Yamakawa, Kana Sekiguchi, and Tetsuya Ogata
    • Organizer
      International Conference on Artificial Neural Networks (ICANN 2016)
    • Place of Presentation
      Barcelona
    • Year and Date
      2016-09-06 – 2016-09-09
    • Int'l Joint Research
  • [Presentation] 神経回路モデルによるロボットの身体モデル学習~ダイナミックな運動の学習と応用~2016

    • Author(s)
      尾形哲也
    • Organizer
      日本体育学会第67回大会
    • Place of Presentation
      大阪体育大学
    • Year and Date
      2016-08-25 – 2016-08-25
    • Invited
  • [Presentation] 神経回路モデルによるロボットの運動と言語の学習2016

    • Author(s)
      尾形哲也
    • Organizer
      「機械の日・機械週間」記念行事
    • Place of Presentation
      東京大学
    • Year and Date
      2016-08-07 – 2016-08-07
    • Invited
  • [Presentation] ディープラーニングによる実ロボットの行動学習2016

    • Author(s)
      尾形哲也
    • Organizer
      情報処理学会連続セミナー第1回:実世界に埋め込まれる人工知能
    • Place of Presentation
      化学会館
    • Year and Date
      2016-06-28 – 2016-06-28
    • Invited
  • [Presentation] ディープラーニングのロボット応用と今後の展望2016

    • Author(s)
      尾形哲也
    • Organizer
      精密工学会第380会講習会
    • Place of Presentation
      上智大学
    • Year and Date
      2016-06-10 – 2016-06-10
    • Invited
  • [Presentation] ロボットミドルウェア学習のためのビジュアルプログラミングツールの開発2016

    • Author(s)
      西村優美,菅佑樹,尾形哲也
    • Organizer
      日本機械学会ロボティクスメカトロニクス講演会
    • Place of Presentation
      パシフィコ横浜
    • Year and Date
      2016-06-08 – 2016-06-11
  • [Presentation] ロボットミドルウェアのダイナミックワイヤリングを利用したホットスタンバイアーキテクチャの提案2016

    • Author(s)
      安里太緒,ビグスジェフ,安藤慶昭,原功,菅佑樹,尾形哲也
    • Organizer
      日本機械学会ロボティクスメカトロニクス講演会
    • Place of Presentation
      パシフィコ横浜
    • Year and Date
      2016-06-08 – 2016-06-11
  • [Presentation] CNNによる二次元物体画像から実ロボットでの把持動作生成2016

    • Author(s)
      鈴木彼方,新古眞純,陽品駒,高橋城志,菅野重樹,尾形哲也
    • Organizer
      日本機械学会ロボティクスメカトロニクス講演会
    • Place of Presentation
      パシフィコ横浜
    • Year and Date
      2016-06-08 – 2016-06-11
  • [Presentation] 道具機能表現を分類するための道具身体化モデルの転移学習2016

    • Author(s)
      山田浩貴,下栗逸爾,高橋城志,Hadi Tjandra,菅野重樹,尾形哲也
    • Organizer
      日本機械学会ロボティクスメカトロニクス講演会
    • Place of Presentation
      パシフィコ横浜
    • Year and Date
      2016-06-08 – 2016-06-11
  • [Presentation] ディープニューラルネットワークとリカレントニューラルネットワークによる把持位置を考慮した道具使用モデル2016

    • Author(s)
      金杞泰,高橋城志,Hadi Tjandra,尾形哲也,菅野重樹
    • Organizer
      日本機械学会ロボティクスメカトロニクス講演会
    • Place of Presentation
      パシフィコ横浜
    • Year and Date
      2016-06-08 – 2016-06-11
  • [Presentation] Deep Learning技術のロボティクスへの応用と今後の展望2016

    • Author(s)
      尾形哲也
    • Organizer
      CAE計算環境研究会第7回シンポジウム
    • Place of Presentation
      東京大学
    • Year and Date
      2016-05-27 – 2016-05-27
    • Invited
  • [Presentation] Deep Neural Models for Multimodal Integration in Robot System2016

    • Author(s)
      Tetsuya Ogata
    • Organizer
      3rd mini-symposium on Computations, Brains and Machines
    • Place of Presentation
      理化学研究所
    • Year and Date
      2016-05-17 – 2016-05-17
    • Int'l Joint Research / Invited

URL: 

Published: 2018-01-16  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi