• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2016 Fiscal Year Annual Research Report

指使いの自動プロセスモデル解析に基づく緻密手作業のロボットハンド模倣

Research Project

Project/Area Number 15H02764
Research InstitutionRitsumeikan University

Principal Investigator

島田 伸敬  立命館大学, 情報理工学部, 教授 (10294034)

Co-Investigator(Kenkyū-buntansha) 田中 弘美  立命館大学, 情報理工学部, 教授 (10268154)
李 周浩  立命館大学, 情報理工学部, 教授 (80366434)
Project Period (FY) 2015-04-01 – 2018-03-31
Keywords深層学習 / CNN / 持ち方パラメータ / 物体機能 / 想起 / プロセスモデリング
Outline of Annual Research Achievements

昨年度「1フレームの静止画像における人の物体操作シーン」を深度画像、手領域、物体領域の3チャンネル画像としてとらえ、Autoencoderを用いて物体と手の操作の関連を記述する記述子空間を教師なしに獲得できたが、記述子をdecoderに通して得られる手領域や物体領域の像がかなりぼやけていることが問題であった。これを解決するため、学習画像の画面内シフトを自動的に考慮して不変な像クラスタを教師なしに生成できる「Shift-Invariant Autoencoder (SIAE)」を今年度新たに開発し、その有用性を実証するとともに物体操作シーンの記述子空間生成に応用して、昨年度よりも鮮明な物体把持シーンの像を生成することに成功した(複数の国際会議ならびに英文論文誌に採録済)。
また人間の操作によって対象(道具など)の状態変化が連鎖的におこる操作プロセスの記述法として、RNNを応用した時系列の状態発展記述を採用し、人が部屋の椅子などを操作し座るという動作を学習/予測することができた。当初予定では手が物体を操作するシーンを想定していたが、NNの記述能力と必要な訓練時間の問題から、部屋シーンにおける椅子と形状と人体の大きな動きを扱った。部屋のシーン状態(椅子があるかどうか)によって椅子を引いて着席する動作と、座らずに立ったまま付近を通る動作になるかが分岐的に想起されることが確認できた。さらに前述のSIAEを応用して手指の深度画像を記述する空間を生成し、半教師学習によってリアルタイムにロボットハンドのモーターコマンド出力する回帰CNNを学習させて実際にロボットハンドの姿勢を制御を行った。

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

初年度では物体の変形や状態変化については取り扱うまでに至っておらず、あくまでも物体の静的な部分形状に誘導される静的な把持パタンの想起に過ぎなかったが、今年度は操作による物体形状の時間的な状態変化(深度画像の変化)によって次になすべき操作をRNNが次々に想起していく枠組みを考案し、実際に椅子を引いて、うまく引けたらそこに着席する人間の動作を想起することに成功した。またうまく椅子を引けなければ椅子の深度画像が予想どおりに変化しないため、その場合には再度椅子を引く動作が想起されることを確認した。即ち目の前の物体状態に応じて次になすべき操作を選択的に想起することができていることを示唆している。これは大まかな人体動作についての実験例であるが、手指による複雑で詳細な物体操作を記述するためのプロトタイプになりうる。とくにどのような把持パタンを実施したあとでどのような物体の形状遷移が起るのかを記述/想起していくプロセスモデリングの数理的枠組の端緒になると期待できる。
また本研究の理論的成果であるSIAEを適用して手の深度画像とロボットハンドの姿勢制御コマンドを半教師学習によって回帰することができたことは、人とロボットの手形状が異なるにも関わらず人の物体把持をロボットハンドに模倣させることができる可能性を示したもので、物体形状から想起した把持操作の手形状を入力としてロボットハンドに当該物体の把持をさせることに繋がり、一定の成果が得られたと考える。

Strategy for Future Research Activity

【プロセスモデリングチーム】
今年度の成果を継承し、幾つかのステップを踏む物体操作を学習できるかを実験によって検証し、現在の人体姿勢と3Dシーンおよび目指すゴールの状況を提示すると、つぎにどのような人体動作があれば部屋シーンがゴールにむかって遷移していくかを予想させる研究を行う。具体的には人体の姿勢をスケルトンを用いて、また部屋シーンの状況を深度画像として入力し、人体スケルトンとシーン深度画像を入力すると次に起こるべき人体スケルトン変化と変遷するはずの深度画像が出力されるRNNを構築する。これを用いて、初期状況だけを入力すれば今後何が起こるかを予測する時系列が生成され、ゴール地点をあわせて入力すればそこに至る人体の行動系列が生成されることを目指す。
ステップを遷移させる人体行動が途中で失敗した状況を想定して、シーンが変化しなかったときには再度その遷移を生起する行動がRNNによって生成されるかどうかを焦点に研究を進める。これを卓上での手指作業(箱のハンドリングと蓋の開け閉め、内容物の取り出し)に適用していく。
【ハンドロボットチーム】
今年度はプロセスモデリングチームの成果である、物体形状(深度画像)だけから想起された手の把持形状(深度画像)をこれに入力し、実際にロボットハンドの姿勢を生成して、さらに接触センサやトルクセンサの情報を組み合わせることで実際に物体把持を試みる。

  • Research Products

    (28 results)

All 2017 2016

All Journal Article (5 results) (of which Peer Reviewed: 3 results,  Open Access: 2 results) Presentation (23 results) (of which Int'l Joint Research: 9 results)

  • [Journal Article] Phase Segmentation Methods for an Automatic Surgical Workflow Analysis2017

    • Author(s)
      Dinh Tuan Tran, Ryuhei Sakurai, Hirotake Yamazoe, and Joo-Ho Lee
    • Journal Title

      International Journal of Biomedical Imaging

      Volume: vol. 2017 Pages: 17 pages

    • Peer Reviewed / Open Access
  • [Journal Article] Construction of Latent Descriptor Space and Inference Model of Hand-Object Interactions2017

    • Author(s)
      Tadashi Matsuo, Nobutaka Shimada
    • Journal Title

      IEICE Trans. Inf.& Syst.

      Volume: Vol.E100-D, No.6 Pages: -

    • Peer Reviewed
  • [Journal Article] Automatic Lip Reading for inability-to-talk Patient During Mechanical Ventilation2016

    • Author(s)
      Yudai Nagano, Ryuhei Sakurai, Yu Kawazoe, Kyohei Miyamoto, Hirotake Yamazoe, and Joo-Ho Lee
    • Journal Title

      International Journal of Knowledge Engineering

      Volume: Vo.2 No.3 Pages: 2382-6185

    • DOI

      10.18178/ijke.2016.2.3.068

    • Peer Reviewed / Open Access
  • [Journal Article] フューズ推定と手術プロセスモデリングへの応用2016

    • Author(s)
      李 周浩, 櫻井 隆平, チャン ディン トゥアン
    • Journal Title

      INNERVISION

      Volume: Vo.31 No.7 Pages: 48-52

  • [Journal Article] RGB-D画像センサを用いた結紮手技訓練システム2016

    • Author(s)
      小川 洋子、島田 伸敬、白井 良明、来見 良誠、小森 優
    • Journal Title

      INNERVISION

      Volume: Vo.31 No.7 Pages: 53-56

  • [Presentation] 福原 宏弥, 川上 拓也, 矢野将基,松尾 直志, 島田 伸敬2017

    • Author(s)
      福原 宏弥, 川上 拓也, 矢野将基,松尾 直志, 島田 伸敬
    • Organizer
      パターン認識・メディア理解研究会(PRMU
    • Place of Presentation
      名城大学 天白キャンパス(愛知県名古屋市)
    • Year and Date
      2017-03-21 – 2017-03-21
  • [Presentation] Object Grasping By Learning Hand-Object Interaction from Human Behaviors2017

    • Author(s)
      Masaki Yano, Hiroya Fukuhara, Tadashi Matsuo, Nobutaka Shimada
    • Organizer
      The 23rd International Workshop on Frontiers of Computer Vision(IW-FCV2017
    • Place of Presentation
      Chung Mong-Koo Automotive Research Center, Hanyang University(seoul, Korea)
    • Year and Date
      2017-02-02 – 2017-02-02
    • Int'l Joint Research
  • [Presentation] プロセスのフェーズ推定における推定精度向上に関する考察2017

    • Author(s)
      李 周浩, Tran Dinh Tuan
    • Organizer
      情報処理学会研究報告, CVIM2017年1月研究会
    • Place of Presentation
      京都大学(京都府京都市)
    • Year and Date
      2017-01-20 – 2017-01-20
  • [Presentation] Improving Phases Segmentation in Surgical Workflow using Topic Model for Visual Motion Words2016

    • Author(s)
      Dinh Tuan Tran, Ryuhei Sakurai, Hirotake Yamazoe, Joo-Ho Lee
    • Organizer
      2016IEEE/SICE International Symposium on System Integration(SII2016)
    • Place of Presentation
      札幌コンベンションセンター(北海道札幌市)
    • Year and Date
      2016-12-14 – 2016-12-14
    • Int'l Joint Research
  • [Presentation] "Object Grasping By Learning Hand-Object Interaction from Human Behaviors2016

    • Author(s)
      Masaki Yano, Hiroya Fukuhara, Tadashi Matsuo, Nobutaka Shimada
    • Organizer
      The 12th Joint Workshop on Machine Perception and Robotics (MPR2016)
    • Place of Presentation
      立命館大学 大阪いばらきキャンパス(大阪府茨木市)
    • Year and Date
      2016-11-13 – 2016-11-13
    • Int'l Joint Research
  • [Presentation] Automatic Clustering of Grasping Patterns and Learning of Hand-Object Interaction from RGB-D images2016

    • Author(s)
      akuya Kawakami, Tadashi Matsuo, Nobutaka Shimada
    • Organizer
      The 12th Joint Workshop on Machine Perception and Robotics (MPR2016)
    • Place of Presentation
      立命館大学 大阪いばらきキャンパス(大阪府茨木市)
    • Year and Date
      2016-11-12 – 2016-11-12
    • Int'l Joint Research
  • [Presentation] Emotion Estimation and Visuallization by Facial and Speech Expressions for Robotic Mental Care2016

    • Author(s)
      Yuma Hirai, Keisuke Uema, Nobutaka Shimada
    • Organizer
      The 12th Joint Workshop on Machine Perception and Robotics (MPR2016)
    • Place of Presentation
      立命館大学 大阪いばらきキャンパス(大阪府茨木市)
    • Year and Date
      2016-11-12 – 2016-11-12
    • Int'l Joint Research
  • [Presentation] Evaluation Function for Shift Invariant Autoencoder2016

    • Author(s)
      Tadashi Matsuo, Nobutaka Shimada
    • Organizer
      The 12th Joint Workshop on Machine Perception and Robotics (MPR2016)
    • Place of Presentation
      立命館大学 大阪いばらきキャンパス(大阪府茨木市)
    • Year and Date
      2016-11-12 – 2016-11-12
    • Int'l Joint Research
  • [Presentation] Offline Writer Identification using Deep Metric Learning2016

    • Author(s)
      Ryuhei Sakurai, Shoki Matsumi, Joo-Ho Lee
    • Organizer
      The 12th joint Workshop on Machine Perception and Robotics (MPR2016)
    • Place of Presentation
      立命館大学 大阪いばらきキャンパス(大阪府茨木市)
    • Year and Date
      2016-11-12 – 2016-11-12
    • Int'l Joint Research
  • [Presentation] Evaluation Function for Shift Invariant Auto-encoder2016

    • Author(s)
      Tadashi Matsuo, Nobutaka Shimada
    • Organizer
      The Workshop on Machine Learning Methods for High-Level Cognitive Capabilities in Robotics 2016 (ML-HLCR2016) (IROS2016 Workshop)
    • Place of Presentation
      Daejeon(Korea)
    • Year and Date
      2016-10-14 – 2016-10-14
    • Int'l Joint Research
  • [Presentation] 介護動作の定量的評価を目的とした介護練習用ロボットの開発2016

    • Author(s)
      村田 航大, 山添 大丈, 李 周浩
    • Organizer
      第34回日本ロボット学会学術講演会(RSJ2016)
    • Place of Presentation
      山形大学(山形県山形市)
    • Year and Date
      2016-09-08 – 2016-09-08
  • [Presentation] アイ・ハンドコーディネーション解析に基づく実時間手術工程認識2016

    • Author(s)
      野村 祐資, 中村 暁史, 丸谷 宜史, 田中 弘美, 田川 和義, 島田 伸敬, 小森 優, 来 見 良誠, 森川 茂廣
    • Organizer
      第16回日本VR医学会学術大会
    • Place of Presentation
      横浜情報文化センター (神奈川県横浜市)
    • Year and Date
      2016-09-03 – 2016-09-03
  • [Presentation] Practical-use Oriented Design for Wearable Robot Arm2016

    • Author(s)
      Akimichi Kojima, Hirotake Yamazoe, Joo-Ho Lee
    • Organizer
      The 9th International Conference on Intelligent Robotics and Applications (ICIRA2016)
    • Place of Presentation
      首都大学東京(東京都八王子市)
    • Year and Date
      2016-08-22 – 2016-08-22
    • Int'l Joint Research
  • [Presentation] Hand-Object Interaction Descriptor by Sparse Autoencoder without Inequality Constraint2016

    • Author(s)
      Tadashi Matsuo, Nobutaka Shimada
    • Organizer
      第19回画像の認識・理解シンポジウム(MIRU2016),
    • Place of Presentation
      アクトシティ浜松(静岡県浜松市)
    • Year and Date
      2016-08-04 – 2016-08-04
  • [Presentation] 実機・シミュレーション間及び教室内外でシームレスなロボットプログラミング実験環境の構築2016

    • Author(s)
      松尾直志, 島田伸敬
    • Organizer
      ロボティクス・メカトロニクス講演会2016(ROBOMECH2016)
    • Place of Presentation
      パシフィコ横浜(神奈川県横浜市),
    • Year and Date
      2016-06-10 – 2016-06-10
  • [Presentation] RGB-D画像からの把持パタン想起に基づくハンドアームによる物体把持2016

    • Author(s)
      矢野 将基, 福原 宏弥, 松尾 直志, 島田 伸敬
    • Organizer
      ロボティクス・メカトロニクス講演会2016(ROBOMECH2016)
    • Place of Presentation
      パシフィコ横浜(神奈川県横浜市)
    • Year and Date
      2016-06-10 – 2016-06-10
  • [Presentation] オペレータブルイメージを用いた家庭向けロボットインタラクション2016

    • Author(s)
      八塚 達哉, 島田 伸敬
    • Organizer
      ロボティクス・メカトロニクス講演会2016(ROBOMECH2016)
    • Place of Presentation
      パシフィコ横浜(神奈川県横浜市),
    • Year and Date
      2016-06-10 – 2016-06-10
  • [Presentation] 畳み込みニューラルネットワークを用いたオフライン手書き画像の書き手分類2016

    • Author(s)
      松見 匠規, 櫻井 隆平, 李 周浩
    • Organizer
      第22回画像センシングシンポジウム
    • Place of Presentation
      パシフィコ横浜(神奈川県横浜市)
    • Year and Date
      2016-06-09 – 2016-06-09
  • [Presentation] RNNを用いた音声特徴のみからの表情付きトーキングヘッド自動生成2016

    • Author(s)
      櫻井 隆平, 榛葉 大樹, 山添 大丈, 李 周浩
    • Organizer
      第22回画像センシングシンポジウム
    • Place of Presentation
      パシフィコ横浜(神奈川県横浜市)
    • Year and Date
      2016-06-08 – 2016-06-08
  • [Presentation] 術工程に適応的な熟練医の手術手技教示システムの開発2016

    • Author(s)
      丸谷 宜史, 中村 暁史, 野村 祐資, 田中 弘美, 田川 和義, 島田 伸敬, 小森 優, 来見 良誠, 森川 茂廣
    • Organizer
      電子情報通信学会技術研究 報告(信学技報)
    • Place of Presentation
      名古屋大学(愛知県名古屋市)
    • Year and Date
      2016-05-16 – 2016-05-16
  • [Presentation] RGB-D画像からの把持パタン想起に基づくハンドアームによる物体把持2016

    • Author(s)
      矢野 将基, 福原 宏弥, 松尾 直志, 島田 伸敬
    • Organizer
      コンピュータビジョンとイメージメディア研究会2016年5月研究会
    • Place of Presentation
      立命館大学 大阪いばらきキャンパス(大阪府茨木市)
    • Year and Date
      2016-05-13 – 2016-05-13
  • [Presentation] 3-Dシーン観察に基づく手と物体の関係性の学習と把持パタンの想起2016

    • Author(s)
      川上 拓也, 松尾 直志, 小川 陽子, 島田 伸敬
    • Organizer
      コンピュータビジョンとイメージメディア研究会2016年5月研究会
    • Place of Presentation
      立命館大学 大阪いばらきキャンパス(大阪府茨木市)
    • Year and Date
      2016-05-13 – 2016-05-13
  • [Presentation] 画像のリアルタイム鮮明化と動画像からの水中物体形状の計測2016

    • Author(s)
      加治木 太郎, 島田 伸敬, 矢野 健一, 川村 貞夫
    • Organizer
      コンピュータビジョンとイメージメディア研究会2016年5月研究会
    • Place of Presentation
      立命館大学 大阪いばらきキャンパス(大阪府茨木市)
    • Year and Date
      2016-05-13 – 2016-05-13

URL: 

Published: 2018-01-16  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi