• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 課題ページに戻る

2015 年度 実績報告書

指使いの自動プロセスモデル解析に基づく緻密手作業のロボットハンド模倣

研究課題

研究課題/領域番号 15H02764
研究機関立命館大学

研究代表者

島田 伸敬  立命館大学, 情報理工学部, 教授 (10294034)

研究分担者 李 周浩  立命館大学, 情報理工学部, 教授 (80366434)
田中 弘美  立命館大学, 情報理工学部, 教授 (10268154)
研究期間 (年度) 2015-04-01 – 2018-03-31
キーワード深層学習 / CNN / 持ち方パラメータ / 物体機能 / 想起 / プロセスモデリング
研究実績の概要

まず物体操作を行う手指の姿勢計測には深度センサーの情報を用いたセグメンテーションが必要と考え、深度センサーから得られる奥行き情報から手指輪郭を抽出し各関節角度や掌姿勢をリアルタイムに推定するシステムを従来システムを拡張して開発した。
左右のどちらの手であるかも自動判別し両手同時に推定できるモードを追加した。次にものを把持する際の手の領域を抽出するにあたり、あらかじめ大雑把に物体のどこを手がどのように把持するのかを事前学習しておき、それにもとづいて手と物体の領域分割をした上で手指の詳細な姿勢推定を行う枠組みを想定した。そこでチームの所有技術である「手指-物体座標系 のモデリングに基づく物体機能の推定および識別手法」に基づき、機械学習によって物体操作座標系を抽出して把持画像を正規化した上で、把持の様子を1)手の形状(2D/3D)と物体相対位置、2)物体の見え(2D)・形状(3D)を組み合わせた画像をSparse auto encoderを用いて教師なしにクラスタリングし、物体機能に対応した把持パタンを記述する「持ち方パラメータ空間」を抽出した。
この空間上に記述された物体把持パタンを、物体自身の見え・形状と付きあわせてConvolutional NNを用いた教師付き学習によって想起させることに成功した。一方双腕ロボットの頭部に深度センサーを、また両手先に自作した9自由度ハンドを装着した把持ロボットを製作し、把持パタンを強く想起させる物体パーツの位置を特定し、そこにハンドを移動させて、傘やかばん、缶などの物体を実際に把持することができた。
またハンドの制御において、運動指示を直接与えるのではなく、目標となるハンド形状を3-Dの深度画像として与えるとその形に近づけるappearance-drivenな姿勢制御を機械学習によって実装した。

現在までの達成度 (区分)
現在までの達成度 (区分)

2: おおむね順調に進展している

理由

1年目の目標であった、手指の姿勢計測システムの製作や物体のパーツ形状から把持パタンを想起する枠組みについて一定の成果があげられた。とくに物体の部分形状に誘導される形での把持パタンを記述するための特徴空間を機械学習を用いることにより獲得できたことにより、高自由度で記述や推定の難しい手指操作を低次元で表現しつつ扱う方法について一定の方向性が確認できたので、これらを土台にして2年目は時間的な把持パタンの遷移について記述する方法へと研究のターゲットを推し進めることが可能になった。一方で、1年目では物体の変形や状態変化については取り扱うまでに至っておらず、あくまでも物体の静的な部分形状に誘導される静的な把持パタンの想起に過ぎないので、物体側の時間的な変遷、とくにどのような把持パタンを実施したあとでどのような物体の形状遷移が起るのかを定量的に記述していくことが本研究の目的であるプロセスモデリングの数理的枠組みを探求することに繋がると考える。また、人の物体把持および操作をロボットハンドが模倣する際の最大の問題は、人とロボットの手形状が異なる(指の数は太さ長さなど)ことにあり、これを転移学習等の枠組みを利用して解決することを今後検討する。この人ーロボット間の作業スキル転写についてやや進捗が少なかった。

今後の研究の推進方策

【プロセスモデリングチーム】
今年度は手が物体に接触して操作している複雑なシーンに対しこの成果を応用し、手のアプローチの予測に基づいて手の領域と物体の領域を分け、それぞれがどのように時系列的に推移していくかを個別にトラッキングする方法について研究する。手形状の追跡については昨年度新たに製作した深度センサー情報に基づく三次元手指姿勢推定システムを利用して関節の角度パラメータの時系列を抽出する。物体についてはハサミのような可動部分の明瞭なものを対象にその運動をNNをつかって記述する。可能であれば箱のような大きな形状変化を伴うものの遷移を記述する方法についても検討する。さらに、昨年度の物体形状から手指操作を想起する手法においては、想起された手指形状の深度情報(奥行き画像)が不明瞭な場合がある問題点がわかっているので、これの改良も試みる。
【ハンドロボットチーム】
昨年度は双腕ロボット上に物体ハンドリングプラットフォームを製作し、プロセスモデリングチームの手指操作アプローチの想起手法を使って目の前の物体のどの部分(パーツ)を掴んだら良いかを知り、実際に掴んで見せることに成功した。今年度はハンド指の各関節をどのように動かしてつかむかを想起することを検討する。昨年度最後の予備実験において、ハンドの深度画像とそのときのモーターコマンド(関節角度指示値)の関係を機械学習によって回帰させることにある程度成功したので、これを応用して、物体形状だけから想起された手指操作の深度画像(ただし人間の手)からロボットのハンドのモーターコマンドに転写することを検討する。これによりハサミのような単純な操作を実演することを目標とする。

  • 研究成果

    (23件)

すべて 2016 2015

すべて 学会発表 (23件) (うち国際学会 11件)

  • [学会発表] "3-Dシーン観察に基づく手と物体の関係性の学習と把持パタンの想起"2016

    • 著者名/発表者名
      川上 拓也, 松尾 直志, 小川 陽子, 島田 伸敬
    • 学会等名
      電子情報通信学会2016年総合大会, ISS-SP-195
    • 発表場所
      九州大学 伊都キャンパス (福岡県福岡市)
    • 年月日
      2016-03-16
  • [学会発表] "結紮手技訓練システムのための荷重計測方法の提案",2016

    • 著者名/発表者名
      横田 加保子, 松尾 直志, 小川 陽子, 島田 伸敬
    • 学会等名
      電子情報通信学会2016年総合大会, ISS-SP-249
    • 発表場所
      九州大学 伊都キャンパス(福岡県福岡市)
    • 年月日
      2016-03-16
  • [学会発表] "Construction of Latent Descriptor Space of Hand-Object Interaction"2016

    • 著者名/発表者名
      Tadashi Matsuo, Nobutaka Shimada
    • 学会等名
      The 22nd Joint Workshop on Frontiers of Computer Vision (FCV2016)
    • 発表場所
      Hida Hotel Plaza, (岐阜県高山市)
    • 年月日
      2016-02-17
    • 国際学会
  • [学会発表] Human Observation-Based Calibration of Multiple RGB-D Cameras for Intelligent Space2015

    • 著者名/発表者名
      Ryo Takeuchi, Hirotake Yamazoe, Joo-Ho Lee,
    • 学会等名
      2015IEEE/SICE International Symposium on System Integration(SII2015)
    • 発表場所
      名城大学 (愛知県 名古屋市)
    • 年月日
      2015-12-12
    • 国際学会
  • [学会発表] Natural Behavior based Teleoperation for Dual Robot Manipulators Mounted on a Wheelchair2015

    • 著者名/発表者名
      Tomoyuki Miyoshi, Hirotake Yamazoe, Joo-Ho Lee,
    • 学会等名
      2015IEEE/SICE International Symposium on System Integration (SII2015)
    • 発表場所
      名城大学 (愛知県 名古屋市)
    • 年月日
      2015-12-12
    • 国際学会
  • [学会発表] Methods to resolve memory issue in surgical phase detection system using soft and hard clustering techniques”2015

    • 著者名/発表者名
      Dinh Tuan Tran, Ryuhei Sakurai, Hirotake Yamazoe, Joo-Ho Lee
    • 学会等名
      The 11th joint Workshop on Machine Perception and Robotics (MPR2015),
    • 発表場所
      Kyushu University, JR HAKATA CITY Conference Rooms(福岡県福岡市)
    • 年月日
      2015-11-26
    • 国際学会
  • [学会発表] A competitive and cooperative humanoid software developing scheme LoE and its improvements2015

    • 著者名/発表者名
      Joo-Ho Lee, Dmitry Yakushin, Francisco Renteria, Koji Nakata, Akifumi Sugano, Kohei Morita, Hirotake Yamazoe
    • 学会等名
      015 IEEE-RAS 15th International Conference on Humanoid Robots (Humanoids2015
    • 発表場所
      Seoul(Korea)
    • 年月日
      2015-11-05
    • 国際学会
  • [学会発表] マルチカメラ画像を利用した手術ワークフローにおけるフェイズ推定に関する研究2015

    • 著者名/発表者名
      チャン トゥアン ディン, 櫻井 隆平, 山添 大丈, 李 周浩
    • 学会等名
      第3回看護理工学会学術集会
    • 発表場所
      立命館大学 朱雀キャンパス(京都府京都市)
    • 年月日
      2015-10-11
  • [学会発表] "リハビリテーションの定量的評価のための親指先可動範囲の3次元計測 Measurement of 3-D Workspace of Thumb Tip with RGB-D Sensor for Quantitative Rehabilitation"2015

    • 著者名/発表者名
      島田 伸敬,松尾 直志
    • 学会等名
      第3回看護理工学会学
    • 発表場所
      立命館大学 朱雀キャンパス(京都府中京区)
    • 年月日
      2015-10-10
  • [学会発表] "結紮訓練時の結紮対象にかかる負荷力計測方法の検討 Measurement of Strain by Ligation for Training of Surgical Operation",2015

    • 著者名/発表者名
      小川 陽子,横田 加保子,松尾 直志,島田 伸敬,白井 良明 ,来見 良誠,小森 優
    • 学会等名
      第3回看護理工学会学術集会プログラム
    • 発表場所
      立命館大学 朱雀キャンパス(京都府中京区)
    • 年月日
      2015-10-10
    • 国際学会
  • [学会発表] Automatic Surgical Phase Detection using Latent Dirichlet Allocation and Hidden Markov Model2015

    • 著者名/発表者名
      Dinh Tuan Tran, Ryuhei Sakurai, Hirotake Yamazoe, Joo-Ho Lee
    • 学会等名
      Automatic Surgical Phase Detection using Latent Dirichlet Allocation and Hidden Markov Model
    • 発表場所
      Dalian(China)
    • 年月日
      2015-09-19
    • 国際学会
  • [学会発表] An improvement of surgical phase detection using Latent Dirichlet Allocation and Hidden Markov Model2015

    • 著者名/発表者名
      Dinh Tuan Tran, Ryuhei Sakurai, Joo-Ho Lee
    • 学会等名
      Innovation in Medicine and Healthcare 2015 (InMed-15),
    • 発表場所
      立命館大学 朱雀キャンパス(京都府京都市)
    • 年月日
      2015-09-12
    • 国際学会
  • [学会発表] "Measurement of 3-D Workspace of Thumb Tip with RGB-D Sensor for Quantitative Rehabilitation"2015

    • 著者名/発表者名
      Tadashi Matsuo, Nobutaka Shimada
    • 学会等名
      Innovation in Medicine and Healthcare 2015, Systems and Technologies,
    • 発表場所
      立命館大学 朱雀キャンパス(京都府中京区)
    • 年月日
      2015-09-11
    • 国際学会
  • [学会発表] "Validation of Knot-Tying Motion by Temporal-Spatial Matching with RGB-D Sensor for Surgical Training"2015

    • 著者名/発表者名
      Yoko Ogawa, Nobutaka Shimada, Yoshiaki Shirai , Yoshimasa Kurumi, Masaru Komori
    • 学会等名
      Innovation in Medicine and Healthcare 2015, Systems and Technologies,
    • 発表場所
      立命館大学 朱雀キャンパス(京都府中京区)
    • 年月日
      2015-09-11
    • 国際学会
  • [学会発表] "階層型イベント検知に基づく人と物の関わりのロギングシステム"2015

    • 著者名/発表者名
      川本 祥悟, 池上 貴之, 川北 真也, 寺西 研翔, 島田 伸敬
    • 学会等名
      第18回画像の認識・理解シンポジウム(MIRU2015)
    • 発表場所
      ホテル阪急エキスポパーク(大阪府吹田市)
    • 年月日
      2015-07-30
  • [学会発表] "手術プロセスに基づくVR腹腔鏡下手術訓練時の熟練者・初心者のアイハンドコーディネーション分析2015

    • 著者名/発表者名
      丸谷 宜史, 島田 伸敬, 田中 弘美, 小森 優, 来見 良誠, 森川 茂廣
    • 学会等名
      第18回画像の認識・理解シンポジウム(MIRU2015)
    • 発表場所
      ホテル阪急エキスポパーク(大阪府吹田市)
    • 年月日
      2015-07-29
  • [学会発表] "Temporal-Spatial Validation of Knot-Tying Procedures Using RGB-D Sensor for Training of Surgical Operation2015

    • 著者名/発表者名
      Yoko Ogawa, Nobutaka Shimada, Yoshiaki Shirai
    • 学会等名
      IAPR International Conference on Machine Vision Applications (MVA2015)
    • 発表場所
      日本科学未来館(東京都江東区)
    • 年月日
      2015-05-20
    • 国際学会
  • [学会発表] "ハンドアームと自律走行車の連携による冷蔵庫への横付けと開扉動作の実装"2015

    • 著者名/発表者名
      八塚 達哉, 西田 昴, 小川 陽子, 島田 伸敬
    • 学会等名
      ロボティクス・メカトロニクス講演会2015
    • 発表場所
      京都市勧業館「みやこめっせ」(京都府京都市)
    • 年月日
      2015-05-19
  • [学会発表] "パートナーロボットのための人物位置マッピングおよび発話センシングシステムの製作"2015

    • 著者名/発表者名
      島田 伸敬, 平井 裕麻, 上間 圭祐
    • 学会等名
      ロボティクス・メカトロニクス講演会2015
    • 発表場所
      京都市勧業館「みやこめっせ」(京都府京都市)
    • 年月日
      2015-05-19
  • [学会発表] "人間行動に基づく室内シーンロギングシステムのためのネットワーク指向型センサ/ディスプレイ基盤"2015

    • 著者名/発表者名
      池上 貴之, 島田 伸敬
    • 学会等名
      ロボティクス・メカトロニクス講演会2015
    • 発表場所
      京都市勧業館「みやこめっせ」(京都府京都市)
    • 年月日
      2015-05-18
  • [学会発表] "人の行動をキーにした室内シーンロギングおよび検索インタフェース"2015

    • 著者名/発表者名
      寺西 研翔, 川本 祥悟, 池上 貴之, 川北 真也, 島田 伸敬
    • 学会等名
      ロボティクス・メカトロニクス講演会2015
    • 発表場所
      京都市勧業館「みやこめっせ」(京都府京都市)
    • 年月日
      2015-05-18
  • [学会発表] "人物による物体移動の追跡を利用した物体アスペクトのモデリング"2015

    • 著者名/発表者名
      川北 真也, 島田 伸敬
    • 学会等名
      ロボティクス・メカトロニクス講演会2015
    • 発表場所
      京都市勧業館「みやこめっせ」(京都府京都市)
    • 年月日
      2015-05-18
  • [学会発表] "手指リハビリテーションのためのRGB-Dセンサーを用いた手の3D姿勢推定"2015

    • 著者名/発表者名
      松尾 直志, 島田 伸敬
    • 学会等名
      ロボティクス・メカトロニクス講演会2015
    • 発表場所
      京都市勧業館「みやこめっせ」(京都府京都市)
    • 年月日
      2015-05-18

URL: 

公開日: 2017-01-06  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi