• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 課題ページに戻る

2019 年度 実績報告書

指使いの視触覚統合プロセスモデリングに基づく硬軟物操りの創発型制御

研究課題

研究課題/領域番号 18H03313
研究機関立命館大学

研究代表者

島田 伸敬  立命館大学, 情報理工学部, 教授 (10294034)

研究分担者 野間 春生  立命館大学, 情報理工学部, 教授 (00374108)
李 周浩  立命館大学, 情報理工学部, 教授 (80366434)
松尾 直志  立命館大学, 情報理工学部, 助教 (80449545)
研究期間 (年度) 2018-04-01 – 2021-03-31
キーワードプロセスモデル / 多指ハンド / 視触覚統合 / 動作生成
研究実績の概要

一人称視点、具体的にはロボットの頭部に装着したRGBDセンサーで撮影した映像から操作物体にアクセスする手指の姿勢を推定することを想定して、RGBDセンサーを搭載したヘルメットを自作しそれを装着した被験者にカップやペン、ボールなどの物体を机上で操作したときの様子を画像データとして収集した。前年度改良した深層学習による骨格抽出モジュールを用いて一人称視点で手先以外が見切れている画像から手指の骨格情報を抽出し対応関係を学習することを試みたが、訓練サンプル数が限定的であったため過学習が生じ所定の性能が得られなかった。とくに隠れが生じる場合に訓練サンプルの不足が顕著であった。

シーン変遷ロギングシステムで収集した物体操作の様子を用いて、物体の形状(RGBD画像)と手指の姿勢の共起性をモデリングし、掴む場所が複数ある場合に、学習しながら自動的に複数の選択肢をクラスタリングしつつモデリングする深層モデルと損失関数を設計しハンドル付きコップについてハンドル位置や胴体、上部を掴む複数の掴み方を深度画像として想起できることを確かめた。この成果がRSJ/IEEE IROS2019国際会議に採録され口頭発表した。

手順(プロセス)として操作の系列をモデリングする手法を探求するため、色キューブを並べるタスクをグリップ付き6自由度アームを用意した。人が順に3つのキューブを並べる作業をロボットに見せるとその作業を再現させる実験を行った。掴む・移動する・離すなどの基本動作によって起きうるシーン画像の変化をCGシミュレーションによって再現し、現在のシーン状況と人の教示を照合して次に行うべき動作を生成する深層モデルを構成した。作業途中で状況を壊す邪魔をしても必要な動作を再現してゴールに到達できた。

現在までの達成度 (区分)
現在までの達成度 (区分)

3: やや遅れている

理由

3指ロボットハンドと6軸ロボットアームを連結しROSプラットフォームによって統合制御するソフトウェアの開発に時間がかかったことと、シミュレータによる動作プラニングのメーカー提供モジュールに不具合がありその原因究明に手間取ったため、3軸力センサーを指先に装着する実装に取りかかれなかった。そのため物体操作の視触覚統合モデリングの研究の進捗が遅れている。

今後の研究の推進方策

前年度に引き続き、箱を開けてものを入れる手順のプロセスモデリングの研究を進める。RGBD物体形状画像から把持手指姿勢を想起する課題について、共通のパーツをもつ異なる物体に対して外挿的に把持姿勢を想起できるか検討する。また前年度に開発した単一フレームのみの把持姿勢想起を拡張して、アプローチからグリップするまでの一連のシーケンスを想起するRNNモデルを考案し、局所的なシーン状況下で動的に把持動作をロボットに対して指示できるか検討する。

色キューブを並べるタスクを用いてプロセスとして操作の系列をモデリングする手法を探求する課題では、並べるだけでなく積み上げるなどゴール到達に作業の正しい順番が必要となる作業を設定し、そのような場合について動作シーケンスが正しく再生できるか、さらに途中で邪魔をしてシーンを壊したとき自動的に手戻りをして再びゴールに到達できるか、実機のロボットに操作させる実験を行う。

小型3軸力覚センサを前年度末に調達したハンド指先に装着してセンサーデータを制御PCから取り込めるように電子工作を施す。箱や柔らかい物体を実際に掴む動作をさせ、指先にかかっている力とその方向ならびに、物体に指先がどのくらい近接しているか、がうまく計測できるか、どのような観測値が得られるかを定量的に調べる。この時手指の三次元位置姿勢はモータ側のセンサ情報によりわかっているので、それを用いて空間中のどこにどの向きの反力があるのか、計算により求める手法を検討する。

  • 研究成果

    (17件)

すべて 2020 2019

すべて 雑誌論文 (1件) (うち査読あり 1件) 学会発表 (16件) (うち国際学会 8件)

  • [雑誌論文] Multi-Scale Affined-HOF and Dimension Selection for View-Unconstrained Action Recognition2020

    • 著者名/発表者名
      Dinh Tuan Tran, Hirotake Yamazoe, Joo-Ho Lee
    • 雑誌名

      Applied Intelligence

      巻: Vol.50 ページ: 1-19

    • DOI

      10.1007/s10489-019-01572-8

    • 査読あり
  • [学会発表] オペラブルリアリティ:棚内物体の仮想操作インタフェース2020

    • 著者名/発表者名
      野村 朋哉, 有本 光希, 松尾 直志, 島田 伸敬
    • 学会等名
      2020年電子情報通信学会総合大会
  • [学会発表] 包丁手技訓練を目的とした把持力信号の 自動ストローク切り出し手法の検討2020

    • 著者名/発表者名
      川田智晴, 岡田一志, 大井翔, 松村耕平, 寒川雅之, 野間春生
    • 学会等名
      インタラクション2020
  • [学会発表] Using Motion Compensation and Matrix Completion Algorithm to Remove Rain Streaks and Snow for Video Sequences2019

    • 著者名/発表者名
      Yutong Zhou, Nobutaka Shimada
    • 学会等名
      The 5th Asian Conference on Pattern Recognition (ACPR 2019)
    • 国際学会
  • [学会発表] A Feature Extraction Approach to Handle Variations in Camera Viewpoint for Computer Vision Tasks2019

    • 著者名/発表者名
      Dinh Tuan Tran, Hirotake Yamazoe, Nobutaka Shimada, Joo-Ho Lee
    • 学会等名
      The 15th Joint Workshop on Machine Perception and Robotics (MPR2019)
    • 国際学会
  • [学会発表] Discovery of Image Pixels Highly Contributing to CNN regression2019

    • 著者名/発表者名
      LI Yitian, SHIMADA Nobutaka
    • 学会等名
      The 15th Joint Workshop on Machine Perception and Robotics (MPR2019)
    • 国際学会
  • [学会発表] Detection of Unstable Objects by Using Deep Learning for Domestic Environment2019

    • 著者名/発表者名
      FUKUI Takaaki, SHIMADA Nobutaka, MATSUO Tadashi
    • 学会等名
      The 15th Joint Workshop on Machine Perception and Robotics (MPR2019)
    • 国際学会
  • [学会発表] Recalling Candidates of Grasping Method from an Object Image using Neural Network2019

    • 著者名/発表者名
      Makoto Sanada, Tadashi Matsuo, Nobutaka Shimada, Yoshiaki Shirai
    • 学会等名
      The 2019 IEEE/RSJ International Conference on Intelligent Robots and Systems (IROS 2019)
    • 国際学会
  • [学会発表] Analysis of robot's motion impressions for designing behaviors of home service robots2019

    • 著者名/発表者名
      Hirotake Yamazoe, Kenta Miki, Takuya Imazaike, Yume Matsushita, Jaemin Chun, Youngsun Kim, Joo-Ho Lee
    • 学会等名
      The 1st IFAC Workshop on Robot Control (WROCO 2019)
    • 国際学会
  • [学会発表] Human motion generation based on GAN toward unsupervised 3D human pose estimation2019

    • 著者名/発表者名
      Sasuke Yamane, Hirotake Yamazoe, Joo-Ho Lee
    • 学会等名
      The 5th Asian Conference on Pattern Recognition (ACPR 2019)
    • 国際学会
  • [学会発表] 受信者の状態に応じた部分情報を重畳するARゲームの提案2019

    • 著者名/発表者名
      河盛 真波, 島田 伸敬
    • 学会等名
      第24回バーチャルリアリティ学会大会(VRSJ2019)
  • [学会発表] Inferring Task Plans from Visual Demonstration with Recurrent Neural Networks2019

    • 著者名/発表者名
      Li Xi, Nobutaka Shimada
    • 学会等名
      第22回画像の認識・理解シンポジウム(MIRU2019)
  • [学会発表] Using Motion Compensation and Matrix Completion Algorithm to Remove Rain Streaks and Snow for Video Sequence2019

    • 著者名/発表者名
      Yutong Zhou, Nobutaka Shimada
    • 学会等名
      第22回画像の認識・理解シンポジウム(MIRU2019)
  • [学会発表] 力入力に対する剛体群の運動応答予測と静力学的構造安定性の推定2019

    • 著者名/発表者名
      福井 尚卿, 松尾 直志, 島田 伸敬
    • 学会等名
      ロボティクス・メカトロニクス講演会2019(ROBOMECH2019)
  • [学会発表] GANを用いた姿勢既知の教師データを必要としない3次元人物姿勢推定2019

    • 著者名/発表者名
      山根 佐介, 山添 大丈, 李 周浩
    • 学会等名
      第22回 画像の認識・理解シンポジウム (MIRU2019)
  • [学会発表] エラストマ封止カンチレバー型触覚センサの検出エリア評価2019

    • 著者名/発表者名
      阿部 由杜, 菅 史賢, 安部 隆, 野間 春生, 寒川 雅之
    • 学会等名
      第36回 センサ・マイクロマシンと応用システム
  • [学会発表] Gripping Force based Signature Verification Measured by Tactile Sensors2019

    • 著者名/発表者名
      Kazushi Okada, Sho Ooi,Kohei Matsumura, Haruo Noma
    • 学会等名
      IEEE World Haptics 2019
    • 国際学会

URL: 

公開日: 2021-01-27  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi