• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2021 Fiscal Year Research-status Report

指使いの視触覚統合モデルによる柔軟物の加工作業-ハンド表面の分布荷重の統合-

Research Project

Project/Area Number 21K12080
Research InstitutionRitsumeikan University

Principal Investigator

島田 伸敬  立命館大学, 情報理工学部, 教授 (10294034)

Co-Investigator(Kenkyū-buntansha) 松尾 直志  立命館大学, 情報理工学部, 助教 (80449545)
平井 慎一  立命館大学, 理工学部, 教授 (90212167)
Project Period (FY) 2021-04-01 – 2024-03-31
Keywords把持動作 / 視触覚統合 / プロセスモデリング / 深層学習
Outline of Annual Research Achievements

具体的な柔らかい把持対象として、「番重(ケース)に山積されている粒状食材(ねぎ、コーン等の惣菜食材)」を研究連携先の食品メーカの協力を得て選択した。研究分担者の開発しているシリコン製ソフトハンドとスカラーロボットから構成される把持ロボットが番重のどの位置にどの深さで挿入すれば所望の重量を正確に把持できるかを、RGBD画像から推論して出力する領域提案型深層ネットワークによる回帰モデルの学習によって実現する手法を提案した。山積み食材の把持は破壊型の試行であるため同一対象に異なるロボット操作を繰り返すことができないが、新たに確率モデルに基づく回帰型の損失関数を考案することにより解決を試みた。重量推定はメーカの目標である 10%程度の誤差を実現できたが、予測誤差の推定精度がチャンスレベル以下であることが課題となった。

先行の科研研究課題であった基盤研究Bの成果を引き継ぎ、 巨視的・微視的時間スケールを内包した階層型視触覚統合プロセスモデルの実装に向けて実験用ロボットプラットフォームの構築に取り掛かった。購入したロボットアームのグリッパに微視的スケール計測用に研究分担者の開発している3軸触覚センサを取り付け、巨視的スケール計測用のRGBDセンサと組み合わせて、Docker仮想環境上のROSミドルウェアにより統合プラットフォームを構成した。これにより複数の画像認識深層モデルを分散GPU環境で稼働させ、把持対象の物体検出及び巨視的変形の観測、人の手指による詳細な把持動作の同期的計測が行えるようになった。また3指ハンドの制御並びにモータートルクのリアルタイム計測をROSで行うフレームワークについても実装を行った。

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

実験用の視触覚統合ロボットプラットフォームをROSベースで疎結合モデルとして構築できたことにより、視覚や触覚の知覚処理モジュールを随時最先端のモデルに改良しつつ今後の研究を進めることができる。特に視触覚の各モーダルごとにセンシング周期が著しく相違する(視覚30Hz、触覚300Hz)ことが視触覚統合で最も取り扱いに注意を要するところ、ROSを用いることで座標変換を含めて自然に同期を実現することができることが大きなメリットである。
触覚センサをマトリクス配置することによる分布荷重センサ化することがセンサ開発のスケジュール上間に合わなかったが、次年度中に目処をつけたいと考える。

Strategy for Future Research Activity

粒状食材の把持位置提案および所定の重量把持のためのロボット操作量(差し込み深さ)の生成において、線形回帰モデルにおける加法的誤差の確率モデルに基づく損失関数の設計を見直すことで、同一状況に対して1回の把持行動と把持重量の教師信号しか得られない場合でも、食材のRGBD入力画像特徴から個別の提案領域ごとの回帰誤差を予測する手法について研究を進める。
前年度に製作した視触覚統合ロボットプラットフォームを用いて、ゴム毬やビーズクッションのような粘弾性・弾塑性の顕著な物体を把持し、また紙のような薄いものをハンドの指先でも滑らせながらめくる動作をさせ、巨視的及び微視的スケールにおける観測データの収集を時間同期を重視して行う。これを用いて深層モデルを適用してプロセスモデルが構築できるか検討を行う。
道具のような固形物の機能を発現するのに適した把持部位の検出と手指把持パターンの想起について、先行の科研課題を引き継いで道具物体のパーツ形状に着目したモデリング、及び類似形状のパーツを共有する道具の把持パターンを汎化的に想起する能力を持たせるための深層モデルについて研究を進める。

Causes of Carryover

科研以外で獲得した他の関連研究予算を用いて主にロボットプラットフォーム機材と深層学習向けのGPU計算リソースの整備ができたため、これを用いて本課題を予定通りに遂行した。計画していた今年度の本課題予算は6割ほどを次年度に繰越して執行し、視触覚統合のためのロボットプラットフォーム部材、ROS/Docker上の分散計算モジュール深層モデルへの追加計算リソースを整備する予定である。

  • Research Products

    (15 results)

All 2022 2021

All Journal Article (4 results) (of which Peer Reviewed: 4 results) Presentation (11 results) (of which Int'l Joint Research: 4 results)

  • [Journal Article] Challenges and Opportunities in Robotic Food Handling: A Review2022

    • Author(s)
      Wang Zhongkui、Hirai Shinichi、Kawamura Sadao
    • Journal Title

      Frontiers in Robotics and AI

      Volume: 8 Pages: -

    • DOI

      10.3389/frobt.2021.789107

    • Peer Reviewed
  • [Journal Article] Recalling of multiple grasping methods from an object image with a convolutional neural network2021

    • Author(s)
      Sanada Makoto、Matsuo Tadashi、Shimada Nobutaka、Shirai Yoshiaki
    • Journal Title

      ROBOMECH Journal

      Volume: 8 Pages: -

    • DOI

      10.1186/s40648-021-00206-4

    • Peer Reviewed
  • [Journal Article] Semiotically adaptive cognition: toward the realization of remotely-operated service robots for the new normal symbiotic society2021

    • Author(s)
      Taniguchi Tadahiro、El Hafi Lotfi、Hagiwara Yoshinobu、Taniguchi Akira、Shimada Nobutaka、Nishiura Takanobu
    • Journal Title

      Advanced Robotics

      Volume: 35 Pages: 664~674

    • DOI

      10.1080/01691864.2021.1928552

    • Peer Reviewed
  • [Journal Article] A Soft Needle Gripper Capable of Grasping and Piercing for Handling Food Materials2021

    • Author(s)
      Wang Zhongkui、Ritsumeikan University 1-1-1 Noji-higashi, Kusatsu, Shiga 525-8577, Japan、Makiyama Yui、Hirai Shinichi
    • Journal Title

      Journal of Robotics and Mechatronics

      Volume: 33 Pages: 935~943

    • DOI

      10.20965/jrm.2021.p0935

    • Peer Reviewed
  • [Presentation] ロボットの応答性がユーザーの印象に与える影響2022

    • Author(s)
      小林 巧人, 島田 伸敬
    • Organizer
      2022年電子情報通信学会総合大会
  • [Presentation] 形状を指し示すジェスチャに基づく物体画像検索システム2022

    • Author(s)
      阿佐美 諒,渡邉 徹也, 島田 伸敬, 松尾 直志
    • Organizer
      2022年電子情報通信学会総合大会
  • [Presentation] 時空間特徴融合による映像からの手話翻訳2022

    • Author(s)
      Te ZHANG・島田伸敬
    • Organizer
      2022年電子情報通信学会総合大会
  • [Presentation] Generative Adversarial Network for Text-to-Face Synthesis and Manipulation with Pretrained BERT Model2021

    • Author(s)
      Yutong Zhou and Nobutaka Shimada
    • Organizer
      IEEE International Conference on Automatic Face and Gesture Recognition 2021 (FG2021)
    • Int'l Joint Research
  • [Presentation] Scene Descriptor Expressing Ambiguity in Information Recovery Based on Incomplete Partial Observation2021

    • Author(s)
      Takaaki FUKUI, Tadashi MATSUO and Nobutaka SHIMADA
    • Organizer
      2021 IEEE/RSJ International Conference on Intelligent Robots and Systems, (IROS2021)
    • Int'l Joint Research
  • [Presentation] ROS2-based Distributed System Implementation for Logging Indoor Human Activities2021

    • Author(s)
      Kyohei Yoshida, Tadashi Matsuo, Nobutaka Shimada
    • Organizer
      International Conference on Intelligent Computing (ICIC2021)
    • Int'l Joint Research
  • [Presentation] Non-tactile Thumb Tip Measurement System for Encouraging Rehabilitation After Surgery2021

    • Author(s)
      Erika Aoki, Tadashi Matsuo, Nobutaka Shimada
    • Organizer
      International Conference on Intelligent Computing (ICIC2021)
    • Int'l Joint Research
  • [Presentation] Generative Adversarial Network for Text-to-Face Synthesis and Manipulation with Pretrained BERT Model2021

    • Author(s)
      Yutong Zhou, Nobutaka Shimada
    • Organizer
      第24回画像の認識・理解シンポジウム(MIRU2021)
  • [Presentation] ROS2 を用いた室内シーン変遷ロギングシステムの実装2021

    • Author(s)
      吉田享平、島田伸敬、松尾直志
    • Organizer
      ロボティクス・メカトロニクス 講演会 2021
  • [Presentation] 食品バラ積みピッキングのためのロボットシステム2021

    • Author(s)
      尾山 颯太, 王 忠奎, 鐘江 崚, 平井 慎一
    • Organizer
      ロボティクス・メカトロニクス講演会 2021
  • [Presentation] フードロボットチャレンジの試み2021

    • Author(s)
      平井 慎一, 松野 孝博, 王 忠奎, 西田 賢生, 古田 晴規, 盛影 大樹, 宮越 陸矢, 名手 一生, 草薙 真之介, 青山 大樹, 村岡 泉
    • Organizer
      第39回日本ロボット学会学術講演会(RSJ2021)

URL: 

Published: 2022-12-28  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi