• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2020 Fiscal Year Annual Research Report

Emergent process modeling of fingering and hard-and-soft object handling based on visual-haptic fusion

Research Project

Project/Area Number 18H03313
Research InstitutionRitsumeikan University

Principal Investigator

島田 伸敬  立命館大学, 情報理工学部, 教授 (10294034)

Co-Investigator(Kenkyū-buntansha) 野間 春生  立命館大学, 情報理工学部, 教授 (00374108)
李 周浩  立命館大学, 情報理工学部, 教授 (80366434)
松尾 直志  立命館大学, 情報理工学部, 助教 (80449545)
Project Period (FY) 2018-04-01 – 2021-03-31
Keywords深層学習 / プロセスモデル / 把持パターン想起 / 視触覚統合
Outline of Annual Research Achievements

物体の形状(RGBD画像)と手指の姿勢の共起性をモデリングし、掴む場所が複数ある場合に学習しながら自動的に複数の選択肢をクラスタリングしつつモデリングする深層モデルについて引き続き研究を行った。把持パターンの種類を一定数に限定した上で把持パターンのクラスタリングと物体形状からの想起を実現するアーキテクチャについて提案をし、日本機械学会の英文誌Robomech Journalに論文採択された。その後、物体ごとの把持パターンは離散的に分類できない中間的なものも存在することから、それらを適切に表現できる記述子空間の自動生成能力を持った深層学習アーキテクチャについて検討を重ねた。これについては、継続する科研基盤C課題に引き継いで進めることとした。
小型3軸力覚センサを双腕ロボットのグリッパ先端に装着し、触覚センサーデータを制御PCから連続的に取り込むことのできるプラットフォームを制作した。ROSアーキテクチャ上に物体RGBD画像の取得及び深層学習モデル(YOLACT)を用いた物体検出を分散協調型に構成することによって、相互に実時間で連携しながら検出された3次元位置にグリッパを移動して物体把持ができるようにした。グリッパの先端の力覚センサの出力としての力ベクトルが物体座標系においてどの向きにどれだけの力で作用しているのかを画像による物体変形と連動する共起マルチモーダルデータとして取得できるようになった。しかし、その両方モーダルの共起性のモデリングには至らなかったので、引き続き継続課題である科研基盤Cに引き継いで進めることとした。

Research Progress Status

令和2年度が最終年度であるため、記入しない。

Strategy for Future Research Activity

令和2年度が最終年度であるため、記入しない。

  • Research Products

    (29 results)

All 2022 2021 2020

All Journal Article (3 results) (of which Peer Reviewed: 3 results) Presentation (26 results) (of which Int'l Joint Research: 9 results)

  • [Journal Article] Recalling of multiple grasping methods from an object image with a convolutional neural network2021

    • Author(s)
      Sanada Makoto、Matsuo Tadashi、Shimada Nobutaka、Shirai Yoshiaki
    • Journal Title

      ROBOMECH Journal

      Volume: 8 Pages: -

    • DOI

      10.1186/s40648-021-00206-4

    • Peer Reviewed
  • [Journal Article] Semiotically adaptive cognition: toward the realization of remotely-operated service robots for the new normal symbiotic society2021

    • Author(s)
      Taniguchi Tadahiro、El Hafi Lotfi、Hagiwara Yoshinobu、Taniguchi Akira、Shimada Nobutaka、Nishiura Takanobu
    • Journal Title

      Advanced Robotics

      Volume: 35 Pages: 664~674

    • DOI

      10.1080/01691864.2021.1928552

    • Peer Reviewed
  • [Journal Article] Rain Streaks and Snowflakes Removal for Video Sequences via Motion Compensation and Matrix Completion2020

    • Author(s)
      Zhou Yutong、Shimada Nobutaka
    • Journal Title

      SN Computer Science

      Volume: 1 Pages: -

    • DOI

      10.1007/s42979-020-00333-6

    • Peer Reviewed
  • [Presentation] MEMS 触覚センサを用いたフォークの把持力に基づく食材判別へのリザバーコンピューティングの応用2022

    • Author(s)
      坪倉 奏太, 安藤 潤人, 北野 勝則, 野間 春生, 寒川 雅之, 秋田 純一
    • Organizer
      ハプティクス研究委員会第28回研究会
  • [Presentation] Generative Adversarial Network for Text-to-Face Synthesis and Manipulation with Pretrained BERT Model2021

    • Author(s)
      Yutong Zhou and Nobutaka Shimada
    • Organizer
      IEEE International Conference on Automatic Face and Gesture Recognition 2021 (FG2021)
    • Int'l Joint Research
  • [Presentation] Scene Descriptor Expressing Ambiguity in Information Recovery Based on Incomplete Partial Observation2021

    • Author(s)
      Takaaki FUKUI, Tadashi MATSUO and Nobutaka SHIMADA
    • Organizer
      2021 IEEE/RSJ International Conference on Intelligent Robots and Systems (IROS2021)
    • Int'l Joint Research
  • [Presentation] ROS2-based Distributed System Implementation for Logging Indoor Human Activities2021

    • Author(s)
      Kyohei Yoshida, Tadashi Matsuo, Nobutaka Shimada
    • Organizer
      International Conference on Intelligent Computing (ICIC2021)
    • Int'l Joint Research
  • [Presentation] Non-tactile Thumb Tip Measurement System for Encouraging Rehabilitation After Surgery2021

    • Author(s)
      Erika Aoki, Tadashi Matsuo, Nobutaka Shimada
    • Organizer
      International Conference on Intelligent Computing (ICIC2021)
    • Int'l Joint Research
  • [Presentation] Generative Adversarial Network for Text-to-Face Synthesis and Manipulation with Pretrained BERT Model2021

    • Author(s)
      Yutong Zhou, Nobutaka Shimada
    • Organizer
      第24回画像の認識・理解シンポジウム(MIRU2021)
    • Int'l Joint Research
  • [Presentation] ROS2 を用いた室内シーン変遷ロギングシステムの実装2021

    • Author(s)
      吉田享平、島田伸敬、松尾直志
    • Organizer
      ロボティクス・メカトロニクス 講演会 2021
  • [Presentation] オペラブルリアリティのためのMRにおける収納家具の対話的取り込み2021

    • Author(s)
      前田 康佑, 野村 朋哉, 島田 伸敬, 松尾 直志
    • Organizer
      2021年電子情報通信学会総合大会
  • [Presentation] リハビリ支援のための拇指先端可動域計測および可視化アプリ2021

    • Author(s)
      青木 映里香, 島田 伸敬, 松尾 直志
    • Organizer
      2021年電子情報通信学会総合大会
  • [Presentation] 日常的な物体操作の自動記録と解析に基づく物体把持方法の想起2021

    • Author(s)
      有本 光希, 島田 伸敬, 松尾 直志
    • Organizer
      2021年電子情報通信学会総合大会
  • [Presentation] 不完全な部分観測情報に基づく情報復元の曖昧さを表現する状況記述子の提案2021

    • Author(s)
      福井 尚卿, 松尾 直志, 島田 伸敬
    • Organizer
      第225回コンピュータビジョンとイメージメディア研究発表会(CVIM225)
  • [Presentation] Spatial and Channel-wise Attention in Generative Adversarial Network for Text-to-Face Synthesis and Manipulation2021

    • Author(s)
      Yutong Zhou, Nobutaka Shimada
    • Organizer
      第225回コンピュータビジョンとイメージメディア研究発表会(CVIM225)
  • [Presentation] MEMS 触覚センサ向け機械学習のためのFPGA によるSNN パーセプトロン実装2021

    • Author(s)
      青木雅典, 土橋嬉真花,安藤潤人,寒川雅之,秋田純一,野間春生
    • Organizer
      第26回バーチャルリアリティ学会大会
  • [Presentation] 物理的・化学的耐久性を兼備するフッ素エラストマ積層コーティングPDMS封止カンチレバー型触覚センサ2021

    • Author(s)
      髙橋佑司,髙橋拓海,安部隆,野間春生,寒川雅之
    • Organizer
      第38回「センサ・マイクロマシンと応用システム」シンポジウム
  • [Presentation] Spatial and Channel-wise Attention in Generative Adversarial Networks for Text to Face Synthesis2020

    • Author(s)
      Yutong Zhou, Nobutaka Shimada
    • Organizer
      The 1st International Workshop on Intelligent Systems(IWIS 2020)
    • Int'l Joint Research
  • [Presentation] 不完全な観測情報に基づく 3D再構成の曖昧さを表現する空間形状記述子の提案2020

    • Author(s)
      福井 尚卿, 松尾 直志, 島田 伸敬
    • Organizer
      第21回計測自動制御学会システムインテグレーション部門講演会
  • [Presentation] 深層学習による失敗自動対応可能な人間の作業プロセスのモデル化2020

    • Author(s)
      チャン・ディン・トゥアン, 李周浩, 島田伸敬
    • Organizer
      ロボティクス・メカトロニクス講演会 2020(ROBOMECH 2020 in KANAZAWA)
  • [Presentation] リバビリテーションのための親指先端可動域の計測と可視化2020

    • Author(s)
      三宅雄大, 松尾直志, 島田伸敬
    • Organizer
      ロボティクス・メカトロニクス講演会 2020(ROBOMECH 2020 in KANAZAWA)
  • [Presentation] Pointing Direction Estimation for Attention Target Extraction Using Body-Mounted Camera2020

    • Author(s)
      Yusei Oozono, Hirotake Yamazoe, Joo-Ho Lee
    • Organizer
      2020 17TH INTERNATIONAL CONFERENCE ON UBIQUITOUS ROBOTS (UR)
    • Int'l Joint Research
  • [Presentation] Improvement of Passive Joint in Wearable Robot Arm2020

    • Author(s)
      Akimichi Kojima, Hirotake Yamazoe, Joo-Ho Lee
    • Organizer
      2020 17TH INTERNATIONAL CONFERENCE ON UBIQUITOUS ROBOTS (UR)
    • Int'l Joint Research
  • [Presentation] Emotion Estimation for Automatic Generation of 3D Avatar Motions Based on Dialog Texts2020

    • Author(s)
      Keita Kishima, Hirotake Yamazoe, Joo-Ho Lee
    • Organizer
      2020 17TH INTERNATIONAL CONFERENCE ON UBIQUITOUS ROBOTS (UR)
    • Int'l Joint Research
  • [Presentation] 介護練習用ロボットの為の表情による痛み再現システム2020

    • Author(s)
      梶山 主税、李 美蘭、山添 大丈、李 周浩
    • Organizer
      ロボティクス・メカトロニクス講演会 2020(ROBOMECH 2020 in KANAZAWA)
  • [Presentation] 知能化空間における人間の位置及び行動に基づく異常の検出2020

    • Author(s)
      小林 叶佳、山添 大丈、李 周浩
    • Organizer
      ロボティクス・メカトロニクス講演会 2020(ROBOMECH 2020 in KANAZAWA)
  • [Presentation] 介護練習用ロボットの為の表情による痛み再現システム2020

    • Author(s)
      梶山 主税, 山添 大丈, 李 周浩
    • Organizer
      第18回高齢社会デザイン(ASD)研究会
  • [Presentation] ドローンによる夜間警備のための赤外線カメラを用いた人間の行動認識2020

    • Author(s)
      今在家 拓哉, Tran Dinh, Tuan, 李 周浩
    • Organizer
      第21回計測自動制御学会システムインテグレーション部門講演会(SI2020)
  • [Presentation] 卓上作業支援ロボットにおけるジェスチャ操作の評価2020

    • Author(s)
      山本 凌司, チャン ディン トゥアン, 李 周浩
    • Organizer
      第21回計測自動制御学会システムインテグレーション部門講演会(SI2020)

URL: 

Published: 2022-12-28  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi