• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to previous page

ロボットの実世界インタラクションによる動的な三次元計測・三次元モデル生成

Research Project

Project/Area Number 21K14130
Research Category

Grant-in-Aid for Early-Career Scientists

Allocation TypeMulti-year Fund
Review Section Basic Section 20020:Robotics and intelligent system-related
Research InstitutionTohoku University (2023)
Waseda University (2021-2022)

Principal Investigator

千葉 直也  東北大学, 情報科学研究科, 助教 (70890185)

Project Period (FY) 2021-04-01 – 2026-03-31
Project Status Granted (Fiscal Year 2023)
Budget Amount *help
¥4,680,000 (Direct Cost: ¥3,600,000、Indirect Cost: ¥1,080,000)
Fiscal Year 2025: ¥910,000 (Direct Cost: ¥700,000、Indirect Cost: ¥210,000)
Fiscal Year 2024: ¥780,000 (Direct Cost: ¥600,000、Indirect Cost: ¥180,000)
Fiscal Year 2023: ¥780,000 (Direct Cost: ¥600,000、Indirect Cost: ¥180,000)
Fiscal Year 2022: ¥1,040,000 (Direct Cost: ¥800,000、Indirect Cost: ¥240,000)
Fiscal Year 2021: ¥1,170,000 (Direct Cost: ¥900,000、Indirect Cost: ¥270,000)
KeywordsImplicit Function / 点群深層学習 / 三次元データ処理 / ハンドリング / 三次元計測
Outline of Research at the Start

本研究は動的な三次元計測・三次元データ処理の統合による三次元認識手法の開発を目指す.二次元画像で深層学習が大きな成功を収めたように,三次元データを用いるアプリケーションにおいても深層学習の適用が期待されており,ここ数年のうちに数多くの手法が発表されている.本研究提案は三次元データを実ロボットで活用する上で課題となる,三次元センサで生じる隠れ・インスタンス識別の困難さに対して,不確かさと複数物体を考慮した深層Implicit Functionと動的な計測・操作によって解決を試みるものである.

Outline of Annual Research Achievements

本研究は物体のハンドリングに必要なシーン理解と,シーン理解のために必要な観測・動作計画に取り組むものである.今年度はImplicit Functionによるシーン記述として,物体の力学的パラメータと紐づけた形式で生成モデルとなるようにDeepSDFを拡張し,表面モデルによるシーン記述の方法に関する知見を深めた.特に空間解像度の高い形状に対するPositional Encodingの応用,リプシッツ正則化の導入による滑らかな形状補間の実現を試みた.この研究内容は大規模な合成データに対して物理特性と形状の対応関係を学習する研究に派生し,論文を現在投稿中である.
また,観測からの不確実性マップの推定については,NeRFにランダムな潜在ベクトルを導入するというアプローチでモデル化を行っている.この成果は国内学会で発表済みである.
また,ロボットの軌道生成において環境理解を行うための手法として,自発的なインタラクションを目指しており,ロボットの軌道から環境の状態を予測するタスクについての研究を進め,論文を投稿した.
加えて剛体変換に限らない形状のハンドリングについて,点群の被剛体位置合わせにも取り組んでいる.シーン間でのマッチングを行うことで物体の形状変形を推定することができることを示しており,また,マッチングに関する教師なしでの学習できることを検証した.このアプリケーションの実現ために点群の対応に関する二部グラフ自体を入力として学習するための枠組みを提案しており,この成果についても論文投稿中である.

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

シーン記述に関する方法と再構成手法については概ね完了しており,派生した研究テーマとして三次元形状記述や生成に関する応用に優先的に取り組んで一定の成果を得ることができている.また,NeRFをベースにした不確実性のモデリングには着手し一定の結果を得たが,この不確実性を用いて動作生成する部分についてはやや遅れている.

Strategy for Future Research Activity

不確実性に関するモデル化を進め,空間的に不確実性を配置・未知部分を想定したハンドリングを行う戦略の設定を優先的に進める.二次元上での不確実マップの生成まではある程度実現しているため,例えばSegment Anything in 3D with NeRFsのようなアプローチでセマンティクスと紐づけつつ3Dに転写することを目指す.

Report

(3 results)
  • 2023 Research-status Report
  • 2022 Research-status Report
  • 2021 Research-status Report
  • Research Products

    (23 results)

All 2024 2023 2022

All Journal Article (7 results) (of which Peer Reviewed: 5 results,  Open Access: 6 results) Presentation (13 results) (of which Int'l Joint Research: 1 results,  Invited: 2 results) Book (3 results)

  • [Journal Article] Neural Structure Fields with Application to Crystal Structure Autoencoders2023

    • Author(s)
      Naoya Chiba,Yuta Suzuki,Tatsunori Taniai,Ryo Igarashi,Yoshitaka Ushiku,Kotaro Saito,Kanta Ono
    • Journal Title

      Communications Materials

      Volume: 4 Issue: 1 Pages: 1-1

    • DOI

      10.1038/s43246-023-00432-w

    • Related Report
      2023 Research-status Report
    • Peer Reviewed / Open Access
  • [Journal Article] Multi-Timestep-Ahead Prediction with Mixture of Experts for Embodied Question Answering2023

    • Author(s)
      Kanata Suzuki,Yuya Kamiwano,Naoya Chiba,Hiroki Mori,Tetsuya Ogata
    • Journal Title

      Proceedings of 32nd International Conference on Artificial Neural Networks

      Volume: - Pages: 243-255

    • DOI

      10.1007/978-3-031-44223-0_20

    • ISBN
      9783031442223, 9783031442230
    • Related Report
      2023 Research-status Report
    • Peer Reviewed / Open Access
  • [Journal Article] Reference-based Dense Pose Estimation via Partial 3D Point Cloud Matching2023

    • Author(s)
      Rintaro Yanagi, Atsushi Hashimoto, Naoya Chiba, Yoshitaka Ushiku
    • Journal Title

      Proceedings of 31st ACM International Conference on Multimedia

      Volume: - Pages: 9411-9413

    • DOI

      10.1145/3581783.3612679

    • Related Report
      2023 Research-status Report
    • Peer Reviewed / Open Access
  • [Journal Article] A Transformer Model for Symbolic Regression towards Scientific Discovery.2023

    • Author(s)
      Florian Lalande, Yoshitomo Matsubara, Naoya Chiba, Tatsunori Taniai, Ryo Igarashi, Yoshitaka Ushiku
    • Journal Title

      Proceedings of 2023 Conference on Neural Information Processing Systems Workshop: AI4Science

      Volume: -

    • Related Report
      2023 Research-status Report
    • Peer Reviewed / Open Access
  • [Journal Article] WeaveNet for Approximating Two-sided Matching Problems.2023

    • Author(s)
      Shusaku Sone, Jiaxin Ma, Atsushi Hashimoto, Naoya Chiba, Yoshitaka Ushiku
    • Journal Title

      arXiv

      Volume: -

    • Related Report
      2023 Research-status Report
    • Open Access
  • [Journal Article] NeuralLabeling: A versatile toolset for labeling vision datasets using Neural Radiance Fields.2023

    • Author(s)
      Floris Erich, Naoya Chiba, Yusuke Yoshiyasu, Noriaki Ando, Ryo Hanai, Yukiyasu Domae
    • Journal Title

      arXiv

      Volume: -

    • Related Report
      2023 Research-status Report
    • Open Access
  • [Journal Article] Generating long-horizon task actions by leveraging predictions of environmental states2023

    • Author(s)
      Hiroto Iino, Kei Kase, Ryoichi Nakajo, Naoya Chiba, Hiroki Mori, Tetsuya Ogata
    • Journal Title

      The 2024 16th IEEE/SICE International Symposium on System Integration

      Volume: -

    • Related Report
      2023 Research-status Report
    • Peer Reviewed
  • [Presentation] Generating long-horizon task actions by leveraging predictions of environmental states2024

    • Author(s)
      Hiroto Iino, Kei Kase, Ryoichi Nakajo, Naoya Chiba, Hiroki Mori, Tetsuya Ogata
    • Organizer
      IEEE/SICE International Symposium on System Integration
    • Related Report
      2023 Research-status Report
  • [Presentation] GANsの潜在空間を用いた多自由度ロボット最適軌道計画の高速化のための最適化アルゴリズムの比較2023

    • Author(s)
      飯野寛人,千葉直也,森裕紀,尾形哲也
    • Organizer
      ロボティクス・メカトロニクス講演会 (ROBOMECH) 2023
    • Related Report
      2023 Research-status Report
  • [Presentation] 混合エキスパートによる複数先視野予測モジュールを用いたEmbodied Question Answeringタスクの学習2023

    • Author(s)
      上和野雄也,鈴木彼方,千葉直也,森裕紀,尾形哲也
    • Organizer
      ロボティクス・メカトロニクス講演会 (ROBOMECH) 2023
    • Related Report
      2023 Research-status Report
  • [Presentation] Fast Learning of Reciprocally Constrained Fields for Density and Distance2023

    • Author(s)
      Itsuki Ueda, Naoya Chiba, Hirokatsu Kataoka, Hiroaki Aizawa, Itaru Kitahara
    • Organizer
      画像の認識・理解シンポジウム (MIRU) 2023
    • Related Report
      2023 Research-status Report
  • [Presentation] 特徴折込みモデルを導入した三次元点群マッチングに基づく密な姿勢推定システム2023

    • Author(s)
      柳凜太郎,橋本敦史,千葉直也,牛久祥孝
    • Organizer
      画像の認識・理解シンポジウム (MIRU) 2023
    • Related Report
      2023 Research-status Report
  • [Presentation] カメラパラメータの誤差を考慮したマニピュレータの動作計画2023

    • Author(s)
      柴山千冬,鏡慎吾,千葉直也,橋本浩一
    • Organizer
      第41回日本ロボット学会学術講演会 (RSJ) 2023
    • Related Report
      2023 Research-status Report
  • [Presentation] SenLane: a road lane instance segmentation dataset captured during snowy conditions2023

    • Author(s)
      Wenbin Wang, Naoya Chiba, Haichuan Yang, Koichi Hashimoto
    • Organizer
      第41回日本ロボット学会学術講演会 (RSJ) 2023
    • Related Report
      2023 Research-status Report
  • [Presentation] 3D シーン認識のための NeRF による不確実性の評価2023

    • Author(s)
      伊藤大介,千葉直也,加瀬敬唯,中條亨一,森裕紀,尾形哲也
    • Organizer
      第24回計測自動制御学会システムインテグレーション部門講演会 (SICE SI) 2023
    • Related Report
      2023 Research-status Report
  • [Presentation] 3D Data Processing with Deep Learning2023

    • Author(s)
      Naoya Chiba
    • Organizer
      HeKKSaGOn AI Symposium
    • Related Report
      2023 Research-status Report
    • Int'l Joint Research / Invited
  • [Presentation] 3Dデータを扱うニューラルネットワークの紹介2023

    • Author(s)
      千葉直也
    • Organizer
      第1回3次元医療AI研究会
    • Related Report
      2023 Research-status Report
    • Invited
  • [Presentation] Multi-Timestep-Ahead Prediction with Mixture of Experts for Embodied Question Answering2023

    • Author(s)
      Kanata Suzuki,Yuya Kamiwano,Naoya Chiba,Hiroki Mori,Tetsuya Ogata
    • Organizer
      International Conference on Artificial Neural Networks
    • Related Report
      2023 Research-status Report
  • [Presentation] Reference-based Dense Pose Estimation via Partial 3D Point Cloud Matching2023

    • Author(s)
      Rintaro Yanagi, Atsushi Hashimoto, Naoya Chiba, Yoshitaka Ushiku
    • Organizer
      ACM International Conference on Multimedia
    • Related Report
      2023 Research-status Report
  • [Presentation] A Transformer Model for Symbolic Regression towards Scientific Discovery.2023

    • Author(s)
      Florian Lalande, Yoshitomo Matsubara, Naoya Chiba, Tatsunori Taniai, Ryo Igarashi, Yoshitaka Ushiku
    • Organizer
      Conference on Neural Information Processing Systems Workshop: AI4Science
    • Related Report
      2023 Research-status Report
  • [Book] CVIMチュートリアル 2: 点群深層学習/ニューラル3次元復元/深層照度差ステレオ法/AutoML2024

    • Author(s)
      千葉 直也, 齋藤 隼介, 山藤 浩明, 菅沼 雅徳
    • Total Pages
      224
    • Publisher
      共立出版
    • Related Report
      2023 Research-status Report
  • [Book] 詳解 3次元点群処理 Pythonによる基礎アルゴリズムの実装2022

    • Author(s)
      金崎 朝子、秋月 秀一、千葉 直也
    • Total Pages
      192
    • Publisher
      講談社
    • ISBN
      9784065293430
    • Related Report
      2022 Research-status Report
  • [Book] コンピュータビジョン最前線 Winter 20222022

    • Author(s)
      井尻 善久、牛久 祥孝、片岡 裕雄、藤吉 弘亘
    • Total Pages
      150
    • Publisher
      共立出版
    • ISBN
      9784320125469
    • Related Report
      2022 Research-status Report

URL: 

Published: 2021-04-28   Modified: 2024-12-25  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi