• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2023 Fiscal Year Research-status Report

ロボットの実世界インタラクションによる動的な三次元計測・三次元モデル生成

Research Project

Project/Area Number 21K14130
Research InstitutionTohoku University

Principal Investigator

千葉 直也  東北大学, 情報科学研究科, 助教 (70890185)

Project Period (FY) 2021-04-01 – 2026-03-31
KeywordsImplicit Function / 点群深層学習 / 三次元データ処理
Outline of Annual Research Achievements

本研究は物体のハンドリングに必要なシーン理解と,シーン理解のために必要な観測・動作計画に取り組むものである.今年度はImplicit Functionによるシーン記述として,物体の力学的パラメータと紐づけた形式で生成モデルとなるようにDeepSDFを拡張し,表面モデルによるシーン記述の方法に関する知見を深めた.特に空間解像度の高い形状に対するPositional Encodingの応用,リプシッツ正則化の導入による滑らかな形状補間の実現を試みた.この研究内容は大規模な合成データに対して物理特性と形状の対応関係を学習する研究に派生し,論文を現在投稿中である.
また,観測からの不確実性マップの推定については,NeRFにランダムな潜在ベクトルを導入するというアプローチでモデル化を行っている.この成果は国内学会で発表済みである.
また,ロボットの軌道生成において環境理解を行うための手法として,自発的なインタラクションを目指しており,ロボットの軌道から環境の状態を予測するタスクについての研究を進め,論文を投稿した.
加えて剛体変換に限らない形状のハンドリングについて,点群の被剛体位置合わせにも取り組んでいる.シーン間でのマッチングを行うことで物体の形状変形を推定することができることを示しており,また,マッチングに関する教師なしでの学習できることを検証した.このアプリケーションの実現ために点群の対応に関する二部グラフ自体を入力として学習するための枠組みを提案しており,この成果についても論文投稿中である.

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

シーン記述に関する方法と再構成手法については概ね完了しており,派生した研究テーマとして三次元形状記述や生成に関する応用に優先的に取り組んで一定の成果を得ることができている.また,NeRFをベースにした不確実性のモデリングには着手し一定の結果を得たが,この不確実性を用いて動作生成する部分についてはやや遅れている.

Strategy for Future Research Activity

不確実性に関するモデル化を進め,空間的に不確実性を配置・未知部分を想定したハンドリングを行う戦略の設定を優先的に進める.二次元上での不確実マップの生成まではある程度実現しているため,例えばSegment Anything in 3D with NeRFsのようなアプローチでセマンティクスと紐づけつつ3Dに転写することを目指す.

Causes of Carryover

計算機の購入,論文の出版や学会参加に関する予算として次年度以降使用を予定.

  • Research Products

    (21 results)

All 2024 2023

All Journal Article (7 results) (of which Peer Reviewed: 5 results,  Open Access: 6 results) Presentation (13 results) (of which Int'l Joint Research: 1 results,  Invited: 2 results) Book (1 results)

  • [Journal Article] Neural Structure Fields with Application to Crystal Structure Autoencoders2023

    • Author(s)
      Naoya Chiba,Yuta Suzuki,Tatsunori Taniai,Ryo Igarashi,Yoshitaka Ushiku,Kotaro Saito,Kanta Ono
    • Journal Title

      Communications Materials

      Volume: 4 Pages: 1

    • DOI

      10.1038/s43246-023-00432-w

    • Peer Reviewed / Open Access
  • [Journal Article] Multi-Timestep-Ahead Prediction with Mixture of Experts for Embodied Question Answering2023

    • Author(s)
      Kanata Suzuki,Yuya Kamiwano,Naoya Chiba,Hiroki Mori,Tetsuya Ogata
    • Journal Title

      Proceedings of 32nd International Conference on Artificial Neural Networks

      Volume: - Pages: -

    • DOI

      10.1007/978-3-031-44223-0_20

    • Peer Reviewed / Open Access
  • [Journal Article] Reference-based Dense Pose Estimation via Partial 3D Point Cloud Matching2023

    • Author(s)
      Rintaro Yanagi, Atsushi Hashimoto, Naoya Chiba, Yoshitaka Ushiku
    • Journal Title

      Proceedings of 31st ACM International Conference on Multimedia

      Volume: - Pages: -

    • DOI

      10.1145/3581783.3612679

    • Peer Reviewed / Open Access
  • [Journal Article] A Transformer Model for Symbolic Regression towards Scientific Discovery.2023

    • Author(s)
      Florian Lalande, Yoshitomo Matsubara, Naoya Chiba, Tatsunori Taniai, Ryo Igarashi, Yoshitaka Ushiku
    • Journal Title

      Proceedings of 2023 Conference on Neural Information Processing Systems Workshop: AI4Science

      Volume: - Pages: -

    • Peer Reviewed / Open Access
  • [Journal Article] WeaveNet for Approximating Two-sided Matching Problems.2023

    • Author(s)
      Shusaku Sone, Jiaxin Ma, Atsushi Hashimoto, Naoya Chiba, Yoshitaka Ushiku
    • Journal Title

      arXiv

      Volume: - Pages: -

    • Open Access
  • [Journal Article] NeuralLabeling: A versatile toolset for labeling vision datasets using Neural Radiance Fields.2023

    • Author(s)
      Floris Erich, Naoya Chiba, Yusuke Yoshiyasu, Noriaki Ando, Ryo Hanai, Yukiyasu Domae
    • Journal Title

      arXiv

      Volume: - Pages: -

    • Open Access
  • [Journal Article] Generating long-horizon task actions by leveraging predictions of environmental states2023

    • Author(s)
      Hiroto Iino, Kei Kase, Ryoichi Nakajo, Naoya Chiba, Hiroki Mori, Tetsuya Ogata
    • Journal Title

      The 2024 16th IEEE/SICE International Symposium on System Integration

      Volume: - Pages: -

    • Peer Reviewed
  • [Presentation] Generating long-horizon task actions by leveraging predictions of environmental states2024

    • Author(s)
      Hiroto Iino, Kei Kase, Ryoichi Nakajo, Naoya Chiba, Hiroki Mori, Tetsuya Ogata
    • Organizer
      IEEE/SICE International Symposium on System Integration
  • [Presentation] GANsの潜在空間を用いた多自由度ロボット最適軌道計画の高速化のための最適化アルゴリズムの比較2023

    • Author(s)
      飯野寛人,千葉直也,森裕紀,尾形哲也
    • Organizer
      ロボティクス・メカトロニクス講演会 (ROBOMECH) 2023
  • [Presentation] 混合エキスパートによる複数先視野予測モジュールを用いたEmbodied Question Answeringタスクの学習2023

    • Author(s)
      上和野雄也,鈴木彼方,千葉直也,森裕紀,尾形哲也
    • Organizer
      ロボティクス・メカトロニクス講演会 (ROBOMECH) 2023
  • [Presentation] Fast Learning of Reciprocally Constrained Fields for Density and Distance2023

    • Author(s)
      Itsuki Ueda, Naoya Chiba, Hirokatsu Kataoka, Hiroaki Aizawa, Itaru Kitahara
    • Organizer
      画像の認識・理解シンポジウム (MIRU) 2023
  • [Presentation] 特徴折込みモデルを導入した三次元点群マッチングに基づく密な姿勢推定システム2023

    • Author(s)
      柳凜太郎,橋本敦史,千葉直也,牛久祥孝
    • Organizer
      画像の認識・理解シンポジウム (MIRU) 2023
  • [Presentation] カメラパラメータの誤差を考慮したマニピュレータの動作計画2023

    • Author(s)
      柴山千冬,鏡慎吾,千葉直也,橋本浩一
    • Organizer
      第41回日本ロボット学会学術講演会 (RSJ) 2023
  • [Presentation] SenLane: a road lane instance segmentation dataset captured during snowy conditions2023

    • Author(s)
      Wenbin Wang, Naoya Chiba, Haichuan Yang, Koichi Hashimoto
    • Organizer
      第41回日本ロボット学会学術講演会 (RSJ) 2023
  • [Presentation] 3D シーン認識のための NeRF による不確実性の評価2023

    • Author(s)
      伊藤大介,千葉直也,加瀬敬唯,中條亨一,森裕紀,尾形哲也
    • Organizer
      第24回計測自動制御学会システムインテグレーション部門講演会 (SICE SI) 2023
  • [Presentation] 3D Data Processing with Deep Learning2023

    • Author(s)
      Naoya Chiba
    • Organizer
      HeKKSaGOn AI Symposium
    • Int'l Joint Research / Invited
  • [Presentation] 3Dデータを扱うニューラルネットワークの紹介2023

    • Author(s)
      千葉直也
    • Organizer
      第1回3次元医療AI研究会
    • Invited
  • [Presentation] Multi-Timestep-Ahead Prediction with Mixture of Experts for Embodied Question Answering2023

    • Author(s)
      Kanata Suzuki,Yuya Kamiwano,Naoya Chiba,Hiroki Mori,Tetsuya Ogata
    • Organizer
      International Conference on Artificial Neural Networks
  • [Presentation] Reference-based Dense Pose Estimation via Partial 3D Point Cloud Matching2023

    • Author(s)
      Rintaro Yanagi, Atsushi Hashimoto, Naoya Chiba, Yoshitaka Ushiku
    • Organizer
      ACM International Conference on Multimedia
  • [Presentation] A Transformer Model for Symbolic Regression towards Scientific Discovery.2023

    • Author(s)
      Florian Lalande, Yoshitomo Matsubara, Naoya Chiba, Tatsunori Taniai, Ryo Igarashi, Yoshitaka Ushiku
    • Organizer
      Conference on Neural Information Processing Systems Workshop: AI4Science
  • [Book] CVIMチュートリアル 2: 点群深層学習/ニューラル3次元復元/深層照度差ステレオ法/AutoML2024

    • Author(s)
      千葉 直也, 齋藤 隼介, 山藤 浩明, 菅沼 雅徳
    • Total Pages
      224
    • Publisher
      共立出版

URL: 

Published: 2024-12-25  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi