• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 前のページに戻る

拡張時空間シーングラフによる未知物体を含むシーン認識・記述基盤の構築

研究課題

研究課題/領域番号 23K21708
補助金の研究課題番号 21H03519 (2021-2023)
研究種目

基盤研究(B)

配分区分基金 (2024)
補助金 (2021-2023)
応募区分一般
審査区分 小区分61050:知能ロボティクス関連
研究機関国立研究開発法人理化学研究所

研究代表者

川西 康友  国立研究開発法人理化学研究所, 情報統合本部, チームリーダー (50755147)

研究分担者 井手 一郎  名古屋大学, 情報学研究科, 教授 (10332157)
出口 大輔  名古屋大学, 情報学研究科, 准教授 (20437081)
研究期間 (年度) 2021-04-01 – 2025-03-31
研究課題ステータス 採択後辞退 (2024年度)
配分額 *注記
15,340千円 (直接経費: 11,800千円、間接経費: 3,540千円)
2024年度: 1,820千円 (直接経費: 1,400千円、間接経費: 420千円)
2023年度: 2,470千円 (直接経費: 1,900千円、間接経費: 570千円)
2022年度: 5,070千円 (直接経費: 3,900千円、間接経費: 1,170千円)
2021年度: 5,980千円 (直接経費: 4,600千円、間接経費: 1,380千円)
キーワード未知物体 / シーングラフ / 時空間 / 検出 / 追跡 / Zero-shot / Open-vocabulary / 拡張時空間シーングラフ / 未知物体検出 / 未知物体対応付け / セグメンテーション / キャプショニング / データセット生成
研究開始時の研究の概要

人間は,知らない物体を見たとき,それが何かわからなくても何らかの物体であると認識でき, それを覚えておいて次に見たときに同一物体だと対応付けることもできる.しかし,ロボットは 物体検出器が学習した物体しか検出できず,異なる時刻での観測同士を対応付けることもできな い.本提案では,未知物体も扱える時空間の記述(拡張時空間シーングラフ)の仕組みを作った うえで,未知物体を含めた環境中の物体検出法及び,それらを時間方向に対応付けて拡張時空間 シーングラフを自動的に構築する手法に取り組む.これにより,ロボットによる時空間的に一貫 した環境理解を実現することを目指す.

研究実績の概要

今年度は,昨年度の成果を発展させ,未知事象を含む時空間の高度な認識手法・時間的対応付け手法の開発に取り組んだ.
未知事象の認識としては,コップなど特定のカテゴリ内において未知の形状をした物体の姿勢推定技術を提案した.また,認識器にとって未学習の領域をセグメンテーションする手法(Zero-shotセグメンテーション)及び,未学習の行動を検出する手法(Open-vocabulary行動検出)も提案した.これにより,未知事象が存在しても,それらを含むシーンを記述できる仕組みを実現した.また,未知物体を検出した際に,その物体を詳細に観測し,多くの情報を抽出するために,対象物を撮影した少数枚の画像から物体の3次元形状を理解するFew-shot NeRF手法(ManifoldNeRF)を提案した.
一方,物体の時間的対応付けとしては,時間的に連続するフレームでの対応付けと,異なるシーンでの対応付けに大別し,それぞれの課題に取り組んだ.時間的に連続するフレームでの対応付けとして,特に映像中で小さく写った物体に対する追跡手法を提案した.また,異なるシーンでの対応付けとして,シーングラフを利用して複数の画像の情報を要約する手法を提案した.さらに,その要約結果として要約シーングラフを出力する方法及び,その画像キャプショニングへの応用手法を提案した.
基盤Aの前年度申請の採択により,本研究課題は今年度で終了するが,拡張時空間シーングラフ構築の要素技術を確立し,当初予定していたよりも多くの研究成果が得られた.

現在までの達成度 (段落)

令和5年度が最終年度であるため、記入しない。

今後の研究の推進方策

令和5年度が最終年度であるため、記入しない。

報告書

(3件)
  • 2023 実績報告書
  • 2022 実績報告書
  • 2021 実績報告書
  • 研究成果

    (32件)

すべて 2024 2023 2022

すべて 雑誌論文 (8件) (うち国際共著 2件、 査読あり 7件、 オープンアクセス 6件) 学会発表 (24件) (うち国際学会 6件、 招待講演 7件)

  • [雑誌論文] Category-Level Object Pose Estimation in Heavily Cluttered Scenes by Generalized Two-Stage Shape Reconstructor2024

    • 著者名/発表者名
      Tatemichi Hiroki、Kawanishi Yasutomo、Deguchi Daisuke、Ide Ichiro、Murase Hiroshi
    • 雑誌名

      IEEE Access

      巻: 12 ページ: 33440-33448

    • DOI

      10.1109/access.2024.3372658

    • 関連する報告書
      2023 実績報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] Image-Collection Summarization Using Scene-Graph Generation With External Knowledge2024

    • 著者名/発表者名
      Phueaksri Itthisak、Kastner Marc A.、Kawanishi Yasutomo、Komamizu Takahiro、Ide Ichiro
    • 雑誌名

      IEEE Access

      巻: 12 ページ: 17499-17512

    • DOI

      10.1109/access.2024.3360113

    • 関連する報告書
      2023 実績報告書
    • 査読あり / オープンアクセス / 国際共著
  • [雑誌論文] Frozen is better than learning: A new design of prototype-based classifier for semantic segmentation2024

    • 著者名/発表者名
      Chen Jialei、Deguchi Daisuke、Zhang Chenkai、Zheng Xu、Murase Hiroshi
    • 雑誌名

      Pattern Recognition

      巻: 152 ページ: 110431-110431

    • DOI

      10.1016/j.patcog.2024.110431

    • 関連する報告書
      2023 実績報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] An Approach to Generate a Caption for an Image Collection Using Scene Graph Generation2023

    • 著者名/発表者名
      Phueaksri Itthisak、Kastner Marc A.、Kawanishi Yasutomo、Komamizu Takahiro、Ide Ichiro
    • 雑誌名

      IEEE Access

      巻: 11 ページ: 128245-128260

    • DOI

      10.1109/access.2023.3332098

    • 関連する報告書
      2023 実績報告書
    • 査読あり / オープンアクセス / 国際共著
  • [雑誌論文] ManifoldNeRF: View-dependent Image Feature Supervision for Few-shot Neural Radiance Fields2023

    • 著者名/発表者名
      Daiju Kanaoka、Motoharu Sonogashira、Hakaru Tamukoh、Yasutomo Kawanishi
    • 雑誌名

      arXiv

      巻: cs.CV ページ: 1-15

    • 関連する報告書
      2023 実績報告書
    • オープンアクセス
  • [雑誌論文] Towards Captioning an Image Collection from a Combined Scene Graph Representation Approach2023

    • 著者名/発表者名
      Phueaksri Itthisak、Kastner Marc A.、Kawanishi Yasutomo、Komamizu Takahiro、Ide Ichiro
    • 雑誌名

      Lecture Notes in Computer Science book series

      巻: 13833 ページ: 178-190

    • DOI

      10.1007/978-3-031-27077-2_14

    • ISBN
      9783031270765, 9783031270772
    • 関連する報告書
      2022 実績報告書
    • 査読あり
  • [雑誌論文] A preliminary study on view independent panoptic scene change detection2023

    • 著者名/発表者名
      Li Jiaxin、Kawanishi Yasutomo、Deguchi Daisuke、Murase Hiroshi
    • 雑誌名

      International Workshop on Advanced Imaging Technology (IWAIT)

      巻: 12592 ページ: 1-6

    • DOI

      10.1117/12.2666872

    • 関連する報告書
      2022 実績報告書
    • 査読あり
  • [雑誌論文] Towards Open-Set Scene Graph Generation With Unknown Objects2022

    • 著者名/発表者名
      Sonogashira Motoharu、Iiyama Masaaki、Kawanishi Yasutomo
    • 雑誌名

      IEEE Access

      巻: 10 ページ: 11574-11583

    • DOI

      10.1109/access.2022.3145465

    • 関連する報告書
      2021 実績報告書
    • 査読あり / オープンアクセス
  • [学会発表] Scene Understanding Research in RIKEN Guardian Robot Project2024

    • 著者名/発表者名
      Yasutomo Kawanishi
    • 学会等名
      Seminar at Center for Artificial Intelligence and Advanced Robotics
    • 関連する報告書
      2023 実績報告書
    • 国際学会 / 招待講演
  • [学会発表] 検出領域絞込みと検出履歴を考慮した広角映像中の鳥追跡2024

    • 著者名/発表者名
      リュウ テイイ, 川西 康友, 駒水 孝裕, 井手 一郎
    • 学会等名
      第64回人工知能学会AIチャレンジ研究会
    • 関連する報告書
      2023 実績報告書
  • [学会発表] ManifoldNeRF: View-dependent Image Feature Supervision for Few-shot Neural Radiance Fields2023

    • 著者名/発表者名
      Daiju Kanaoka, Hakaru Tamukoh, Motoharu Sonogashira, Yasutomo Kawanishi
    • 学会等名
      the 34th British Machine Vision Conference
    • 関連する報告書
      2023 実績報告書
    • 国際学会
  • [学会発表] 理研ガーディアンロボットプロジェクトにおける環境認識研究2023

    • 著者名/発表者名
      川西 康友
    • 学会等名
      第124回オーディオビジュアル複合情報処理研究発表会
    • 関連する報告書
      2023 実績報告書
    • 招待講演
  • [学会発表] 映像中の微小な鳥に対する検出領域絞込みと検出履歴を考慮した追跡2023

    • 著者名/発表者名
      リュウ テイイ, 川西 康友, 駒水 孝裕, 井手 一郎
    • 学会等名
      電子情報通信学会パターン認識・メディア理解研究会
    • 関連する報告書
      2023 実績報告書
  • [学会発表] 時間マルチスケール特徴と行動ラベル特徴によるオープンボキャブラリ行動区間認識2023

    • 著者名/発表者名
      グエン チュンタイン, 川西 康友, 駒水 孝裕, 井手 一郎
    • 学会等名
      第26回画像の認識・理解シンポジウム
    • 関連する報告書
      2023 実績報告書
  • [学会発表] Open-setシーングラフ生成のための物体間の関係を考慮した未知物体検出2023

    • 著者名/発表者名
      薗頭 元春, 飯山 将晃, 川西 康友
    • 学会等名
      第26回画像の認識・理解シンポジウム
    • 関連する報告書
      2023 実績報告書
  • [学会発表] 検出対象領域の絞込みによる広角映像中の鳥追跡2023

    • 著者名/発表者名
      リュウ テイイ, 川西 康友, 駒水 孝裕, 井手 一郎
    • 学会等名
      第26回画像の認識・理解シンポジウム
    • 関連する報告書
      2023 実績報告書
  • [学会発表] ManifoldNeRF: 視点変化に伴う特徴ベクトルの連続変化に着目したFew-shot NeRF2023

    • 著者名/発表者名
      金岡 大樹, 薗頭 元春, 田向 権, 川西 康友
    • 学会等名
      第26回画像の認識・理解シンポジウム
    • 関連する報告書
      2023 実績報告書
  • [学会発表] Image Collection Scene Graph Summarization Enhancing Relation Predictor with External Knowledge2023

    • 著者名/発表者名
      Itthisak Phueaksri, Marc A. Kastner, Yasutomo Kawanishi, Takahiro Komamizu, Ichiro Ide
    • 学会等名
      第26回画像の認識・理解シンポジウム
    • 関連する報告書
      2023 実績報告書
  • [学会発表] 不変直交プロトタイプを用いたセマンティックセグメンテーションに関する検討2023

    • 著者名/発表者名
      陳 嘉雷, 出口 大輔, チョウ チンガイ, Xu Zheng, 村瀬 洋
    • 学会等名
      電子情報通信学会パターン認識・メディア理解研究会
    • 関連する報告書
      2023 実績報告書
  • [学会発表] Towards Captioning an Image Collection from a Combined Scene Graph Representation Approach2023

    • 著者名/発表者名
      Itthisak Phueaksri, Marc A. Kastner, Yasutomo Kawanishi, Takahiro Komamizu, Ichiro Ide
    • 学会等名
      The 29th International Conference on MultiMedia Modeling
    • 関連する報告書
      2022 実績報告書
    • 国際学会
  • [学会発表] A Preliminary Study on View Independent Panoptic Scene Change Detection2023

    • 著者名/発表者名
      Jiaxin Li, Yasutomo Kawanishi, Daisuke Deguchi, Hiroshi Murase
    • 学会等名
      International Workshop on Advanced Image Technology (IWAIT2023)
    • 関連する報告書
      2022 実績報告書
    • 国際学会
  • [学会発表] 未知視点に対する疑似特徴量評価によるFew-shot NeRFの検討2023

    • 著者名/発表者名
      金岡 大樹, 薗頭 元春, 田向 権, 川西 康友
    • 学会等名
      電子情報通信学会パターン認識・メディア理解研究会
    • 関連する報告書
      2022 実績報告書
  • [学会発表] Unknown Object Segmentation by View Independent Scene Change Detection2023

    • 著者名/発表者名
      Jiaxin Li, Yasutomo Kawanishi, Daisuke Deguchi, Hiroshi Murase
    • 学会等名
      電子情報通信学会パターン認識・メディア理解研究会
    • 関連する報告書
      2022 実績報告書
  • [学会発表] 説明文生成を用いた動作行動予測2023

    • 著者名/発表者名
      中村 泰貴, 河野 誠也, 湯口 彰重, 川西 康友, 吉野 幸一郎
    • 学会等名
      情報処理学会自然言語処理研究会
    • 関連する報告書
      2022 実績報告書
  • [学会発表] 視覚的質問応答における視線情報を利用した曖昧性解消に向けて2023

    • 著者名/発表者名
      稲積 駿, 河野 誠也, 湯口 彰重, 川西 康友, 吉野 幸一郎
    • 学会等名
      言語処理学会第29回年次大会
    • 関連する報告書
      2022 実績報告書
  • [学会発表] PiDP:処方箋に対するGCNの対照学習に基づく錠剤検出2023

    • 著者名/発表者名
      グエン チュンタイン, グエン フィレ, 川西 康友, 駒水 孝裕, 井手 一郎
    • 学会等名
      2023年電子情報通信学会総合大会情報・システム講演論文集
    • 関連する報告書
      2022 実績報告書
  • [学会発表] Understanding and Remembering Daily 3D Environments by an Autonomous Robot2022

    • 著者名/発表者名
      Yasutomo Kawanishi
    • 学会等名
      ICA4 Mini Workshop on Robot And ArtificiaL Intelligence, 2022/08/31
    • 関連する報告書
      2022 実績報告書
    • 国際学会 / 招待講演
  • [学会発表] 生活環境で動作するロボットにおける画像認識と3次元的理解2022

    • 著者名/発表者名
      川西康友
    • 学会等名
      IEEE Computer Society Kansai Chapter 2022年 第1回技術講演会
    • 関連する報告書
      2022 実績報告書
    • 招待講演
  • [学会発表] 周囲の環境を見守り、人と共存するロボット「ぶつくさ君」2022

    • 著者名/発表者名
      川西康友
    • 学会等名
      第4回使えるセンサ・シンポジウム, 2022/07/20
    • 関連する報告書
      2022 実績報告書
    • 招待講演
  • [学会発表] Butukusa-2: A prototype Robot for Human Assistance2022

    • 著者名/発表者名
      Yasutomo Kawanishi
    • 学会等名
      2022 IEEE/CVF Conference on Computer Vision and Pattern Recognition Workshop, the 18th Embedded Vision Workshop
    • 関連する報告書
      2022 実績報告書
    • 国際学会 / 招待講演
  • [学会発表] 周囲の環境を見守り、人をさり気なく支援するガーディアンロボットの実現に向けて2022

    • 著者名/発表者名
      川西 康友
    • 学会等名
      精密工学会画像応用技術専門委員会 2022年度第1回定例研究会
    • 関連する報告書
      2022 実績報告書
    • 招待講演
  • [学会発表] Towards Captioning an Image Collection using Scene Graph2022

    • 著者名/発表者名
      Phueaksri Itthisak, Marc A. Kastner, Yasutomo Kawanishi, Takahiro Komamizu, Ichiro Ide
    • 学会等名
      第25回画像の認識・理解シンポジウム(MIRU2022)
    • 関連する報告書
      2022 実績報告書

URL: 

公開日: 2021-04-28   更新日: 2024-12-25  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi