• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2022 Fiscal Year Annual Research Report

4D Earth Captioning

Research Project

Project/Area Number 20H04217
Research InstitutionNational Institute of Advanced Industrial Science and Technology

Principal Investigator

櫻田 健  国立研究開発法人産業技術総合研究所, 情報・人間工学領域, 主任研究員 (70773670)

Co-Investigator(Kenkyū-buntansha) 高村 大也  国立研究開発法人産業技術総合研究所, 情報・人間工学領域, 研究チーム長 (80361773)
Project Period (FY) 2020-04-01 – 2023-03-31
Keywords変化検出 / 変化説明文生成 / 視点 / 3Dキャプショニング
Outline of Annual Research Achievements

本年度は昨年度から継続しているシーンの変化検出・変化説明文生成の研究に加え、視点を考慮した3Dキャプショニングの研究に取り組んだ。
シーンの変化検出では、物体検出とグラフマッチングネットワークを統合した手法を改良し、自動運転用シミュレータCARLA simulatorを用いて作成・公開したSynthesized Object-Level Change Detection (SOCD)データセットで有効性を確認した。本研究は国際ジャーナルRemote Sensing (IF 5.349)に採択された。
また、シーンの変化説明文生成に関して、手法の改良や評価等に継続して取り組んだ。CARLA simulatorで生成した画像に対し変化説明文を付与したシーン変化の画像説明文データセットで評価を行い、背景が複雑なシーンに対して提案手法がより頑健であることを確認した。本研究は、画像の認識・理解シンポジウム(MIRU2022)でロングオーラル発表に採択され、MIRU優秀賞を受賞した。さらに、実画像に対してもシーン変化の説明文を付与したデータセットを作成し、実環境におけるシーン変化の多様性等を分析した。
視点を考慮した3Dキャプショニングの研究では、入力された3D点群と視点に対してシーンの説明文を生成する手法の開発に取り組んだ。従来手法では生成文の基準視点が考慮されていないため、ユーザーの想定した視点と関係なく説明文を生成していた。この問題を解決するため、視点情報を入力に組み込む機構、説明対象物体と位置基準物体を区別してエンコードする機構を導入することで、視点に応じた説明文の生成を可能とした。

Research Progress Status

令和4年度が最終年度であるため、記入しない。

Strategy for Future Research Activity

令和4年度が最終年度であるため、記入しない。

Remarks

MIRU優秀賞受賞

  • Research Products

    (3 results)

All 2022 Other

All Journal Article (1 results) (of which Peer Reviewed: 1 results,  Open Access: 1 results) Presentation (1 results) Remarks (1 results)

  • [Journal Article] Detecting Object-Level Scene Changes in Images with Viewpoint Differences Using Graph Matching2022

    • Author(s)
      Doi Kento、Hamaguchi Ryuhei、Iwasawa Yusuke、Onishi Masaki、Matsuo Yutaka、Sakurada Ken
    • Journal Title

      Remote Sensing

      Volume: 14 Pages: 1~20

    • DOI

      10.3390/rs14174225

    • Peer Reviewed / Open Access
  • [Presentation] Pixel vs. Object: 変化キャプショニングにおける最適な画像表現についての研究2022

    • Author(s)
      土居 健人、濱口 竜平、岩澤 有祐、大西 正輝、松尾 豊、櫻田 健
    • Organizer
      第25回 画像の認識・理解シンポジウム
  • [Remarks] SOCD Dataset

    • URL

      https://doiken23.github.io/object_level_cd/dataset.html

URL: 

Published: 2023-12-25  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi