• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to previous page

4D Earth Captioning

Research Project

Project/Area Number 20H04217
Research Category

Grant-in-Aid for Scientific Research (B)

Allocation TypeSingle-year Grants
Section一般
Review Section Basic Section 61010:Perceptual information processing-related
Research InstitutionNational Institute of Advanced Industrial Science and Technology

Principal Investigator

Sakurada Ken  国立研究開発法人産業技術総合研究所, 情報・人間工学領域, 主任研究員 (70773670)

Co-Investigator(Kenkyū-buntansha) 高村 大也  国立研究開発法人産業技術総合研究所, 情報・人間工学領域, 研究チーム長 (80361773)
Project Period (FY) 2020-04-01 – 2023-03-31
Project Status Completed (Fiscal Year 2022)
Budget Amount *help
¥17,810,000 (Direct Cost: ¥13,700,000、Indirect Cost: ¥4,110,000)
Fiscal Year 2022: ¥3,640,000 (Direct Cost: ¥2,800,000、Indirect Cost: ¥840,000)
Fiscal Year 2021: ¥7,410,000 (Direct Cost: ¥5,700,000、Indirect Cost: ¥1,710,000)
Fiscal Year 2020: ¥6,760,000 (Direct Cost: ¥5,200,000、Indirect Cost: ¥1,560,000)
Keywords画像説明文生成 / 変化検出 / 空間モデリング / 変化説明文生成 / 視点 / 3Dキャプショニング / シーン変化 / 多視点 / 説明文生成 / シーン認識 / 3Dモデリング / Visual SLAM / シーングラフ / プライバシー
Outline of Research at the Start

本研究では、上空・地上の両視点の画像から、地球上で起きている現象を自動で検出し,任意視点の説明文を生成する手法を開発する。人や車,建物など物体レベルのミクロな現象から,都市全体のマクロな現象まで,多様なスケールの事象を横断的に記述する新たな画像認識問題に対し、多視点幾何と画像説明文生成のモデルを融合することで、人間が知覚しきれない膨大なデータから重要な現象を自動で抽出し、分かりやすく提示するシステムの実現を目指す。

Outline of Final Research Achievements

We have developed fundamental technologies for efficiently reconstructing and updating 3D maps of a city from images and for explaining events occurring on the ground in a text that is easy for humans to understand. These technologies have shown the possibility of utilizing the vast amount of data collected from smartphones, drive recorders, and cameras installed for autonomous driving and driver assistance, where these data will be presented to users in the form of 3D maps and text. In addition, we have developed a real-time 3D localization and mapping method that considers scene privacy, which is a concern in map sharing.

Academic Significance and Societal Importance of the Research Achievements

コンピュータビジョンやロボティクス分野では、街並みの変化を検出する研究は行われてきたが、多くの場合3次元地図の更新を目的としているため、画素や点群、ボクセルのような観測単位の変化のみに着目しており、その意味的な理解はほとんど注目されてこなかった。本研究では、シーンを物体の集合として仮定し、物体単位の変化の検出と説明文生成を行うことで、人間が理解しやすく応用タスクで扱いやすい形で提示することを可能とした。また、シーンプライバシー保護手法において、従来の点群マップと異なる直線群マップに対し新たな再投影誤差モデルを定義し、カメラ姿勢と点群・直線群マップを同時に最適化可能とした点も学術的意義が大きい。

Report

(4 results)
  • 2022 Annual Research Report   Final Research Report ( PDF )
  • 2021 Annual Research Report
  • 2020 Annual Research Report
  • Research Products

    (17 results)

All 2022 2021 2020 Other

All Int'l Joint Research (1 results) Journal Article (5 results) (of which Int'l Joint Research: 1 results,  Peer Reviewed: 5 results,  Open Access: 4 results) Presentation (9 results) Remarks (2 results)

  • [Int'l Joint Research] Simon Fraser University(カナダ)

    • Related Report
      2021 Annual Research Report
  • [Journal Article] Detecting Object-Level Scene Changes in Images with Viewpoint Differences Using Graph Matching2022

    • Author(s)
      Doi Kento、Hamaguchi Ryuhei、Iwasawa Yusuke、Onishi Masaki、Matsuo Yutaka、Sakurada Ken
    • Journal Title

      Remote Sensing

      Volume: 14 Issue: 17 Pages: 1-20

    • DOI

      10.3390/rs14174225

    • Related Report
      2022 Annual Research Report
    • Peer Reviewed / Open Access
  • [Journal Article] Heterogeneous Grid Convolution for Adaptive, Efficient, and Controllable Computation2021

    • Author(s)
      Hamaguchi Ryuhei、Furukawa Yasutaka、Onishi Masaki、Sakurada Ken
    • Journal Title

      Proceedings of IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR)

      Volume: - Pages: 13946-13955

    • DOI

      10.1109/cvpr46437.2021.01373

    • Related Report
      2021 Annual Research Report
    • Peer Reviewed / Open Access / Int'l Joint Research
  • [Journal Article] Privacy Preserving Visual SLAM2020

    • Author(s)
      Shibuya Mikiya、Sumikura Shinya、Sakurada Ken
    • Journal Title

      Proceedings of European Conference on Computer Vision

      Volume: - Pages: 102-118

    • DOI

      10.1007/978-3-030-58542-6_7

    • ISBN
      9783030585419, 9783030585426
    • Related Report
      2020 Annual Research Report
    • Peer Reviewed / Open Access
  • [Journal Article] Self-supervised Simultaneous Alignment and Change Detection2020

    • Author(s)
      Furukawa Yukuko、Suzuki Kumiko、Hamaguchi Ryuhei、Onishi Masaki、Sakurada Ken
    • Journal Title

      Proceedings of IEEE/RSJ International Conference on Intelligent Robots and Systems

      Volume: - Pages: 6025-6031

    • DOI

      10.1109/iros45743.2020.9340840

    • Related Report
      2020 Annual Research Report
    • Peer Reviewed / Open Access
  • [Journal Article] GAN-Based SAR-to-Optical Image Translation with Region Information2020

    • Author(s)
      Doi Kento、Sakurada Ken、Onishi Masaki、Iwasaki Akira
    • Journal Title

      Proceedings of IEEE International Geoscience and Remote Sensing Symposium

      Volume: - Pages: 2069-2072

    • DOI

      10.1109/igarss39084.2020.9323085

    • Related Report
      2020 Annual Research Report
    • Peer Reviewed
  • [Presentation] Pixel vs. Object: 変化キャプショニングにおける最適な画像表現についての研究2022

    • Author(s)
      土居 健人、濱口 竜平、岩澤 有祐、大西 正輝、松尾 豊、櫻田 健
    • Organizer
      第25回 画像の認識・理解シンポジウム
    • Related Report
      2022 Annual Research Report
  • [Presentation] CARLAシミュレータを用いた変化キャプショニング既存手法のベンチマーク2021

    • Author(s)
      土居健人, 岩澤有祐, 松尾豊, 大西正輝, 櫻田健
    • Organizer
      第24回画像の認識・理解シンポジウム(MIRU)
    • Related Report
      2021 Annual Research Report
  • [Presentation] バイナリ超平面を利用した高速な次元削減手法の提案2021

    • Author(s)
      市原光将, 渋谷樹弥, 大川快, 大西正輝, 櫻田健
    • Organizer
      第24回画像の認識・理解シンポジウム(MIRU)
    • Related Report
      2021 Annual Research Report
  • [Presentation] プライバシー保護を考慮したVisual SLAM2020

    • Author(s)
      渋谷 樹弥,角倉 慎弥,横田 理央, 櫻田 健
    • Organizer
      第23回画像の認識・理解シンポジウム(MIRU)
    • Related Report
      2020 Annual Research Report
  • [Presentation] Graph Residual Networks for Semantic Segmentation2020

    • Author(s)
      濱口 竜平,古川 泰隆,大西 正輝, 櫻田 健
    • Organizer
      第23回画像の認識・理解シンポジウム(MIRU)
    • Related Report
      2020 Annual Research Report
  • [Presentation] 三次元構造エッジ推定に基づく深層学習を用いた単眼画像からのシーンメッシュ復元2020

    • Author(s)
      金子 真也,櫻田 健,池畑 諭, 相澤 清晴
    • Organizer
      第23回画像の認識・理解シンポジウム(MIRU)
    • Related Report
      2020 Annual Research Report
  • [Presentation] 自己教師あり学習による位置合わせとシーン変化の同時推定2020

    • Author(s)
      古川 悠久子,鈴木久美子,濱口 竜平,大西 正輝, 櫻田 健
    • Organizer
      第23回画像の認識・理解シンポジウム(MIRU)
    • Related Report
      2020 Annual Research Report
  • [Presentation] Unsupervised dense depth estimation from event camera2020

    • Author(s)
      芝 慎太朗,金子 真也,青木 義満,櫻田 健
    • Organizer
      第23回画像の認識・理解シンポジウム(MIRU)
    • Related Report
      2020 Annual Research Report
  • [Presentation] エピポーラ拘束付きの深層グラフマッチングを用いた視点変化に堅牢な変化検出手法の提案2020

    • Author(s)
      岩瀬 駿,横田 理央,櫻田 健
    • Organizer
      第23回画像の認識・理解シンポジウム(MIRU)
    • Related Report
      2020 Annual Research Report
  • [Remarks] SOCD Dataset

    • URL

      https://doiken23.github.io/object_level_cd/dataset.html

    • Related Report
      2022 Annual Research Report
  • [Remarks] Privacy Preserving Visual SLAM

    • URL

      https://xdspacelab.github.io/lcvslam/

    • Related Report
      2020 Annual Research Report

URL: 

Published: 2020-04-28   Modified: 2024-01-30  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi