• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to previous page

Interpolation of vegetation remote sensing images and anomaly detection using deep learning image generation technology

Research Project

Project/Area Number 20K21345
Research Category

Grant-in-Aid for Challenging Research (Exploratory)

Allocation TypeMulti-year Fund
Review Section Medium-sized Section 41:Agricultural economics and rural sociology, agricultural engineering, and related fields
Research InstitutionThe University of Tokyo

Principal Investigator

Hosoi Fumiki  東京大学, 大学院農学生命科学研究科(農学部), 准教授 (80526468)

Project Period (FY) 2020-07-30 – 2023-03-31
Project Status Completed (Fiscal Year 2022)
Budget Amount *help
¥6,500,000 (Direct Cost: ¥5,000,000、Indirect Cost: ¥1,500,000)
Fiscal Year 2022: ¥1,690,000 (Direct Cost: ¥1,300,000、Indirect Cost: ¥390,000)
Fiscal Year 2021: ¥1,690,000 (Direct Cost: ¥1,300,000、Indirect Cost: ¥390,000)
Fiscal Year 2020: ¥3,120,000 (Direct Cost: ¥2,400,000、Indirect Cost: ¥720,000)
Keywords深層学習 / 樹木 / 3次元点群画像 / ライダー / 点群画像 / SfM / 画像生成 / 植生 / リモートセンシング
Outline of Research at the Start

本研究では植生を上空から測定して解析する3次元植生リモートセンシングにおいて、画像生成を行うGANを適用し、センサーの死角部分の画像生成を行い、3次元的に補間する方法を開発する。また、VAEとGANをベースに、上空からのリモートセンシング画像中の植生より、枯死や病変している個体を識別する方法の開発にも取り組む。GANやVAEでは、精度に影響する多くの要素の最適化等、その技術的難易度は高いが、本方法により、深層学習の画像生成技術と、ICTの植生モニタリング技術の融合がかなえば、有効な環境問題への処方箋を与えるという意味で、挑戦的かつ意義の高い研究となる。

Outline of Final Research Achievements

There is a problem in remote sensing of vegetation where information is missing in the blind spots of the sensor, such as inside of vegetation and shadows, which is a big problem, especially for obtaining 3D vegetation information. To solve this problem, in this research, we attempted to interpolate the missing information using GAN (Generative Adversarial Net-work), a deep learning technique. We also introduced VAE (Variational Auto Encoder) for detection of vegetation diseases and pests. Although these methods are currently undergoing trial and error, we were able to develop methods that enables highly accurate separation by using deep learning and point cloud features to identify individual trees and separate each organ in the point cloud, which is necessary for the processing. We were also able to develop a method that can be applied to agriculture, such as harvest counting, using this method.

Academic Significance and Societal Importance of the Research Achievements

植生リモートセンシングにおいて、植生内部や影などセンサーの死角部分の情報が欠落する問題や植生の病虫害検知に関しては、技術的改善が急務であったが、GANによる植生領域欠落部補間の検討及びVAE異常部識別器の開発がなされることで、その改善が大幅に進むこととなる。現在、この技術の開発は進行中であるが、その処理に必要な点群内での個々の樹木の識別や各器官の分離に関しては有効な技術を開発することができた。また、各器官の分離技術を転用し、ドローンから果実の検出を行う技術やトラクターで動的に収穫物をカウントする技術の開発など、農業分野への適用が可能な技術を新たに開発することができた。

Report

(4 results)
  • 2022 Annual Research Report   Final Research Report ( PDF )
  • 2021 Research-status Report
  • 2020 Research-status Report
  • Research Products

    (8 results)

All 2023 2022 2021

All Journal Article (4 results) (of which Peer Reviewed: 2 results,  Open Access: 2 results) Presentation (4 results)

  • [Journal Article] 小型UAVの自律走行による果実のカウント2022

    • Author(s)
      板倉健太, 野秋収平, 細井文樹
    • Journal Title

      システム農学

      Volume: 38

    • Related Report
      2022 Annual Research Report
  • [Journal Article] ESTIMATING YIELDS OF ROOT CROPS VIA OBJECT COUNTING USING DEEP LEARNING2022

    • Author(s)
      板倉 健太, 林 拓哉, 野秋 収平, 上脇 優人, 細井 文樹
    • Journal Title

      Intelligence, Informatics and Infrastructure

      Volume: 3 Issue: J2 Pages: 6-16

    • DOI

      10.11532/jsceiii.3.J2_6

    • ISSN
      2435-9262
    • Related Report
      2022 Annual Research Report
  • [Journal Article] Estimating Tree Structural Parameters via Automatic Tree Segmentation From LiDAR Point Cloud Data2022

    • Author(s)
      Itakura Kenta、Miyatani Satoshi、Hosoi Fumiki
    • Journal Title

      IEEE Journal of Selected Topics in Applied Earth Observations and Remote Sensing

      Volume: 15 Pages: 555-564

    • DOI

      10.1109/jstars.2021.3135491

    • Related Report
      2021 Research-status Report
    • Peer Reviewed / Open Access
  • [Journal Article] Three-dimensional tree monitoring in urban cities using automatic tree detection method with mobile LiDAR data2021

    • Author(s)
      Kenta Itakura、Fumiki Hosoi
    • Journal Title

      Intelligence, Informatics and Infrastructure

      Volume: 2 Issue: 2 Pages: 1-10

    • DOI

      10.11532/jsceiii.2.2_1

    • NAID

      130008118229

    • ISSN
      2435-9262
    • Related Report
      2021 Research-status Report
    • Peer Reviewed / Open Access
  • [Presentation] 内視鏡を用いた 樹洞内部の 3次元計測手法の開発2023

    • Author(s)
      細井文樹,三川裕一郎,三浦直子
    • Organizer
      農業気象学会 年次大会
    • Related Report
      2022 Annual Research Report
  • [Presentation] 深層学習を用いた根菜類の個数カウントによる収量推定法の開発2022

    • Author(s)
      板倉 健太, 林 拓哉, 野秋 収平, 上脇 優人, 細井 文樹
    • Organizer
      土木学会 AI・データサイエンスシンポジウム
    • Related Report
      2022 Annual Research Report
  • [Presentation] 深層学習を用いたバレイショの個数カウントによる収量推定法の開発2022

    • Author(s)
      林 拓哉,板倉 健太, 野秋 収平, 細井 文樹
    • Organizer
      生態工学会
    • Related Report
      2022 Annual Research Report
  • [Presentation] セマンティックセグメンテーションによる台風の森林被害調査手法の開発2021

    • Author(s)
      細井 文樹, 梅山 翔
    • Organizer
      生態工学会
    • Related Report
      2021 Research-status Report

URL: 

Published: 2020-08-03   Modified: 2024-01-30  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi