• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to previous page

Fundamental Optical Factorization of Monocular Images

Research Project

Project/Area Number 19H04130
Research Category

Grant-in-Aid for Scientific Research (B)

Allocation TypeSingle-year Grants
Section一般
Review Section Basic Section 61010:Perceptual information processing-related
Research InstitutionUniversity of Tsukuba

Principal Investigator

Kanamori Yoshihiro  筑波大学, システム情報系, 准教授 (10551418)

Co-Investigator(Kenkyū-buntansha) 遠藤 結城  筑波大学, システム情報系, 助教 (00790396)
Project Period (FY) 2019-04-01 – 2022-03-31
Project Status Completed (Fiscal Year 2021)
Budget Amount *help
¥11,960,000 (Direct Cost: ¥9,200,000、Indirect Cost: ¥2,760,000)
Fiscal Year 2021: ¥4,160,000 (Direct Cost: ¥3,200,000、Indirect Cost: ¥960,000)
Fiscal Year 2020: ¥2,470,000 (Direct Cost: ¥1,900,000、Indirect Cost: ¥570,000)
Fiscal Year 2019: ¥5,330,000 (Direct Cost: ¥4,100,000、Indirect Cost: ¥1,230,000)
Keywords画像分解 / 深層学習 / 光源・形状・反射率推定 / 単眼三次元復元 / 映像編集 / 光学要素分解 / 再照明
Outline of Research at the Start

単視点で撮影された画像を入力として、被写体の色や模様、形状、被写体を照らす光源に由来する成分に分解する基盤技術を開発し、それを応用することで、高精度な色付き三次元形状推定、動画の光学要素分解と再照明など、これまでにない革新的な技術を実現する。画像・映像編集、照明設計、単視点映像から物体認識を行うロボット制御やヒューマンコンピュータインタラクション、三次元モデルを必要とする AR/MR/VR など、広範な分野での活用を目指す。

Outline of Final Research Achievements

Given objects in monocular input images, we conducted research projects toward various applications based on optical factorization of target objects into objects’ color/texture, shape, and illumination. We obtained the following research outcomes. We published technical papers on 1) semantic segmentation of human 3D models (domestic meeting: two), 2) optical factorization for full-body human images (invited talk: one, invited article: one, domestic meeting: one, journal/international conference: one), and 3) factorization and 3D reconstruction of terrain images (domestic meeting: two, journal submission: one). Also, we acquired a patent on optical factorization.

Academic Significance and Societal Importance of the Research Achievements

光学要素分解とは、被写体の色・模様、形状、被写体を照らす光源に由来する成分へ入力画像を分解する基盤技術であり、物体認識、反射率推定、形状推定、光源推定など、多数の応用先がある。本研究の成果は、画像・映像編集、照明設計、単視点映像から物体認識を行うロボット制御やヒューマンコンピュータインタラクション、三次元モデルを必要とするAR/MR/VRなど、広範な分野で活用できる。

Report

(4 results)
  • 2021 Annual Research Report   Final Research Report ( PDF )
  • 2020 Annual Research Report
  • 2019 Annual Research Report
  • Research Products

    (10 results)

All 2021 2020 2019 Other

All Journal Article (1 results) (of which Peer Reviewed: 1 results) Presentation (7 results) (of which Int'l Joint Research: 1 results,  Invited: 1 results) Remarks (2 results)

  • [Journal Article] Relighting Humans in the Wild: Monocular Full-Body Human Relighting with Domain Adaptation2021

    • Author(s)
      Daichi Tajima, Yoshihiro Kanamori, Yuki Endo
    • Journal Title

      Computer Graphics Forum

      Volume: 40 Issue: 7 Pages: 205-216

    • DOI

      10.1111/cgf.14414

    • Related Report
      2021 Annual Research Report
    • Peer Reviewed
  • [Presentation] Relighting Humans in the Wild: Monocular Full-Body Human Relighting with Domain Adaptation2021

    • Author(s)
      Daichi Tajima, Yoshihiro Kanamori, Yuki Endo
    • Organizer
      Pacific Graphics 2021
    • Related Report
      2021 Annual Research Report
    • Int'l Joint Research
  • [Presentation] 非拡散反射成分を考慮した人物全身画像の再照明2020

    • Author(s)
      田島 大地, 金森 由博, 遠藤 結城, 三谷 純
    • Organizer
      第 180 回コンピュータグラフィックスとビジュアル情報学研究発表会
    • Related Report
      2020 Annual Research Report
  • [Presentation] 単視点地形景観画像からの地形3Dモデル推定2020

    • Author(s)
      高橋 遼, 遠藤 結城, 金森 由博
    • Organizer
      Visual Computing 2020
    • Related Report
      2020 Annual Research Report
  • [Presentation] 単視点地形景観画像からの3D地形モデルの2段階推定2020

    • Author(s)
      高橋 遼, 遠藤 結城, 金森 由博, 三谷 純
    • Organizer
      第 181 回コンピュータグラフィックスとビジュアル情報学研究発表会
    • Related Report
      2020 Annual Research Report
  • [Presentation] 多視点投影を利用した人物3Dモデルの意味的領域分割2019

    • Author(s)
      金森 由博, 遠藤 結城, 山口 智史, 三谷 純
    • Organizer
      Visual Computing 2019
    • Related Report
      2019 Annual Research Report
  • [Presentation] 人物 3D モデルの意味的領域分割2019

    • Author(s)
      山口 智史, 金森 由博, 三谷 純
    • Organizer
      映像表現・芸術科学フォーラム 2019
    • Related Report
      2019 Annual Research Report
  • [Presentation] Relighting Humans: 人物全身画像の遮蔽を考慮した逆レンダリング2019

    • Author(s)
      金森 由博, 遠藤 結城
    • Organizer
      Visual Computing 2019
    • Related Report
      2019 Annual Research Report
    • Invited
  • [Remarks] Relighting Humans in the Wild

    • URL

      http://www.cgg.cs.tsukuba.ac.jp/~tajima/pub/relighting_in_the_wild/

    • Related Report
      2021 Annual Research Report
  • [Remarks] Relighting Humans in the Wild

    • URL

      https://github.com/majita06/Relighting_in_the_Wild

    • Related Report
      2021 Annual Research Report

URL: 

Published: 2019-04-18   Modified: 2023-01-30  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi