• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2018 Fiscal Year Annual Research Report

3D modeling using an RGBD camera in the mobile environment and its application to mixed reality

Research Project

Project/Area Number 16H02851
Research InstitutionNational Institute of Informatics

Principal Investigator

杉本 晃宏  国立情報学研究所, コンテンツ科学研究系, 教授 (30314256)

Co-Investigator(Kenkyū-buntansha) 大石 岳史  東京大学, 生産技術研究所, 准教授 (80569509)
Project Period (FY) 2016-04-01 – 2019-03-31
Keywords3次元モデル / 複合現実感 / モバイル環境 / コンピュータビジョン
Outline of Annual Research Achievements

携帯型端末の普及・性能向上、RGBDカメラの小型化・廉価化により、エンドユーザがモバイル環境で3Dデータを手軽に入手し加工できる環境が整いつつあり、3次元モデル生成の重要性が高まっている。モバイル環境におけるRGBDカメラを用いた3次元モデル生成では、省メモリ化、高精度、リアルタイム処理が必要不可欠であるが、これらすべてを満たすモデル生成技術は存在しない。本研究課題では、携帯型端末に搭載されたRGBDカメラからのストリーミングデータを入力とし、リアルタイムに省メモリで3次元モデルを高精度に生成する技術を開発し、複合現実感に応用することでその有効性を示すことを目指している。

平成30年度は、平成29年度にその方向への展開に見通しを得た、素早い動きがある動的な環境を対象とする3次元モデル生成を精力的に推し進めた。具体的には、スポーツをする人間などを対象に、身体を剛性を持つ部分領域に分割し、身体動作によって隣接する部分領域間での3次元表現の整合性を保持する3次元モデル表現を開発した。また、RGBDカメラからのデータはノイズを多く含んでいることを踏まえ、そのストリーミングデータの処理において、近傍の計測点との整合性を考慮することでノイズに頑健なデータ統合法を開発した。さらに、カラーカメラとデプスセンサを搭載したモバイルプラットフォームによる環境3次元計測のためのセンサ間校正手法及び、疎な環境3次元マップを利用したAR・MRにおける遮蔽処理手法の開発を行った。トラッキングや遮蔽処理などに必要となる高密度な奥行画像を生成するためにLiDARやTOFなどによって得られた疎な奥行画像を、カメラ画像によって高解像度化する手法についても検討を進めた。

Research Progress Status

平成30年度が最終年度であるため、記入しない。

Strategy for Future Research Activity

平成30年度が最終年度であるため、記入しない。

  • Research Products

    (15 results)

All 2019 2018 Other

All Int'l Joint Research (2 results) Journal Article (6 results) (of which Int'l Joint Research: 2 results,  Peer Reviewed: 6 results) Presentation (7 results) (of which Int'l Joint Research: 7 results,  Invited: 1 results)

  • [Int'l Joint Research] Czech Technical University(チェコ)

    • Country Name
      CZECH
    • Counterpart Institution
      Czech Technical University
  • [Int'l Joint Research] National Tsing Hua University(台湾)

    • Country Name
      その他の国・地域
    • Counterpart Institution
      National Tsing Hua University
  • [Journal Article] Semantic Instance Meets Salient Object: Study on Video Semantic Salient Instance Segmentation2019

    • Author(s)
      T.-N. Le and A. Sugimoto
    • Journal Title

      Proc. of IEEE Winter Conference on Applications of Computer Vision

      Volume: 1 Pages: 1779-1788

    • DOI

      10.1109/WACV.2019.00194

    • Peer Reviewed
  • [Journal Article] SegmentedFusion: 3D Human Body Reconstruction using Stitched Bounding Boxes2018

    • Author(s)
      Y. Shih-Hsuan, D. Thomas, A. Sugimoto, S.-H. Lai, and R. Taniguchi
    • Journal Title

      Proc. of The 6th International Conference on 3D Vision

      Volume: 1 Pages: 190-198

    • DOI

      10.1109/3DV.2018.00031

    • Peer Reviewed / Int'l Joint Research
  • [Journal Article] Video Salient Object Detection Using Spatiotemporal Deep Features2018

    • Author(s)
      T.-N. Le and A. Sugimoto
    • Journal Title

      IEEE Trans. on Image Processing

      Volume: 27 Pages: 5002-5015

    • DOI

      10.1109/TIP.2018.2849860

    • Peer Reviewed
  • [Journal Article] Linear Solution to the Minimal Absolute Pose Rolling Shutter Problem2018

    • Author(s)
      Zuzana Kukelova, Cenek Albl, Akihiro Sugimoto, and Tomas Pajdla
    • Journal Title

      Proc. of Asian Conference on Computer Vision

      Volume: 1 Pages: 14 pages

    • Peer Reviewed / Int'l Joint Research
  • [Journal Article] Occlusion Handling using Semantic Segmentation and Visibility-Based Rendering for Mixed Reality2018

    • Author(s)
      M. Roxas, T. Hori, T. Fukiage, Y. Okamoto, T. Oishi
    • Journal Title

      Proc. of 24th ACM Symposium on Virtual Reality Software and Technology

      Volume: 1 Pages: 8 pages

    • DOI

      10.1145/3281505.3281546

    • Peer Reviewed
  • [Journal Article] LiDAR and Camera Calibration using Motion Estimated by Sensor Fusion Odometry2018

    • Author(s)
      R. Ishikawa, T. Oishi, K. Ikeuchi
    • Journal Title

      Proc. of IEEE/RSJ International Conference on Intelligent Robots and Systems

      Volume: 1 Pages: 7342-7349

    • DOI

      10.1109/IROS.2018.8593360

    • Peer Reviewed
  • [Presentation] Semantic Instance Meets Salient Object: Study on Video Semantic Salient Instance Segmentation2019

    • Author(s)
      T.-N. Le and A. Sugimoto
    • Organizer
      IEEE Winter Conference on Applications of Computer Vision (WACV2019)
    • Int'l Joint Research
  • [Presentation] SegmentedFusion: 3D Human Body Reconstruction using Stitched Bounding Boxes2018

    • Author(s)
      Y. Shih-Hsuan, D. Thomas, A. Sugimoto, S.-H. Lai, and R. Taniguchi
    • Organizer
      The 6th International Conference on 3D Vision (3DV2018)
    • Int'l Joint Research
  • [Presentation] Linear Solution to the Minimal Absolute Pose Rolling Shutter Problem2018

    • Author(s)
      Zuzana Kukelova, Cenek Albl, Akihiro Sugimoto, and Tomas Pajdla
    • Organizer
      Asian Conference on Computer Vision (ACCV2018)
    • Int'l Joint Research
  • [Presentation] Occlusion Handling using Semantic Segmentation and Visibility-Based Rendering for Mixed Reality2018

    • Author(s)
      M. Roxas, T. Hori, T. Fukiage, Y. Okamoto, T. Oishi
    • Organizer
      ACM Symposium on Virtual Reality Software and Technology
    • Int'l Joint Research
  • [Presentation] LiDAR and Camera Calibration using Motion Estimated by Sensor Fusion Odometry2018

    • Author(s)
      R. Ishikawa, T. Oishi, K. Ikeuchi
    • Organizer
      IEEE/RSJ International Conference on Intelligent Robots and Systems (IROS2018)
    • Int'l Joint Research
  • [Presentation] Interpolation and Extrapolation of LiDAR Data using Camera Images2018

    • Author(s)
      A. Hirata, R. Ishikawa, M. Roxas, T. Oishi
    • Organizer
      The 13th International Workshop on Robust Computer Vision
    • Int'l Joint Research
  • [Presentation] 3D Vision for Mobility2018

    • Author(s)
      T. Oishi
    • Organizer
      2nd International MIS workshop on 3D Vision and Robotics
    • Int'l Joint Research / Invited

URL: 

Published: 2019-12-27   Modified: 2022-08-26  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi