• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2016 Fiscal Year Annual Research Report

モバイル環境におけるRGBDカメラを用いた3次元モデル生成と複合現実感への応用

Research Project

Project/Area Number 16H02851
Research InstitutionNational Institute of Informatics

Principal Investigator

杉本 晃宏  国立情報学研究所, コンテンツ科学研究系, 教授 (30314256)

Co-Investigator(Kenkyū-buntansha) 大石 岳史  東京大学, 生産技術研究所, 准教授 (80569509)
Project Period (FY) 2016-04-01 – 2019-03-31
Keywords3次元モデル / 複合現実感 / モバイル環境 / コンピュータビジョン
Outline of Annual Research Achievements

携帯型端末の普及・性能向上、RGBDカメラの小型化・廉価化により、エンドユーザがモバイル環境で3Dデータを手軽に入手し加工できる環境が整いつつあり、3次元モデル生成の重要性が高まっている。モバイル環境におけるRGBDカメラを用いた3次元モデル生成には、省メモリ化、高精度、リアルタイム処理が必要不可欠であるが、これらすべてを満たすモデル生成技術は存在しない。本研究課題では、携帯型端末に搭載されたRGBDカメラからのストリーミングデータを入力とし、リアルタイムに省メモリで3次元モデルを高精度に生成する技術を開発し、複合現実感に応用することでその有効性を示すことを目指している。

平成28年度は、屋内の大規模環境の3次元モデルの実時間生成を目指して、最適あてはめ平面の効率的探索、計測データ統合の高精度化、復元環境の大規模化に伴う3次元モデルのひずみを抑える位置合せとデータ統合、に取り組んだ。その結果、入力のストリーミングデータを時系列に小セグメントに分割し、各セグメントごとに独立に3次元局所モデルを生成し、モデルひずみを抑えつつ局所モデルを統合して大局モデルを生成する手法を開発した。この手法では、平面領域の集合で3次元モデルを表現し、実時間(20~25fps)での高精度な3次元モデル生成を実現している。実験によって、図書室(およそ60m x 5m x 2.5m の規模)の3次元モデル化を実証した。また、屋外AR・MRにおいて位置姿勢推定、遮蔽処理に必要となる周辺環境の3次元デジタルデータを取得するため、モバイルプラットフォームにLiDARおよび全方位カメラを搭載した高精度、高密度計測システムを開発した。また移動しながら撮影した連続全方位映像からシーンの奥行きを推定し、さらにユーザに指定された物体をシーン映像中から除去する手法を開発した。

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

平成28年度に予定していた研究項目に対して、おおむね当初の見込み通りの研究成果を上げている。なお、3次元モデル表現に関しては、当初の予定を修正するアプローチの方が柔軟性があり、動的環境にも対応可能であるとの見通しを得、3次元モデル表現に関する新たな展開を見出すことができた。

Strategy for Future Research Activity

研究計画に沿って、3次元モデル表現の改良とモバイル環境下での複合現実感への応用に取り組む。なお、平成28年度の検討によって、区分平面による3次元モデル表現に関しては、処理時間の観点から必ずしも適さないアプローチであることが判明し、先に点群の領域分割を行い、分割された領域ごとに平面パッチ表現を行うことでこの問題は解決されるとともに、動的環境にも対応可能であるとの見通しを得たので、動的環境手の対応を念頭に置いた3次元モデル表現の改良を推進する。

  • Research Products

    (16 results)

All 2017 2016 Other

All Int'l Joint Research (1 results) Journal Article (6 results) (of which Int'l Joint Research: 1 results,  Peer Reviewed: 6 results,  Acknowledgement Compliant: 3 results) Presentation (9 results) (of which Int'l Joint Research: 9 results)

  • [Int'l Joint Research] チェコ工科大(チェコ)

    • Country Name
      CZECH
    • Counterpart Institution
      チェコ工科大
  • [Journal Article] Parametric Surface Representation with Bump Image for Dense 3D Modeling Using an RBG-D Camera2017

    • Author(s)
      D. Thomas and A. Sugimoto
    • Journal Title

      International Journal of Computer Vision

      Volume: 印刷中 Pages: 印刷中

    • DOI

      10.1007/s11263-016-0969-3

    • Peer Reviewed / Acknowledgement Compliant
  • [Journal Article] Modeling large-scale indoor scenes with rigid fragments using RGB-D cameras2017

    • Author(s)
      D. Thomas and A. Sugimoto
    • Journal Title

      Computer Vision and Image Understanding

      Volume: 印刷中 Pages: 印刷中

    • DOI

      10.1016/j.cviu.2016.11.008

    • Peer Reviewed
  • [Journal Article] Degeneracies in Rolling Shutter SfM2016

    • Author(s)
      C. Albl, A. Sugimoto, and T. Pajdla
    • Journal Title

      Proc. of European Conference on Computer Vision (ECCV2016)

      Volume: Part V (LNCS Vol. 9909) Pages: 36-51

    • DOI

      10.1007/978-3-319-46454-1_3

    • Peer Reviewed / Int'l Joint Research / Acknowledgement Compliant
  • [Journal Article] Room Reconstruction from a Single Spherical Image by Higher-order Energy Minimization2016

    • Author(s)
      K. Fukano, Y. Mochizuki, S. Iizuka, E. Simo-Sera, A. Sugimoto, and H. Ishikawa
    • Journal Title

      Proc. of International Conference on Pattern Recognition (ICPR2016)

      Volume: 1 Pages: 1768-1773

    • Peer Reviewed
  • [Journal Article] A 3D Reconstruction with High Density and Accuracy using Laser Profiler and Camera Fusion System on a Rover2016

    • Author(s)
      R. Ishikawa, M. Roxas, Y. Sato, T. Oishi, T. Masuda, K. Ikeuchi
    • Journal Title

      Proc. International Conference on 3D Vision (3DV2016)

      Volume: 1 Pages: 620-628

    • DOI

      10.1109/3DV.2016.70

    • Peer Reviewed / Acknowledgement Compliant
  • [Journal Article] Outdoor Omnidirectional Video Completion via Depth Estimation by Motion Analysis2016

    • Author(s)
      C. Morales, S. Ono, Y. Okamoto, M. Roxas, T. Oishi and K. Ikeuchi
    • Journal Title

      Proc. of International Conference on Pattern Recognition (ICPR2016)

      Volume: 1 Pages: 3934-3939

    • Peer Reviewed
  • [Presentation] Variational Optical Flow with 3D Smoothness Constraint for a Single Moving Camera2016

    • Author(s)
      Menandro Roxas, Tomoki Hori, and Takeshi Oishi
    • Organizer
      The 11th International Workshop on Robust Computer Vision
    • Place of Presentation
      デジョン(韓国)
    • Year and Date
      2016-12-17 – 2016-12-18
    • Int'l Joint Research
  • [Presentation] Panoramic Video Completion from Depth Recovery by Pixel Motion Assessment2016

    • Author(s)
      Carlos Morales, Shintaro Ono, Yasuhide Okamoto, Menandro Roxas, Takeshi Oishi and Katsushi Ikeuchi
    • Organizer
      The 11th International Workshop on Robust Computer Vision
    • Place of Presentation
      デジョン(韓国)
    • Year and Date
      2016-12-17 – 2016-12-18
    • Int'l Joint Research
  • [Presentation] A Sensor Fusion 3D Reconstruction System using Depth-based Triangulation and Multimodal Registration2016

    • Author(s)
      Ryoichi Ishikawa, Menandro Roxas, Yoshihiro Sato, Takeshi Oishi, Takeshi Masuda, Katsushi Ikeuchi
    • Organizer
      The 11th International Workshop on Robust Computer Vision
    • Place of Presentation
      デジョン(韓国)
    • Year and Date
      2016-12-17 – 2016-12-18
    • Int'l Joint Research
  • [Presentation] Occlusion Handling by Semantic Segmentation and Transparency Blending for Outdoor Mixed Reality2016

    • Author(s)
      Tomoki Hori, Taiki Fukiage, Roxas Menandro, Yasuhide Okamato and Takeshi Oishi
    • Organizer
      The 11th International Workshop on Robust Computer Vision
    • Place of Presentation
      デジョン(韓国)
    • Year and Date
      2016-12-17 – 2016-12-18
    • Int'l Joint Research
  • [Presentation] Robust Motion Estimation for MR Mobility System with Multiple Panoramic Cameras2016

    • Author(s)
      Yasuhide Okamoto, Kosuke Fujimoto, Takeshi Oishi and Katsushi Ikeuchi
    • Organizer
      The 11th International Workshop on Robust Computer Vision
    • Place of Presentation
      デジョン(韓国)
    • Year and Date
      2016-12-17 – 2016-12-18
    • Int'l Joint Research
  • [Presentation] Room Reconstruction from a Single Spherical Image by Higher-order Energy Minimization2016

    • Author(s)
      K. Fukano, Y. Mochizuki, S. Iizuka, E. Simo-Sera, A. Sugimoto, and H. Ishikawa
    • Organizer
      International Conference on Pattern Recognition
    • Place of Presentation
      カンクン(メキシコ)
    • Year and Date
      2016-12-04 – 2016-12-08
    • Int'l Joint Research
  • [Presentation] Outdoor Omnidirectional Video Completion via Depth Estimation by Motion Analysis2016

    • Author(s)
      C. Morales, S. Ono, Y. Okamoto, M. Roxas, T. Oishi and K. Ikeuchi
    • Organizer
      International Conference on Pattern Recognition
    • Place of Presentation
      カンクン(メキシコ)
    • Year and Date
      2016-12-04 – 2016-12-08
    • Int'l Joint Research
  • [Presentation] A 3D Reconstruction with High Density and Accuracy using Laser Profiler and Camera Fusion System on a Rover2016

    • Author(s)
      R. Ishikawa, M. Roxas, Y. Sato, T. Oishi, T. Masuda, K. Ikeuchi
    • Organizer
      International Conference on 3D Vision
    • Place of Presentation
      スタンフォード(アメリカ)
    • Year and Date
      2016-10-25 – 2016-10-28
    • Int'l Joint Research
  • [Presentation] Degeneracies in Rolling Shutter SfM2016

    • Author(s)
      C. Albl, A. Sugimoto, and T. Pajdla
    • Organizer
      European Conference on Computer Vision
    • Place of Presentation
      アムステルダム(オランダ)
    • Year and Date
      2016-10-08 – 2016-10-16
    • Int'l Joint Research

URL: 

Published: 2018-01-16   Modified: 2022-10-19  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi