• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2018 Fiscal Year Annual Research Report

シースルー型複合現実感モビリティシステムの開発

Research Project

Project/Area Number 16H05864
Research InstitutionThe University of Tokyo

Principal Investigator

大石 岳史  東京大学, 生産技術研究所, 准教授 (80569509)

Project Period (FY) 2016-04-01 – 2020-03-31
Keywords複合現実感 / 3次元ビジョン / 視覚情報処理
Outline of Annual Research Achievements

本年度はMRモビリティシステムの高精度位置姿勢推定に用いる環境3次元データを効率的に取得するために、移動型3次元計測システムのためのカメラ-LiDARフュージョンによる位置姿勢推定手法を開発した。フュージョンシステムにおいては、センサ間の校正が推定精度に大きな影響を与えることが明らかとなったため、校正誤差を考慮した位置姿勢推定手法を開発した。また現在はセンサ間校正手法の高精度化、校正と位置姿勢の同時推定手法の開発を進めている。年度当初はOSTにおけるMRに必要となるユーザの視線推定手法の開発を計画していたが、視線推定の精度評価や校正手法の開発するにとどまった。これは後述のように一般のHMDにも視線推定機能が実装されつつあることも大きな要因である。一方、計画にはなかったが、これまで開発してきたビデオシースルー型MRのための遮蔽処理技術を拡張し、セマンティック情報を利用したOSTシステムのための遮蔽処理手法を開発した。この手法では、各領域のセマンティック情報と奥行値から、実世界と仮想世界に遮蔽が生じる部分における描画パラメータを調整している。描画には過年度開発した視認性レンダリングを適用しており、上記の遮蔽処理によってOSTにおいても違和感のない重畳が可能となった。

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

OSTモビリティシステムの実現に向けて全体的には順調に開発が進んでいる。LiDARとカメラのフュージョンによる環境の3次元デジタル化、モビリティの位置姿勢推定では、センサ間校正やモビリティ-センサ間校正など新たな手法も開発し、当初計画以上の成果を挙げている。またOSTにおける視認性向上手法はや視認性を考慮したOST向けの遮蔽処理手法も開発が完了している。屋外の遮蔽処理においては、広範囲・高解像度な奥行マップが必要であるため、現在新たにセンサフュージョンによる実時間奥行マップ生成手法の開発を進めている。一方、OSTに必要となる視線推定などの技術については、校正手法について着手したものの、その後の高精度化については開発がやや遅れている。ただし、すでに商用のHMDに機能が搭載されてきており、システム実装においては大きな問題はない。

Strategy for Future Research Activity

次年度は、これまで開発を進めてきたモビリティMRの実現に向けた基礎技術を統合して、OST-HMDによる移動型MRシステムの実装を進めていく。基盤となるビデオシースルー方式による移動型MRシステムを改良して、LiDARと全方位カメラを搭載し、車両のグローバル位置姿勢推定、遮蔽処理のための高解像度奥行マップの生成手法を実装、開発する。また文化財復元コンテンツなどを活用して、開発したシステムを一般公開実験などにおいて評価していく。

  • Research Products

    (9 results)

All 2019 2018 Other

All Int'l Joint Research (1 results) Presentation (8 results) (of which Int'l Joint Research: 6 results,  Invited: 1 results)

  • [Int'l Joint Research] Universite de Picardie Jules Verne(フランス)

    • Country Name
      FRANCE
    • Counterpart Institution
      Universite de Picardie Jules Verne
  • [Presentation] Occlusion Handling using Semantic Segmentation and Visibility-Based Rendering for Mixed Reality2019

    • Author(s)
      M. Roxas, T. Hori, T. Fukiage, Y. Okamoto, T. Oishi
    • Organizer
      The 13th International Workshop on Robust Computer Vision
    • Int'l Joint Research
  • [Presentation] Interpolation and Extrapolation of LiDAR Data using Camera Images2019

    • Author(s)
      A. Hirata, R. Ishikawa, M. Roxas, T. Oishi
    • Organizer
      The 13th International Workshop on Robust Computer Vision
    • Int'l Joint Research
  • [Presentation] Lidar and Camera Calibration using Motions Estimated by Sensor Fusion Odometry2019

    • Author(s)
      R. Ishikawa, T. Oishi, K. Ikeuchi
    • Organizer
      The 13th International Workshop on Robust Computer Vision
    • Int'l Joint Research
  • [Presentation] Occlusion Handling using Semantic Segmentation and Visibility-Based Rendering for Mixed Reality2018

    • Author(s)
      M. Roxas, T. Hori, T. Fukiage, Y. Okamoto, T. Oishi
    • Organizer
      24th ACM Symposium on Virtual Reality Software and Technology
    • Int'l Joint Research
  • [Presentation] LiDAR and Camera Calibration using Motion Estimated by Sensor Fusion Odometry2018

    • Author(s)
      R. Ishikawa, T. Oishi, K. Ikeuchi
    • Organizer
      IEEE/RSJ International Conference on Intelligent Robots and Systems
    • Int'l Joint Research
  • [Presentation] 3D Vision for Mobility2018

    • Author(s)
      T. Oishi
    • Organizer
      2nd International MIS workshop on 3D Vision and Robotics
    • Int'l Joint Research / Invited
  • [Presentation] Occlusion Handling using Semantic Segmentation and Visibility-Based Rendering for Augmented Reality2018

    • Author(s)
      M. Roxas, T. Hori, T. Fukiage, Y. Okamoto, T. Oishi
    • Organizer
      第21回 画像の認識・理解シンポジウム
  • [Presentation] センサフュージョンによるオドメトリを用いたLiDARとカメラのキャリブレーション2018

    • Author(s)
      石川涼一, 大石岳史, 池内克史
    • Organizer
      第21回 画像の認識・理解シンポジウム

URL: 

Published: 2019-12-27  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi