• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to previous page

視覚的障害物がキャンセルされた光線場を実空間中に創出する超多眼系構築技術の探索

Research Project

Project/Area Number 21K19809
Research Category

Grant-in-Aid for Challenging Research (Exploratory)

Allocation TypeMulti-year Fund
Review Section Medium-sized Section 61:Human informatics and related fields
Research InstitutionNational Institute of Informatics

Principal Investigator

児玉 和也  国立情報学研究所, コンテンツ科学研究系, 准教授 (80321579)

Project Period (FY) 2021-07-09 – 2025-03-31
Project Status Granted (Fiscal Year 2023)
Budget Amount *help
¥6,370,000 (Direct Cost: ¥4,900,000、Indirect Cost: ¥1,470,000)
Fiscal Year 2023: ¥1,690,000 (Direct Cost: ¥1,300,000、Indirect Cost: ¥390,000)
Fiscal Year 2022: ¥1,820,000 (Direct Cost: ¥1,400,000、Indirect Cost: ¥420,000)
Fiscal Year 2021: ¥2,860,000 (Direct Cost: ¥2,200,000、Indirect Cost: ¥660,000)
Keywords3次元画像 / 光線 / 多眼 / 拡張現実感 / 立体映像
Outline of Research at the Start

新たな立体感を実現するものとして、固定視点に制約される両眼の2方向だけでなく、複数人の同時観察を可能とするよう空間中を飛び交う光線群そのものの取得や再現を試みる、200眼の表示系、100眼の撮像系等の研究開発が進んでいる。

こうした超多眼の撮像・表示系を組み合わせ、柱や壁等の視覚的障害物の前後で光線情報を適切に伝搬させれば等価的にその「透明化」が達成され、非効率な実空間の有効活用が期待される。

本研究では、入出力間で柱の厚み等も考慮した膨大な光線情報の変換を実時間で行う手法を明らかにした上、超多眼系としての実証的検討のため撮像、表示ともに低コストな実装によるプロトタイプの構築までを探求する。

Outline of Annual Research Achievements

小劇場やライブハウスは狭小な雑居ビル等を再利用したものが多く、しばしば視覚的に障害となる柱などが存在するものの、その対策は前後に単一視点のカメラとモニタを設ける程度で、大きく臨場感と当該実空間の利用効率を損ねている。これに対し、超多眼の撮像系と表示系を組み合わせ、前後で<光線場>を適切に伝搬させれば等価的に「障害物の透明化」が達成される。この場合、入出力間で柱の厚み等も考慮した光線情報の変換が必要となるが、もともと直接に見えている実空間とも整合した高い臨場感を有する観察が、同時に多数の観客間でそれぞれ可能となる。本研究では、撮像系や表示系の歪みの補正も含め、膨大な光線情報に対し、こうした変換を実時間で行う手法を明らかにした上、超多眼系としての実証的検討のため、撮像および表示ともに低コストな実装によるプロトタイプの構築までを探求する。

今年度は、前年度に引き続き、以上に述べた研究目的の達成に向け、視覚的障害物の透明化を仮想的に実現する超多眼系を提案するにあたり、そのプロトタイプを簡易に構築するための表示系、撮像系の詳細な設計と、これら入出力系の効率的な協調法の導出に取り組んだ。とくに、超多眼撮像系の実装の高精度化、ならびに超多眼表示系の低コストで柔軟な構成法を検討した。

具体的には、まず前者において、ミラーアレイ上の鏡面群に従い単眼カメラ位置を推定する手法を検証、これを改善し実際に当該のカメラを理想的な位置に配置するため、その概形像のみから誤差の縮減を実現する制御法を導出した。この場合、取得される光線情報の精度が容易に保証されるため、表示系との協調が必要な超多眼プロトタイプの構築には好適である。あわせて、後者においても、必要となる取得光線情報の稠密補間が高速化できるよう、設計パラメータが柔軟に再構成可能な表示系をあらたに構築、その基本機能までを実証した。

Current Status of Research Progress
Current Status of Research Progress

3: Progress in research has been slightly delayed.

Reason

超多眼の撮像・表示系を組み合わせ、柱や壁等の視覚的障害物の前後で光線情報を適切に伝搬させれば等価的にその「透明化」が達成され、非効率な実空間の有効活用が期待される。本研究では、入出力間で膨大な光線情報の変換を実時間で行う手法を明らかにした上、超多眼系としての実証的検討のため撮像、表示ともに低コストな実装によるプロトタイプの構築までを探求する。

実際、こうした研究課題に対し、令和3年度までに表示系の最適パラメータ等の理論的検証を進めることで、コロナ禍の制約された実験環境でも小規模に試行錯誤を繰り返し、撮像系を含め計画以上に超多眼プロトタイプ全体への要求が詳細に明確化された。当該年度の精緻な理論化に基づく超多眼系の柔軟な設計法は、令和4年度以降、当初計画に準じ本研究を推し進めるのに非常に効果的で、令和3年度後半に予定されながらコロナ禍拡大の影響もあり部材調達等が遅延がちとなった実システムへの展開に関し、早期に検証評価までを可能とした。これにより、令和4年度後半、当該年度予定であった、超多眼の撮像系から表示系への実時間光線場伝搬処理の検討に着手、短期間のうちに成果を上げるとともに、続く令和5年度を、その拡張と本来計画分である超多眼プロトタイプ実装に充てることができた。ただ一方、このように令和5年度も令和4年度に引き続き、年度全体で1年分を越える進捗を達成したものの、令和3年度分からのコロナ禍の影響に起因する遅延部分全体を解消するには至らず、とくにプロトタイプ全体の実証的検討を中心に当初予定を上回ることまでは出来なかった。

以上から、本研究課題の進捗は、現在までのところ「やや遅れている」と評価されるが、既に承認された令和6年度への期間延長を前提とすることで、今後も当初の計画に準じた展開が推進可能な状況であるといえる。

Strategy for Future Research Activity

今後は、既に承認された令和6年度への期間延長に基づき、令和5年度まで概ね各構成要素ごとに検討を進めてきた、提案する超多眼系のプロトタイプ構築に関し、これらを統合する全体の実装とその光線場伝搬の高品質化について中心的に取り組む予定である。

具体的には、まず、令和5年度に導出した、相対するミラーアレイの概形のみにより単眼カメラの理想的な配置を実現する制御法を実際に適用、取得光線情報の精度を保証しつつ、こうした仮想カメラアレイからGPU上への多視点映像入力の改善を図る。とくに、当該カメラをステージ上に固定するなどして配置制御し、ミラーアレイ上の鏡像群やステージに関する事前知識等によらず、所望の位置合わせが達成されるよう、本手法の体系化を行う。あわせて、こうしてGPU上に入力された光線情報の稠密補間が、効率的に高速化できるよう、同様に令和5年度に構築、その基本機能までを確認した、設計パラメータが柔軟に再構成可能な表示系を組み込み、超多眼プロトタイプ全体で整合した光線場伝搬、ならびにこれに基づく視覚的障害物の仮想的な透明化を実証していく。

また、撮像系のさらなる簡易化への要請に鑑み、既に承認された令和6年度への期間延長を最大限に生かし、上述したような超多眼のものを、画像情報に合わせ奥行情報が出力される一般的なRGB-Dカメラ等で代替する構成も検討する。この際、超多眼系として光線場伝搬品質を含め一定の互換性を保つため、RGB-D情報から光線情報への高速変換法を導出し、これを組み込むことで、そのまま研究課題である視覚的障害物の仮想的透明化へと展開、単に独立の機能を提供するのではなく、これにより本提案が採用する光線場伝搬の枠組の高い汎用性を、より深く実証することを目指す。

Report

(3 results)
  • 2023 Research-status Report
  • 2022 Research-status Report
  • 2021 Research-status Report
  • Research Products

    (21 results)

All 2024 2023 2022 2021 Other

All Int'l Joint Research (4 results) Journal Article (9 results) (of which Int'l Joint Research: 5 results,  Peer Reviewed: 9 results,  Open Access: 1 results) Presentation (8 results)

  • [Int'l Joint Research] York University(カナダ)

    • Related Report
      2023 Research-status Report
  • [Int'l Joint Research] York University(カナダ)

    • Related Report
      2022 Research-status Report
  • [Int'l Joint Research] 天津財経大学(中国)

    • Related Report
      2022 Research-status Report
  • [Int'l Joint Research] York University(カナダ)

    • Related Report
      2021 Research-status Report
  • [Journal Article] Efficient graph learning for 4D light field image denoising based on data augmentation using single-view images2024

    • Author(s)
      Rino Yoshida, Kazuya Kodama, Gene Cheung, Takayuki Hamamoto
    • Journal Title

      International Workshop on Advanced Image Technology

      Volume: 2024(Poster A) Pages: 1-1

    • Related Report
      2023 Research-status Report
    • Peer Reviewed / Int'l Joint Research
  • [Journal Article] Filter Bank for Perfect Reconstruction of Light Field from Its Focal Stack2023

    • Author(s)
      Akira Kubota, Daiki Tamura, Asami Ito, Kazuya Kodama
    • Journal Title

      IEICE Transactions on Information and Systems

      Volume: E106.D Issue: 10 Pages: 1650-1660

    • DOI

      10.1587/transinf.2023PCP0006

    • ISSN
      0916-8532, 1745-1361
    • Year and Date
      2023-10-01
    • Related Report
      2023 Research-status Report
    • Peer Reviewed
  • [Journal Article] ミラーアレイを介した多視点撮像系における鏡像群を用いた単眼カメラの位置合わせの検討2023

    • Author(s)
      前田 峻輔, 児玉 和也, 浜本 隆之
    • Journal Title

      3次元画像コンファレンス

      Volume: 2023(P-1) Pages: 1-4

    • Related Report
      2023 Research-status Report
    • Peer Reviewed
  • [Journal Article] 色チャネルごとのグラフ学習に基づく4次元光線情報の雑音抑制2023

    • Author(s)
      吉田 莉乃, 児玉 和也, チョン ジーン, 浜本 隆之
    • Journal Title

      3次元画像コンファレンス

      Volume: 2023(P-2) Pages: 1-4

    • Related Report
      2023 Research-status Report
    • Peer Reviewed / Int'l Joint Research
  • [Journal Article] Robust extension of light fields with probable 3D distribution based on iterative scene estimation from multi-focus images2023

    • Author(s)
      Zhen Wang, Lan Huang, Kazuya Kodama
    • Journal Title

      Signal Processing: Image Communication

      Volume: 111(116896) Pages: 1-13

    • DOI

      10.1016/j.image.2022.116896

    • Related Report
      2022 Research-status Report
    • Peer Reviewed / Open Access / Int'l Joint Research
  • [Journal Article] Dense view interpolation of 4D light fields for real-time augmented reality applications2022

    • Author(s)
      Hidemichi Yoshino, Kazuya Kodama, Takayuki Hamamoto
    • Journal Title

      APSIPA Annual Summit and Conference

      Volume: 2022 Pages: 1626-1631

    • DOI

      10.23919/apsipaasc55919.2022.9979976

    • Related Report
      2022 Research-status Report
    • Peer Reviewed
  • [Journal Article] Unrolling Graph Total Variation for Light Field Image Denoising2022

    • Author(s)
      Rino Yoshida, Kazuya Kodama, Huy Vu, Gene Cheung, Takayuki Hamamoto
    • Journal Title

      IEEE International Conference on Image Processing

      Volume: 2022 Pages: 2162-2166

    • DOI

      10.1109/icip46576.2022.9897244

    • Related Report
      2022 Research-status Report
    • Peer Reviewed / Int'l Joint Research
  • [Journal Article] 単視点から多視点へのデータ拡張に基づく4 次元光線情報のグラフ学習型雑音抑制の効率化の検討2022

    • Author(s)
      吉田 莉乃, 児玉 和也, ヴュー フイ, チョン ジーン, 浜本 隆之
    • Journal Title

      3次元画像コンファレンス

      Volume: 2022(P-5) Pages: 1-4

    • Related Report
      2022 Research-status Report
    • Peer Reviewed / Int'l Joint Research
  • [Journal Article] A study on 5-D light field compression using multi-focus images2022

    • Author(s)
      Shuho Umebayashi, Kazuya Kodama, Takayuki Hamamoto
    • Journal Title

      SPIE 2022 International Workshop on Advanced Image Technology

      Volume: 3B2 Pages: 1-6

    • Related Report
      2021 Research-status Report
    • Peer Reviewed
  • [Presentation] 障害物の透明化に向けた裸眼立体表示系の簡易な構成の検討2024

    • Author(s)
      渡辺 哲生, 児玉 和也, 浜本 隆之
    • Organizer
      電子情報通信学会総合大会, D-11A-17, 1-1
    • Related Report
      2023 Research-status Report
  • [Presentation] ミラーアレイを介した多視点撮像系における鏡像群を用いた単眼カメラ位置推定の検討2023

    • Author(s)
      前田 峻輔, 児玉 和也, 浜本 隆之
    • Organizer
      画像符号化/映像メディア処理シンポジウム(PCSJ/IMPS 2023), P2-08, 60-61
    • Related Report
      2023 Research-status Report
  • [Presentation] 4次元光線情報のグラフ学習型雑雑音抑制における復元パッチ間の加重平均の検討2023

    • Author(s)
      吉田 莉乃, 児玉 和也, チョン ジーン, 浜本 隆之
    • Organizer
      画像符号化/映像メディア処理シンポジウム(PCSJ/IMPS 2023), P4-01, 108-109
    • Related Report
      2023 Research-status Report
  • [Presentation] リアルタイム光線伝搬の簡易実装に向けた稠密視点補間の効率化と超多眼出力系への展開2022

    • Author(s)
      吉野 秀道, 児玉 和也, 浜本 隆之
    • Organizer
      画像符号化/映像メディア処理シンポジウム(PCSJ/IMPS 2022)
    • Related Report
      2022 Research-status Report
  • [Presentation] 画素単位で重みを調整する忠実項を組み込んだグラフ学習に基づく4 次元光線情報の高精度雑音抑制2022

    • Author(s)
      吉田 莉乃, 児玉 和也, チョン ジーン, 浜本 隆之
    • Organizer
      画像符号化/映像メディア処理シンポジウム(PCSJ/IMPS 2022)
    • Related Report
      2022 Research-status Report
  • [Presentation] 疎な4次元光線情報の奥行き分布に応じた稠密補間処理の効率化2022

    • Author(s)
      吉野 秀道, 児玉 和也, 浜本 隆之
    • Organizer
      電子情報通信学会 画像工学研究会, 信学技報, IE2021-27
    • Related Report
      2021 Research-status Report
  • [Presentation] グラフ学習に基づく光線空間上の雑音除去の検討2021

    • Author(s)
      吉田 莉乃, 児玉 和也, ヴュー フイ, チョン ジーン, 浜本 隆之
    • Organizer
      電子情報通信学会 画像工学研究会, 信学技報, IE2021-21
    • Related Report
      2021 Research-status Report
  • [Presentation] 疎な4 次元光線情報の奥行き分布に応じた稠密補間処理の効率化の検討2021

    • Author(s)
      吉野 秀道, 児玉 和也, 浜本 隆之
    • Organizer
      画像符号化/映像メディア処理シンポジウム(PCSJ/IMPS 2021)
    • Related Report
      2021 Research-status Report

URL: 

Published: 2021-07-13   Modified: 2024-12-25  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi