• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 前のページに戻る

同世界放送のための分散型リアルタイム映像収集合成技術

研究課題

研究課題/領域番号 22K12009
研究種目

基盤研究(C)

配分区分基金
応募区分一般
審査区分 小区分60060:情報ネットワーク関連
研究機関福井大学

研究代表者

川上 朋也  福井大学, 学術研究院工学系部門, 准教授 (30710470)

研究分担者 寺西 裕一  国立研究開発法人情報通信研究機構, ネットワーク研究所, 研究マネージャー (30403009)
義久 智樹  滋賀大学, データサイエンス学系, 教授 (00402743)
研究期間 (年度) 2022-04-01 – 2025-03-31
研究課題ステータス 交付 (2023年度)
配分額 *注記
4,030千円 (直接経費: 3,100千円、間接経費: 930千円)
2024年度: 1,300千円 (直接経費: 1,000千円、間接経費: 300千円)
2023年度: 1,300千円 (直接経費: 1,000千円、間接経費: 300千円)
2022年度: 1,430千円 (直接経費: 1,100千円、間接経費: 330千円)
キーワードライブ放送 / 映像配信 / 分散処理 / 画像処理 / テレプレゼンス / 映像合成 / 分散合成 / データ収集 / 遅延低減
研究開始時の研究の概要

複数のリアルタイム映像に背景除去などの処理を行い、抽出した撮影対象を一つの映像内に合成することで、撮影対象がまるで同じ空間に存在するようなライブ放送を実現できる。本研究課題ではこのようなライブ放送を「同世界放送」と呼び、高いスケーラビリティでの実現を目的とする。多数の撮影者や視聴者が存在する場合、既存の映像収集方式や処理割り当て方式では、視聴端末での再生待ちや視聴中の再生途切れが増大する。本研究課題では快適な同世界放送を広域かつ大規模に提供するため、「合成処理を伴う分散リアルタイム映像収集」「要求品質に基づく適応的品質調整」「推定負荷に基づく動的ノード仮想化」の技術を確立する。

研究実績の概要

複数のリアルタイム映像に背景除去などの処理を行い、抽出した撮影対象を一つの映像内に合成することで、撮影対象がまるで同じ空間に存在するようなライブ放送を実現できる。本研究課題ではこのようなライブ放送を「同世界放送」と呼び、高いスケーラビリティでの同世界放送システムの実現を目的とする。高いスケーラビリティを維持したシステムでは処理コンピュータ(ノード)の追加や削除によって各ノードの処理負荷や通信遅延を制御でき、同世界映像が視聴端末で再生されるまでの待ち時間や視聴中の再生途切れ時間も軽減できる。2023年度には「要求品質に基づく適応的品質調整」に関する研究を進め、リアルタイムに収集や処理が可能な映像品質の調査と検証を行った。さらに、同世界放送で必要な映像の背景の除去や置換について、機械学習を用いて背景箇所を推定し、リアルタイムに背景の除去や置換が可能な手法を提案した。提案手法は複数台の計算機やスマートフォンを用いて実装し、背景箇所の推定や置換などの高負荷な処理はネットワーク内のGPUを搭載した高性能な計算機に依頼することで、低性能な計算機やスマートフォンの画面上でも背景除去後の映像をリアルタイムに視聴できることを確認した。実装システムは情報技術に関する展示会でのデモや博物館での実証実験も行った。デモや実証実験での一般の体験者からの評価もおおむね高く、特に実証実験では1日で延べ60名以上が実装システムを体験し、アンケートの回答からは今後の改善につながる多くの貴重な意見が得られた。

現在までの達成度 (区分)
現在までの達成度 (区分)

2: おおむね順調に進展している

理由

本研究課題は2022年度から3年間を予定し、快適な同世界放送を広域かつ大規模に提供するため、「合成処理を伴う分散リアルタイム映像収集」「要求品質に基づく適応的品質調整」「推定負荷に基づく動的ノード仮想化」の3つの技術の確立を目指していた。2023年度には「要求品質に基づく適応的品質調整」やリアルタイムでの映像の背景の除去や置換について研究を進めた。研究成果はオープンアクセスの英文論文誌や複数の国際会議でも発表し、英文論文誌に掲載された論文は同論文誌の推薦論文である。以上により、本研究は計画時以上の成果を上げており、おおむね順調に進展している。

今後の研究の推進方策

2024年度には同世界放送で必要な映像の背景の除去や置換について、リアルタイムに実現可能な手法の研究を引き続き進める。2024年度にはリアルタイムに背景の除去や置換を行う映像や端末の数を増やし、評価における利用者の規模を拡大する。2023年度と同様、展示会でのデモや博物館などの実証実験も行い、一般の利用者による評価も幅広く行う。また、「推定負荷に基づく動的ノード仮想化」に関する技術にも取り組み、リアルタイム映像の収集や要求品質の状況、各ノードの性能などに基づき、仮想的なノード(仮想ノード)の追加や削除を動的に行う手法を検討する。処理性能に比べて負荷の小さいノードが仮想ノードをオーバレイネットワーク上に動的に追加し、ほかのノードの処理を分担することで、各ノードの負荷をそれぞれの許容値以下に抑え、深刻な処理遅延の発生を軽減できる。

報告書

(2件)
  • 2023 実施状況報告書
  • 2022 実施状況報告書
  • 研究成果

    (25件)

すべて 2024 2023 2022

すべて 雑誌論文 (2件) (うち査読あり 2件、 オープンアクセス 2件) 学会発表 (23件) (うち国際学会 8件)

  • [雑誌論文] 同世界放送:映像の収集と合成をともなう分散型インターネットライブ放送2023

    • 著者名/発表者名
      牧田航輝、川上朋也、松本哲、義久智樹、寺西裕一
    • 雑誌名

      情報処理学会論文誌

      巻: 64 号: 2 ページ: 499-510

    • DOI

      10.20729/00224262

    • ISSN
      1882-7764
    • 年月日
      2023-02-15
    • 関連する報告書
      2022 実施状況報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] A Real-time Background Replacement System Based on Estimated Depth for AR Applications2023

    • 著者名/発表者名
      Yoshihiro Tsuboki, Tomoya Kawakami, Satoru Matsumoto, Tomoki Yoshihisa, and Yuuichi Teranishi
    • 雑誌名

      Journal of Information Processing

      巻: 31 号: 0 ページ: 758-765

    • DOI

      10.2197/ipsjjip.31.758

    • ISSN
      1882-6652
    • 関連する報告書
      2023 実施状況報告書
    • 査読あり / オープンアクセス
  • [学会発表] メタバースオブジェクト分散管理におけるデータキャッシュアルゴリズムの検討2024

    • 著者名/発表者名
      青木総樹, 川上朋也, 松本 哲, 義久智樹, 寺西裕一
    • 学会等名
      情報処理学会研究報告
    • 関連する報告書
      2023 実施状況報告書
  • [学会発表] A Metaverse Object Management Method Based on Visible Areas Using Geographical Overlay Networks2023

    • 著者名/発表者名
      Nobuki Aoki, Tomoya Kawakami, Satoru Matsumoto, Tomoki Yoshihisa, and Yuuichi Teranishi
    • 学会等名
      The 47th IEEE International Computer, Software and Applications Conference (COMPSAC 2023), Student Research Symposium (SRS)
    • 関連する報告書
      2023 実施状況報告書
    • 国際学会
  • [学会発表] A Process Reduction Method for Spatial Information in Real-Time AR Snow Visualization Systems2023

    • 著者名/発表者名
      Yasuaki Kobayashi, Tomoya Kawakami, Satoru Matsumoto, Tomoki Yoshihisa, and Yuuichi Teranishi
    • 学会等名
      The 47th IEEE International Computer, Software and Applications Conference (COMPSAC 2023) Workshops
    • 関連する報告書
      2023 実施状況報告書
    • 国際学会
  • [学会発表] 可視領域に基づくメタバースオブジェクト分散管理手法の3D都市モデルを用いた評価2023

    • 著者名/発表者名
      青木総樹, 川上朋也, 松本 哲, 義久智樹, 寺西裕一
    • 学会等名
      マルチメディア,分散,協調とモバイル (DICOMO2023) シンポジウム
    • 関連する報告書
      2023 実施状況報告書
  • [学会発表] An Adaptive Virtual Node Management Method for Overlay Networks Based on Multiple Time Intervals2023

    • 著者名/発表者名
      Tatsuya Kubo and Tomoya Kawakami
    • 学会等名
      The 17th International Conference on Complex, Intelligent, and Software Intensive Systems (CISIS 2023)
    • 関連する報告書
      2023 実施状況報告書
    • 国際学会
  • [学会発表] 複数の時間間隔に基づくオーバレイネットワークにおけるクエリ先読み方式の評価2023

    • 著者名/発表者名
      久保達也, 川上朋也
    • 学会等名
      第31回情報処理学会マルチメディア通信と分散処理ワークショップ (DPSWS2023), ポスター発表
    • 関連する報告書
      2023 実施状況報告書
  • [学会発表] メタバースオブジェクト分散管理におけるキャッシュデータ可視化システムの実装2023

    • 著者名/発表者名
      青木総樹, 川上朋也, 松本 哲, 義久智樹, 寺西裕一
    • 学会等名
      第31回情報処理学会マルチメディア通信と分散処理ワークショップ (DPSWS2023), デモ発表
    • 関連する報告書
      2023 実施状況報告書
  • [学会発表] セマンティックセグメンテーションを用いた動的背景置換によるAR仮想空間システムの実装2023

    • 著者名/発表者名
      坪木良宏, 川上朋也, 松本 哲, 義久智樹, 寺西裕一
    • 学会等名
      第31回情報処理学会マルチメディア通信と分散処理ワークショップ (DPSWS2023), デモ発表
    • 関連する報告書
      2023 実施状況報告書
  • [学会発表] 拡張現実を用いた危険回避のための近未来情報提示手法の検討2023

    • 著者名/発表者名
      猪野季輝, 川上朋也, 松本 哲, 義久智樹, 寺西裕一
    • 学会等名
      情報処理学会研究報告
    • 関連する報告書
      2023 実施状況報告書
  • [学会発表] A Guitar Chord Recognition Method Based on Depth Images of Hand Shapes2023

    • 著者名/発表者名
      Fumiya Shintaku and Tomoya Kawakami
    • 学会等名
      The 14th International Conference on Mobile Computing and Ubiquitous Networking (ICMU 2023)
    • 関連する報告書
      2023 実施状況報告書
    • 国際学会
  • [学会発表] A Tree Construction Method with a Genetic Algorithm for the Same World Broadcasting System2023

    • 著者名/発表者名
      Koki Makida, Tomoya Kawakami, Satoru Matsumoto, Tomoki Yoshihisa, and Yuuichi Teranishi
    • 学会等名
      The 2022 Workshop on Internet Architecture and Applications (IA 2022)
    • 関連する報告書
      2022 実施状況報告書
    • 国際学会
  • [学会発表] Implementation of an AR Virtual Space System with Dynamic Background Replacement Based on Estimated Depth2023

    • 著者名/発表者名
      Yoshihiro Tsuboki, Tomoya Kawakami, Satoru Matsumoto, Tomoki Yoshihisa, and Yuuichi Teranishi
    • 学会等名
      The 2022 Workshop on Internet Architecture and Applications (IA 2022)
    • 関連する報告書
      2022 実施状況報告書
  • [学会発表] エッジコンピューティング環境におけるリアルタイムAR積雪可視化システムのための空間情報処理の軽量化手法2023

    • 著者名/発表者名
      小林靖明, 川上朋也, 松本 哲, 義久智樹, 寺西裕一
    • 学会等名
      情報処理学会研究報告
    • 関連する報告書
      2022 実施状況報告書
  • [学会発表] 同世界放送システムにおける遺伝的アプローチによる映像収集木構築アルゴリズムの提案2023

    • 著者名/発表者名
      牧田航輝, 川上朋也, 松本 哲, 義久智樹, 寺西裕一
    • 学会等名
      情報処理学会研究報告
    • 関連する報告書
      2022 実施状況報告書
  • [学会発表] A Tree Construction Method for Distributed Video Collection and Composition on the Same World Broadcasting System2022

    • 著者名/発表者名
      Koki Makida, Tomoya Kawakami, Satoru Matsumoto, Tomoki Yoshihisa, Yuuichi Teranishi, and Shinji Shimojo
    • 学会等名
      The 46th IEEE Annual International Computer, Software and Applications Conference (COMPSAC 2022)
    • 関連する報告書
      2022 実施状況報告書
    • 国際学会
  • [学会発表] A Real-Time Background Replacement Method Based on Estimated Depth for AR Applications2022

    • 著者名/発表者名
      Yoshihiro Tsuboki, Tomoya Kawakami, Satoru Matsumoto, Tomoki Yoshihisa, and Yuuichi Teranishi
    • 学会等名
      The 46th Annual International Computer, Software and Applications Conference (COMPSAC 2022) Workshops
    • 関連する報告書
      2022 実施状況報告書
    • 国際学会
  • [学会発表] 背景置換処理のオフローディングによるARシステムの実装評価2022

    • 著者名/発表者名
      坪木良宏, 川上朋也, 松本 哲, 義久智樹, 寺西裕一
    • 学会等名
      マルチメディア,分散,協調とモバイル (DICOMO2022) シンポジウム
    • 関連する報告書
      2022 実施状況報告書
  • [学会発表] 同世界放送システムのための遺伝的アプローチによる映像収集木構築手法の検討2022

    • 著者名/発表者名
      牧田航輝, 川上朋也, 松本 哲, 義久智樹, 寺西裕一
    • 学会等名
      マルチメディア,分散,協調とモバイル (DICOMO2022) シンポジウム
    • 関連する報告書
      2022 実施状況報告書
  • [学会発表] 空間情報処理のオフローディングによるリアルタイムAR積雪可視化システムの検討2022

    • 著者名/発表者名
      小林靖明, 川上朋也, 松本 哲, 義久智樹, 寺西裕一
    • 学会等名
      マルチメディア,分散,協調とモバイル (DICOMO2022) シンポジウム
    • 関連する報告書
      2022 実施状況報告書
  • [学会発表] A Real-Time AR Visualization System of Snow-Covered Situations2022

    • 著者名/発表者名
      Yasuaki Kobayashi, Tomoya Kawakami, Satoru Matsumoto, Tomoki Yoshihisa, and Yuuichi Teranishi
    • 学会等名
      The 11th IEEE Global Conference on Consumer Electronics (GCCE 2022)
    • 関連する報告書
      2022 実施状況報告書
    • 国際学会
  • [学会発表] 空間情報処理のオフローディングによるリアルタイムAR積雪可視化システムの実装2022

    • 著者名/発表者名
      小林靖明, 川上朋也, 松本 哲, 義久智樹, 寺西裕一
    • 学会等名
      第30回情報処理学会マルチメディア通信と分散処理ワークショップ (DPSWS2022), デモ発表
    • 関連する報告書
      2022 実施状況報告書
  • [学会発表] 推定深度に基づく動的背景置換によるAR仮想空間システムの実装2022

    • 著者名/発表者名
      坪木良宏, 川上朋也, 松本 哲, 義久智樹, 寺西裕一
    • 学会等名
      第30回情報処理学会マルチメディア通信と分散処理ワークショップ (DPSWS2022), デモ発表
    • 関連する報告書
      2022 実施状況報告書
  • [学会発表] [ショートペーパー] 地理的オーバレイネットワークを用いた可視領域に基づくメタバースオブジェクト管理手法の検討2022

    • 著者名/発表者名
      青木総樹, 川上朋也, 松本 哲, 義久智樹, 寺西裕一
    • 学会等名
      電子情報通信学会技術研究報告
    • 関連する報告書
      2022 実施状況報告書

URL: 

公開日: 2022-04-19   更新日: 2024-12-25  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi