• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 前のページに戻る

動画の知覚的質の解明と,動画超解像とマルチスケール動画認識への応用

研究課題

研究課題/領域番号 23K24874
補助金の研究課題番号 22H03618 (2022-2023)
研究種目

基盤研究(B)

配分区分基金 (2024)
補助金 (2022-2023)
応募区分一般
審査区分 小区分61010:知覚情報処理関連
研究機関豊田工業大学

研究代表者

浮田 宗伯  豊田工業大学, 工学(系)研究科(研究院), 教授 (20343270)

研究期間 (年度) 2022-04-01 – 2026-03-31
研究課題ステータス 交付 (2024年度)
配分額 *注記
15,080千円 (直接経費: 11,600千円、間接経費: 3,480千円)
2025年度: 2,990千円 (直接経費: 2,300千円、間接経費: 690千円)
2024年度: 1,950千円 (直接経費: 1,500千円、間接経費: 450千円)
2023年度: 2,860千円 (直接経費: 2,200千円、間接経費: 660千円)
2022年度: 6,240千円 (直接経費: 4,800千円、間接経費: 1,440千円)
キーワード超解像 / 深層学習 / 知覚的質 / 物体検出 / 動画 / 知覚的品質 / 物体認識
研究開始時の研究の概要

機械的知覚の質に関しては「画質と認識性能という2つの指標を統合最適化」する現科研費成果を動画適応するように拡張して,その認識性能に重要な画質を解明する.これら画質に関する解明結果を検証するように,動画超解像手法における知覚的質向上,および,その動画超解像の多段化によって多様なスケールの物体・動作認識を実現する.この基礎技術は,映像送受信や車載カメラ映像における遠方物体検出などの実用的な応用研究に発展させる.基礎研究の促進と実応用化研究を両立させるため,国際的な産学連携チームで研究を進める.

研究実績の概要

(1)物体に注目した画像処理:本科研費では,動画超解像における知覚的の質向上を目的にして,人間の知覚に大きな影響を与える動画中の同物体,特に人間の像(写り方)に注目している.そこで,超解像に限らない一般的な画像処理における物体領域の補間を提案した.
(2)拡散モデルを利用した複数低解像度画像を統合した超解像:本科研費の焦点・独創的な点は,人間の知覚的に注目した画像処理(超解像)である.近年の画像生成分野では,拡散モデルと呼ばれる生成深層学習によって,人間が違和感を感じない画像生成が可能になってきた.例えば,プロンプトと呼ばれるキーワードや短文を入力にして,そのプロンプトがあらわす画像をランダムに,しかし知覚的質の高い画像を生成できる.しかし,この拡散モデルでは,ランダムな画像が生成されるが,画像処理では入力劣化画像に対応する劣化修復画像が出力されなければならない.そこで,入力低解像度画像を複数枚入力すると,その複数低解像度画像を位置合わせしつつ統合して,拡散モデル中で「画像の微修正をする段階のみ」を通すことで,効率的かつ高精細な超解像を実現した.実験によって,提案手法が様々な超解像手法の知覚的質の向上を可能にすることを確認した.
(3)動画の特性に依存しない動画超解像の学習法:効率的な動画処理(例:動画超解像)のためには,再帰型深層学習器が有用である.しかし,動画の連続フレームを再帰的に処理することで,再帰的に誤差が蓄積することが知られている.そこで,動画学習時にこの誤差蓄積を踏まえたうえで出力動画の質を向上させるような学習を提案した.様々なタイプの動画超解像手法に対して提案する学習法を適用することで,いずれのケースにおいても動画の質が向上できることを実験的に確認した.

現在までの達成度 (区分)
現在までの達成度 (区分)

2: おおむね順調に進展している

理由

研究実績の概要で述べた通り,(1)人間の知覚的に画質が重要視される人間を中心とした物体領域に注目した研究,(2)知覚的に質の高い画像生成研究をけん引する拡散モデルを活用した研究,(3)多様な動画と多様な動画超解像手法のどのような組み合わせにおいても動画超解像の質向上を実現するための研究を推進できた.
これらの研究は申請書で目標とした通りの内容であり,本科研費研究はおおむね順調に推移しているということができる.

今後の研究の推進方策

研究実績の概要で述べた(2)拡散モデルを活用した超解像では,拡散モデルと超解像を組み合わせることができたが,入力される低解像度画像はフレーム数やフレーム間の変化が今だ限定的である.一方,(3)動画超解像の学習法でが,フレーム数もフレーム間の見え方の変化にも制限なく,多様な動画における性能向上を確認している.そこで,これらの成果をさらに統合することで,任意の動画において知覚的質の向上に注目した研究を推進する予定である.

報告書

(2件)
  • 2023 実績報告書
  • 2022 実績報告書
  • 研究成果

    (10件)

すべて 2024 2023 2022

すべて 雑誌論文 (3件) (うち査読あり 1件、 オープンアクセス 1件) 学会発表 (6件) (うち国際学会 6件) 学会・シンポジウム開催 (1件)

  • [雑誌論文] Joint Learning of Blind Super-Resolution and Crack Segmentation for Realistic Degraded Images2024

    • 著者名/発表者名
      Kondo Yuki、Ukita Norimichi
    • 雑誌名

      IEEE Transactions on Instrumentation and Measurement

      巻: 73 ページ: 1-16

    • DOI

      10.1109/tim.2024.3374293

    • 関連する報告書
      2023 実績報告書
  • [雑誌論文] Context-Aware Region-Dependent Scale Proposals for Scale-Optimized Object Detection Using Super-Resolution2023

    • 著者名/発表者名
      Akita Kazutoshi、Ukita Norimichi
    • 雑誌名

      IEEE Access

      巻: 11 ページ: 122141-122153

    • DOI

      10.1109/access.2023.3329302

    • 関連する報告書
      2023 実績報告書
  • [雑誌論文] Neural image enhancement and restoration for time-lapse SPM images2022

    • 著者名/発表者名
      Yasue Fuma、Shinjo Kota、Kondo Yuki、Akita Kazutoshi、Mitsuboshi Hibiki、Yoshimura Masamichi、Ukita Norimichi
    • 雑誌名

      Japanese Journal of Applied Physics

      巻: 61 号: 10 ページ: 107001-107001

    • DOI

      10.35848/1347-4065/ac8537

    • 関連する報告書
      2022 実績報告書
    • 査読あり / オープンアクセス
  • [学会発表] Inpainting-Driven Mask Optimization for Object Removal2024

    • 著者名/発表者名
      Kodai Shimosato, Norimichi Ukita
    • 学会等名
      International Joint Conference on Neural Networks (IJCNN2024)
    • 関連する報告書
      2023 実績報告書
    • 国際学会
  • [学会発表] Burst Super-Resolution with Diffusion Models for Improving Perceptual Quality2024

    • 著者名/発表者名
      yotaro Tokoro, Kazutoshi Akita, Norimichi Ukita
    • 学会等名
      International Joint Conference on Neural Networks (IJCNN2024)
    • 関連する報告書
      2023 実績報告書
    • 国際学会
  • [学会発表] Time-Series Initialization and Conditioning for Video-Agnostic Stabilization of Video Super-Resolution Using Recurrent Networks2024

    • 著者名/発表者名
      Hiroshi Mori, Norimichi Ukita,
    • 学会等名
      International Joint Conference on Neural Networks (IJCNN2024)
    • 関連する報告書
      2023 実績報告書
    • 国際学会
  • [学会発表] Applying Automatic Tuning to Hyper-parameter Optimization of Machine Learning Programs for Super-Resolution2023

    • 著者名/発表者名
      Xuan Yang, Sorataro Fujika, Yuga Yajima, Akihiro Fujii, Teruo Tanaka, Kazutoshi Akita, Norimichi Ukita, Satoshi Ohshima
    • 学会等名
      HPC Asia
    • 関連する報告書
      2022 実績報告書
    • 国際学会
  • [学会発表] Boundary-aware Image Inpainting with Multiple Auxiliary Cues2022

    • 著者名/発表者名
      ohei Yamashita, Kodai Shimosato, and Norimichi Ukita,
    • 学会等名
      New Trends in Image Restoration and Enhancement Workshop (NTIRE2022), CVPR Workshop
    • 関連する報告書
      2022 実績報告書
    • 国際学会
  • [学会発表] NTIRE 2022 Burst Super-Resolution Challenge2022

    • 著者名/発表者名
      Goutam Bhat, et al.
    • 学会等名
      ew Trends in Image Restoration and Enhancement Workshop (NTIRE2022), CVPR Workshop
    • 関連する報告書
      2022 実績報告書
    • 国際学会
  • [学会・シンポジウム開催] Small Object Detection Challenge for Spotting Birds 20232023

    • 関連する報告書
      2023 実績報告書

URL: 

公開日: 2022-04-19   更新日: 2024-12-25  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi