• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 前のページに戻る

モダリティ融合解析に基づく多様性と解釈性を備えた映像推薦技術の構築

研究課題

研究課題/領域番号 22KJ0006
補助金の研究課題番号 21J20033 (2021-2022)
研究種目

特別研究員奨励費

配分区分基金 (2023)
補助金 (2021-2022)
応募区分国内
審査区分 小区分61010:知覚情報処理関連
研究機関北海道大学

研究代表者

諸戸 祐哉  北海道大学, 情報科学院, 特別研究員(DC1)

研究期間 (年度) 2023-03-08 – 2024-03-31
研究課題ステータス 完了 (2023年度)
配分額 *注記
2,200千円 (直接経費: 2,200千円)
2023年度: 700千円 (直接経費: 700千円)
2022年度: 700千円 (直接経費: 700千円)
2021年度: 800千円 (直接経費: 800千円)
キーワード深層学習 / 推薦システム / グラフ処理 / 時系列解析 / 感情推定 / 生体信号処理 / マルチモーダル解析 / 特徴統合 / グラフ解析 / マルチメディアコンテンツ / 時系列データ分析 / 注視領域推定 / 生成モデル / 相関分析 / 生体情報処理
研究開始時の研究の概要

本研究では,映像に対する関心の時間変化に基づいた,高い多様性・解釈性を有する映像推薦技術の実現を目標とする.具体的に,映像を表現する特徴量,映像視聴時のユーザから取得した視線・視聴動作・脳活動情報等の生体信号およびユーザの関心度の間の関係性を分析するための,時間変化を考慮可能な深層相関分析理論を構築する.さらに,得られた関連性に基づいて,映像の時間変化を考慮した映像特徴量の導出と関心度推定を実現する.また,構築した映像推薦手法に対して,多様性および解釈性を与えるためのメカニズムを導入する.最終的に,本研究で提案する映像推薦手法を用いた実験を行うことで,有効性の検証を行う.

研究実績の概要

当該年度では,ユーザの関心を反映したマルチメディアコンテンツ(以降,コンテンツ)の推薦システムの実現に向けて,1.コンテンツがユーザに与え得る感情の推定モデルの構築,2.生体信号に含まれるノイズの影響を考慮可能な深層学習モデルの構築,3.視覚情報および音声情報を用いたマルチモーダルグラフ処理に基づく深層学習モデルの構築,4.生体信号を用いた非言語的コミュニケーションに基づく推薦システムの開発を行った.特に,研究4では,ユーザから得られる生体信号を用いた推薦システムを開発し,ユーザとシステムがインタラクティブに非現実的コミュニケーションを行うことで,高精度なコンテンツ推薦を実現している.本システムでは,ユーザが関心のあったコンテンツの関心度合いを可視化し,推薦結果として提示するコンテンツとの関連性を明確化することで,推薦結果に対する解釈性を向上させている.これらの研究成果として,査読付論文誌への採録が3件,査読付国際学会での発表が5件,国内会議で4件の発表を行い,その内4件が受賞に至っている.
また,研究4における推薦システムを拡張し,デジタルサイネージに適用したコンテンツ推薦システムを開発した.本システムでは,タッチパネル型のデジタルサイネージを対象とし,インタラクティブなコンテンツ推薦を行う.また,デジタルサイネージの前に複数人のユーザグループが現れた場合,各個人の興味関心を推定し,コンテンツ推薦に活用する.コンテンツはグループに対して推薦されるため,特定のユーザにおける視点では,他のユーザの興味関心が反映された推薦結果となる.そのため,一人のユーザを対象とした場合と比較して,多様性のある推薦結果が得られる.さらに,研究4と同様に,関心度合いを可視化することで,解釈性の向上を行っている.本システムは国内最大規模の国際技術展示会であるCEATEC2023において展示を行った.

報告書

(3件)
  • 2023 実績報告書
  • 2022 実績報告書
  • 2021 実績報告書
  • 研究成果

    (29件)

すべて 2024 2023 2022 2021 その他

すべて 雑誌論文 (4件) (うち査読あり 4件、 オープンアクセス 4件) 学会発表 (24件) (うち国際学会 13件) 備考 (1件)

  • [雑誌論文] Zero-Shot Visual Sentiment Prediction via Cross-Domain Knowledge Distillation2023

    • 著者名/発表者名
      Moroto Yuya、Ye Yingrui、Maeda Keisuke、Ogawa Takahiro、Haseyama Miki
    • 雑誌名

      IEEE Open Journal of Signal Processing

      巻: 5 ページ: 177-185

    • DOI

      10.1109/ojsp.2023.3344079

    • 関連する報告書
      2023 実績報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] 時系列データを用いたMulti-modal Transformerに基づく冬期路面状態の分類2023

    • 著者名/発表者名
      諸戸 祐哉、前田 圭介、藤後 廉、小川 貴弘、長谷山 美紀
    • 雑誌名

      AI・データサイエンス論文集

      巻: 4 号: 3 ページ: 402-413

    • DOI

      10.11532/jsceiii.4.3_402

    • ISSN
      2435-9262
    • 関連する報告書
      2023 実績報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] Prediction of Shooting Events in Soccer Videos Using Complete Bipartite Graphs and Players’ Spatial-Temporal Relations2023

    • 著者名/発表者名
      Ryota Goka, Yuya Moroto, Keisuke Maeda, Takahiro Ogawa, Miki Haseyama
    • 雑誌名

      Sensors

      巻: 23 号: 9 ページ: 4506-4506

    • DOI

      10.3390/s23094506

    • 関連する報告書
      2023 実績報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] テキストおよび画像情報に基づくFocal Lossを導入した深層学習による冬期路面状態の分類2022

    • 著者名/発表者名
      諸戸 祐哉, 前田 圭介, 藤後 廉, 小川 貴弘, 長谷山 美紀
    • 雑誌名

      AI・データサイエンス論文集

      巻: 3 号: J2 ページ: 293-306

    • DOI

      10.11532/jsceiii.3.J2_293

    • ISSN
      2435-9262
    • 関連する報告書
      2022 実績報告書
    • 査読あり / オープンアクセス
  • [学会発表] 双方向Transformerに基づいたサッカー選手のイベントデータからの行動推定に関する検討2024

    • 著者名/発表者名
      五箇 亮太, 諸戸 祐哉, 前田 圭介, 小川 貴弘, 長谷山 美紀
    • 学会等名
      映像情報メディア学会技術報告
    • 関連する報告書
      2023 実績報告書
  • [学会発表] Masked Modeling-based Action Event Prediction Considering Bidirectional Time-series in Soccer2023

    • 著者名/発表者名
      Ryota Goka, Yuya Moroto, Keisuke Maeda, Takahiro Ogawa, Huang-Chia Shih, Miki Haseyama
    • 学会等名
      International Workshop on Advanced Image Technology
    • 関連する報告書
      2023 実績報告書
    • 国際学会
  • [学会発表] Personalized Content Recommender System via Non-verbal Interaction Using Face Mesh and Facial Expression2023

    • 著者名/発表者名
      Yuya Moroto, Rintaro Yanagi, Naoki Ogawa, Kyohei Kamikawa, Keigo Sakurai, Ren Togo, Keisuke Maeda, Takahiro Ogawa, Miki Haseyama
    • 学会等名
      ACM Multimedia
    • 関連する報告書
      2023 実績報告書
    • 国際学会
  • [学会発表] Multi-view Variational Recurrent Neural Network for Human Emotion Recognition Using Multi-Modal Biological Signals2023

    • 著者名/発表者名
      Yuya Moroto, Keisuke Maeda, Takahiro Ogawa, Miki Haseyama
    • 学会等名
      IEEE International Conference on Image Processing
    • 関連する報告書
      2023 実績報告書
    • 国際学会
  • [学会発表] Shoot Event Prediction in Soccer Considering Expected Goals Based on Players’ Positions2023

    • 著者名/発表者名
      Ryota Goka, Yuya Moroto, Keisuke Maeda, Takahiro Ogawa, Miki Haseyama
    • 学会等名
      IEEE International Conference on Consumer Electronics - Taiwan
    • 関連する報告書
      2023 実績報告書
    • 国際学会
  • [学会発表] Prediction of Shoot Events by Considering Spatio-temporal Relations of Multimodal Features2023

    • 著者名/発表者名
      Ryota Goka, Yuya Moroto, Keisuke Maeda, Takahiro Ogawa, Miki Haseyama
    • 学会等名
      IEEE International Conference on Consumer Electronics - Taiwan
    • 関連する報告書
      2023 実績報告書
    • 国際学会
  • [学会発表] 時系列データを用いたMulti-modal Transformerに基づく冬期路面状態の分類2023

    • 著者名/発表者名
      諸戸 祐哉, 前田 圭介, 藤後 廉, 小川 貴弘, 長谷山 美紀
    • 学会等名
      第4回 AI・データサイエンスシンポジウム
    • 関連する報告書
      2023 実績報告書
  • [学会発表] Human Emotion Recognition while Viewing Images Based on Multi-view Variational Recurrent Neural Network2023

    • 著者名/発表者名
      Yuya Moroto, Keisuke Maeda, Takahiro Ogawa, Miki Haseyama
    • 学会等名
      第26回 画像の認識・理解シンポジウム
    • 関連する報告書
      2023 実績報告書
  • [学会発表] Zero-shot Visual Sentiment Prediction with Cross-domain Sentiments Using Knowledge Distillation2023

    • 著者名/発表者名
      Yingrui Ye, Yuya Moroto, Keisuke Maeda, Takahiro Ogawa, Miki Haseyama
    • 学会等名
      第26回 画像の認識・理解シンポジウム
    • 関連する報告書
      2023 実績報告書
  • [学会発表] サッカー映像における時空間的関係を考慮したシュート予測の高精度化に関する検討 ~競技者のチーム情報に基づく完全二部グラフの導入~2023

    • 著者名/発表者名
      五箇 亮太, 諸戸 祐哉, 前田 圭介, 小川 貴弘, 長谷山 美紀
    • 学会等名
      映像情報メディア学会技術報告
    • 関連する報告書
      2022 実績報告書
  • [学会発表] Affective Embedding Framework with Semantic Representations from Tweets for Zero-shot Visual Sentiment Prediction2022

    • 著者名/発表者名
      Yingrui Ye, Yuya Moroto, Keisuke Maeda, Takahiro Ogawa, Miki Haseyama
    • 学会等名
      ACM Multimedia Asia
    • 関連する報告書
      2022 実績報告書
    • 国際学会
  • [学会発表] Shoot Event Prediction From Soccer Videos by Considering Players’ Spatio-Temporal Relations2022

    • 著者名/発表者名
      Ryota Goka, Yuya Moroto, Keisuke Maeda, Takahiro Ogawa, Miki Haseyama
    • 学会等名
      IEEE Global Conference on Consumer Electronics
    • 関連する報告書
      2022 実績報告書
    • 国際学会
  • [学会発表] Visual Sentiment Prediction Using Cross-way Few-Shot Learning Based on Knowledge Distillation2022

    • 著者名/発表者名
      Yingrui Ye, Yuya Moroto, Keisuke Maeda, Takahiro Ogawa, Miki Haseyama
    • 学会等名
      IEEE International Conference on Image Processing
    • 関連する報告書
      2022 実績報告書
    • 国際学会
  • [学会発表] Few-shot Personalized Saliency Prediction with Similarity of gaze Tendency Using Object-based Structual Information2022

    • 著者名/発表者名
      Yuya Moroto, Keisuke Maeda, Takahiro Ogawa, Miki Haseyama
    • 学会等名
      IEEE International Conference on Image Processing
    • 関連する報告書
      2022 実績報告書
    • 国際学会
  • [学会発表] Human Emotion Recognition Using Multi-Modal Biological Signals Based on Time Lag-Considered Correlation Maximization2022

    • 著者名/発表者名
      Yuya Moroto, Keisuke Maeda, Takahiro Ogawa, Miki Haseyama
    • 学会等名
      IEEE International Conference on Acoustics, Speech and Signal Processing
    • 関連する報告書
      2022 実績報告書
    • 国際学会
  • [学会発表] テキストおよび画像情報に基づくFocal Lossを導入した深層学習による冬期路面状態の分類2022

    • 著者名/発表者名
      諸戸 祐哉, 前田 圭介, 藤後 廉, 小川 貴弘, 長谷山 美紀
    • 学会等名
      第3回 AI・データサイエンスシンポジウム
    • 関連する報告書
      2022 実績報告書
  • [学会発表] サッカー競技のスカウティング映像における選手間の時空間的関係を考慮した不確実性に基づくシュートイベント予測に関する検討2022

    • 著者名/発表者名
      五箇 亮太, 諸戸 祐哉, 前田 圭介, 小川 貴弘, 長谷山 美紀
    • 学会等名
      令和4年度電気・情報関係学会北海道支部連合大会
    • 関連する報告書
      2022 実績報告書
  • [学会発表] Few-shot Personalized Saliency Prediction via Person Similarity Using Tensor-based Regression2022

    • 著者名/発表者名
      Yuya Moroto, Keisuke Maeda, Takahiro Ogawa, Miki Haseyama
    • 学会等名
      第25回 画像の認識・理解シンポジウム
    • 関連する報告書
      2022 実績報告書
  • [学会発表] Human Emotion Recognition Using Multi-Modal Biological Signals Based on Time Lag-Considered Correlation Maximization2022

    • 著者名/発表者名
      Yuya Moroto, Keisuke Maeda, Takahiro Ogawa and Miki Haseyama
    • 学会等名
      IEEE International Conference on Acoustics, Speech and Signal Processing
    • 関連する報告書
      2021 実績報告書
    • 国際学会
  • [学会発表] 知識蒸留を用いたFew-shot Learningに基づく画像の感情ラベル推定に関する検討2022

    • 著者名/発表者名
      叶 穎睿, 諸戸 祐哉, 前田 圭介, 小川 貴弘, 長谷山 美紀
    • 学会等名
      映像情報メディア学会技術報告
    • 関連する報告書
      2021 実績報告書
  • [学会発表] 画像中の物体情報を考慮したユーザ類似度に基づく個人に特化した注視領域の推定に関する検討2022

    • 著者名/発表者名
      諸戸 祐哉, 前田 圭介, 小川 貴弘, 長谷山 美紀
    • 学会等名
      映像情報メディア学会技術報告
    • 関連する報告書
      2021 実績報告書
  • [学会発表] isual Sentiment Prediction Using Few-shot Learning via Distribution Relations of Visual Features2021

    • 著者名/発表者名
      Yingrui Ye, Yuya Moroto, Keisuke Maeda, Takahiro Ogawa and Miki Haseyama
    • 学会等名
      IEEE Global Conference on Consumer Electronics
    • 関連する報告書
      2021 実績報告書
    • 国際学会
  • [学会発表] Few-Shot Personalized Saliency Prediction Using Person Similarity Based on Collaborative Multi-Output Gaussian Process Regression,2021

    • 著者名/発表者名
      Yuya Moroto, Keisuke Maeda, Takahiro Ogawa and Miki Haseyama
    • 学会等名
      IEEE International Conference on Image Processing
    • 関連する報告書
      2021 実績報告書
    • 国際学会
  • [学会発表] Few-shot learningを用いた感情ラベル推定における複数のデータセット利用に関する初期検討2021

    • 著者名/発表者名
      叶 穎睿, 諸戸 祐哉, 前田 圭介, 小川 貴弘, 長谷山 美紀
    • 学会等名
      令和3年度電気・情報関係学会北海道支部連合大会
    • 関連する報告書
      2021 実績報告書
  • [備考] メディアダイナミクス研究室ホームページ

    • URL

      https://www-lmd.ist.hokudai.ac.jp/member/yuya-moroto/

    • 関連する報告書
      2023 実績報告書 2022 実績報告書 2021 実績報告書

URL: 

公開日: 2021-05-27   更新日: 2024-12-25  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi