• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2022 Fiscal Year Annual Research Report

自己視点・他者視点・固定視点映像の統合解析による人物行動センシング

Research Project

Project/Area Number 20H04205
Research InstitutionThe University of Tokyo

Principal Investigator

佐藤 洋一  東京大学, 生産技術研究所, 教授 (70302627)

Co-Investigator(Kenkyū-buntansha) 菅野 裕介  東京大学, 生産技術研究所, 准教授 (10593585)
Project Period (FY) 2020-04-01 – 2024-03-31
Keywords人物行動センシング / 動作認識 / 一人称視点映像解析 / 複数視点統合
Outline of Annual Research Achievements

本研究課題では、自己視点・他者視点・固定視点の異なる視点からの映像を統合解析による人物行動センシングに向けて、研究項目1.自己教師有り学習による複数視点映像の総合解析に適した特量表現学習、研究項目2.異なる視点の映像間でのアラインメント、研究項目3.自己視点映像と固定視点映像の統合による人物行動センシング、研究項目4.自己視点映像と他者視点映像の統合によるインタラクション解析、の4項目について研究に取り組むことを予定している。2022年度は、これまで得られた研究項目1の成果を踏まえ、研究項目2.異なる視点の映像間でのアラインメント、研究項目3.自己視点映像と固定視点映像の統合による人物行動センシング、研究項目4.自己視点映像と他者視点映像の統合によるインタラクション解析のそれぞれに取り組んだ。その結果、少量データからの動作認識モデルの学習、異なるもモダリティ特徴間のインタラクションに基づく動作認識モデルの教師無しドメイン適応、動作認識モデルの振る舞い可視化、自己視点映像による手動作理解の高度化のそれぞれについて研究成果を得た。

Current Status of Research Progress
Current Status of Research Progress

1: Research has progressed more than it was originally planned.

Reason

自己視点・他者視点・固定視点の異なる視点からの映像を統合解析による人物行動センシングについて研究に取り組み、少量データからの動作認識モデルの学習、異なるもモダリティ特徴間のインタラクションに基づく動作認識モデルの教師無しドメイン適応、動作認識モデルの振る舞い可視化、自己視点映像による手動作理解の高度化について研究成果を得た。それらの成果はコンピュータビジョン分野と医用画像処理分野におけるトップ国際会議であるCVPR、ECCV、MICCAIに4件の論文として採択されている。さらに、同分野の主要国際ジャーナルIEEE TCSVT, 国際会議WACVにも論文が採択されており、当初の計画以上の進捗が得られたと考える。

Strategy for Future Research Activity

おおむね、研究計画通り進めることが出来ており、今後は獲得された特徴量表現を用いて、複数視点映像を入力とした動作検出・動作認識のための手法の開発や、それを用いた人対人のインタラクション解析に取り組むことを予定している。

  • Research Products

    (6 results)

All 2022

All Journal Article (1 results) (of which Int'l Joint Research: 1 results,  Peer Reviewed: 1 results) Presentation (5 results) (of which Int'l Joint Research: 5 results)

  • [Journal Article] Spatio-Temporal Perturbations for Video Attribution2022

    • Author(s)
      Zhenqiang Li, Weimin Wang, Zuoyue Li, Yifei Huang, and Yoichi Sato
    • Journal Title

      IEEE Transactions on Circuits and Systems for Video Technology

      Volume: 32 Pages: 2043-2056

    • DOI

      10.1109/TCSVT.2021.3081761

    • Peer Reviewed / Int'l Joint Research
  • [Presentation] Compound Prototype Matching for Few-shot Action Recognition2022

    • Author(s)
      Yifei Huang, Lijin Yang, and Yoichi Sato
    • Organizer
      European Conference on Computer Vision (ECCV 2022)
    • Int'l Joint Research
  • [Presentation] Interact before Align: Leveraging Cross-Modal Knowledge for Domain Adaptive Action Recognition2022

    • Author(s)
      Lijin Yang, Yifei Huang, Yusuke Sugano, and Yoichi Sato
    • Organizer
      IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR 2022)
    • Int'l Joint Research
  • [Presentation] Fine-grained Affordance Annotation for Egocentric Hand-Object Interaction Videos2022

    • Author(s)
      Zecheng Yu, Yifei Huang, Ryosuke Furuta, Takuma Yagi, Yusuke Gotsu, and Yoichi Sato
    • Organizer
      IEEE/CVF Winter Conference on Applications of Computer Vision (WACV 2023)
    • Int'l Joint Research
  • [Presentation] Domain Adaptive Hand Keypoint and Pixel Localization in the Wild2022

    • Author(s)
      Takehiko Ohkawa, Yu-Jhe Li, Qichen Fu, Ryosuke Furuta, Kris Kitani, and Yoichi Sato
    • Organizer
      European Conference on Computer Vision (ECCV 2022)
    • Int'l Joint Research
  • [Presentation] Surgical Skill Assessment via Video Semantic Aggregation2022

    • Author(s)
      Zhenqiang Li, Ling Gu, Weimin Wang, Ryosuke Nakamura, and Yoichi Sato
    • Organizer
      International Conference on Medical Computing and Computer Assisted Invention (MICCAI 2022)
    • Int'l Joint Research

URL: 

Published: 2023-12-25  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi