• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2020 Fiscal Year Annual Research Report

自己視点・他者視点・固定視点映像の統合解析による人物行動センシング

Research Project

Project/Area Number 20H04205
Research InstitutionThe University of Tokyo

Principal Investigator

佐藤 洋一  東京大学, 生産技術研究所, 教授 (70302627)

Co-Investigator(Kenkyū-buntansha) 菅野 裕介  東京大学, 生産技術研究所, 准教授 (10593585)
Project Period (FY) 2020-04-01 – 2024-03-31
Keywords人物行動センシング / 動作認識 / 一人称視点映像解析 / 複数視点統合
Outline of Annual Research Achievements

本研究課題では、自己視点・他者視点・固定視点の異なる視点からの映像を統合解析による人物行動センシングに向けて、研究項目1.自己教師有り学習による複数視点映像の総合解析に適した特量表現学習、研究項目2.異なる視点の映像間でのアラインメント、研究項目3.自己視点映像と固定視点映像の統合による人物行動センシング、研究項目4.自己視点映像と他者視点映像の統合によるインタラクション解析、の4項目について研究に取り組むことを予定している。2020度は、異なる視点映像の統合解析による人物行動センシングの実現に向けて、まず統合解析に適した特徴量表現の獲得を目指し、研究項目1.自己教師有り学習による複数視点映像の総合解析に適した特徴表現学習に取り組んだ。具体的には、自己視点映像と他者視点映像の組み合わせに関して、一対一の対話シーンなどを対象に、各自が装着したウェアラブルカメラで撮影された自己視点映像のペアをもとに、人工的に時間同期をずらしたペアからずれ量を推定するネットワークを学習し、その精度を検証した。今後は獲得された特徴表現を用いた動作認識などのタスクにおける効果検証を進める予定である。また、自己視点映像と固定の外部視点映像からの特徴表現学習に関して、合致する固定視点映像と自己視点映像のペアと合致しないペアを用いた距離学習にNon-Local Blockと呼ばれる重みづけを導入することで、既存手法を越える性能を実現した。

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

研究項目1.自己教師有り学習による複数視点映像の総合解析に適した特徴表現学習について、時間同期を手掛かりとした自己教師あり学習による特徴表現学習に取り組み、前段の疑似タスク(pretext task)での性能を確認することが出来た。また、研究項目2.異なる視点の映像間でのアラインメントに関して、当初、自己視点映像と外部固定視点映像間での空間的対応付けに取り組むことを予定していたが、研究項目1に関連して、自己視点映像と固定の外部視点映像からの特徴表現学習を優先することとし、成果を得ることが出来た。

Strategy for Future Research Activity

おおむね、研究計画通り進めることが出来ており、今後は獲得された特徴量表現を用いて、複数視点映像を入力とした動作検出・動作認識のための手法の開発や、それを用いた人対人のインタラクション解析に取り組むことを予定している。

  • Research Products

    (4 results)

All 2021 2020

All Presentation (4 results) (of which Int'l Joint Research: 3 results,  Invited: 1 results)

  • [Presentation] Cross-View Non-Local Neural Networks for Joint Representation Learning Between First and Third Person Videos2021

    • Author(s)
      Zhehao Zhu, Yusuke Sugano, and Yoichi Sato
    • Organizer
      電子情報通信学会パターン認識・メディア理解研究会
  • [Presentation] Toward Visually Explaining Video Classification Networks by Pertubation-based Method2021

    • Author(s)
      Zhenqiang Li, Weimin Wang, Zuoyue Li, Yifei Huang, and Yoichi Sato
    • Organizer
      IEEE Winter Conference on Applications of Computer Vision (WACV 2021)
    • Int'l Joint Research
  • [Presentation] Improving Action Segmentation via Graph Based Temporal Reasoning2020

    • Author(s)
      Yifei Huang, Yusuke Sugano, and Yoichi Sato
    • Organizer
      IEEE Conference on Computer Vision and Pattern Recognition (CVPR 2020)
    • Int'l Joint Research
  • [Presentation] Analyzing Human Activity and Attention from First-Person Perspectives2020

    • Author(s)
      Yoichi Sato
    • Organizer
      International Workshop on Egocentric Perception, Interaction and Computing
    • Int'l Joint Research / Invited

URL: 

Published: 2021-12-27  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi