• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 課題ページに戻る

2021 年度 実績報告書

自己視点・他者視点・固定視点映像の統合解析による人物行動センシング

研究課題

研究課題/領域番号 20H04205
研究機関東京大学

研究代表者

佐藤 洋一  東京大学, 生産技術研究所, 教授 (70302627)

研究分担者 菅野 裕介  東京大学, 生産技術研究所, 准教授 (10593585)
研究期間 (年度) 2020-04-01 – 2024-03-31
キーワード人物行動センシング / 動作認識 / 一人称視点映像解析 / 複数視点統合
研究実績の概要

本研究課題では、自己視点・他者視点・固定視点の異なる視点からの映像を統合解析による人物行動センシングに向けて、研究項目1.自己教師有り学習による複数視点映像の総合解析に適した特量表現学習、研究項目2.異なる視点の映像間でのアラインメント、研究項目3.自己視点映像と固定視点映像の統合による人物行動センシング、研究項目4.自己視点映像と他者視点映像の統合によるインタラクション解析、の4項目について研究に取り組むことを予定している。2021年度は、2020年度から継続した取り組みとして、Cross-View Non-Localネットワークによる自己視点映像と固定外部視点映像からの特徴学習手法の拡張に取り組んだ。また、研究項目3の人物行動センシングについて、Stacked Temporal Attentionと呼ばれる動作認識手法を提案し、一人称視点映像からの動作認識のタスクにおいて、既存手法を越える性能を達成することに成功した。また、手による物体操作を伴う行動の理解に向けて、一人称視点映像からの手と操作物体のコンタクト状態推定に関する研究に取り組み、手・物体コンタクト状態推定のためのデータセットの構築とコンタクト状態推定手法の開発で成果を得た。

現在までの達成度 (区分)
現在までの達成度 (区分)

2: おおむね順調に進展している

理由

研究項目1の自己教師有り学習による複数視点映像の総合解析に適した特徴表現学習について、Cross-View Non-Localネットワークによる特徴学習手法の拡張で成果を得た。また、研究項目3の自己視点映像と固定視点映像の統合による人物行動センシングについて、動作認識タスクに対してStacked Temporal Attentionと呼ばれるアプローチを新たに考案し、既存手法を越える高い認識精度を達成した。さらに、人物行動センシングの基盤技術の一つとして手と操作物体のコンタクト状態推定手法を開発した。一方、研究項目2の異なる視点の映像間でのアラインメントに関しては取り組みを進めることが出来なかったが、全体として概ね順調に進展していると考える。

今後の研究の推進方策

おおむね、研究計画通り進めることが出来ており、今後は獲得された特徴量表現を用いて、複数視点映像を入力とした動作検出・動作認識のための手法の開発や、それを用いた人対人のインタラクション解析に取り組むことを予定している。

  • 研究成果

    (5件)

すべて 2021

すべて 学会発表 (5件) (うち国際学会 3件)

  • [学会発表] Hand-Object Contact Prediction via Motion-Based Pseudo-Labeling and Guided Progressive Label Correction2021

    • 著者名/発表者名
      Takuma Yagi, Md Tasnimul Hasan, and Yoichi Sato
    • 学会等名
      British Machine Vision Conference (BMVC 2021)
    • 国際学会
  • [学会発表] Stacked Temporal Attention: Improving First-person Action Recognition by Emphasizing Discriminative Clips2021

    • 著者名/発表者名
      Lijin Yang, Yifei Huang, Yusuke Sugano, and Yoichi Sato
    • 学会等名
      British Machine Vision Conference (BMVC 2021)
    • 国際学会
  • [学会発表] Neural Routing by Memory2021

    • 著者名/発表者名
      Kaipeng Zhang, Zhenqiang Li, Zhifeng Li, Wei Liu, and Yoichi Sato
    • 学会等名
      The 35th Conference on Neural Information Processing Systems (NeurIPS 2021)
    • 国際学会
  • [学会発表] 誘導付き逐次ラベル訂正に基づく映像からの手・物体接触判定2021

    • 著者名/発表者名
      八木拓真、Md. Tasnimul Hasan、佐藤洋一
    • 学会等名
      画像の認識・理解シンポジウム(MIRU 2021)
  • [学会発表] Cross-view Non-local Neural Networks for Joint Representation Learning between First and Third Person Videos2021

    • 著者名/発表者名
      Zhehao Zhu, Yusuke Sugano and Yoichi Sato
    • 学会等名
      画像の認識・理解シンポジウム(MIRU 2021)

URL: 

公開日: 2022-12-28  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi