• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 前のページに戻る

適応的な人物行動理解に向けたスキル発見と転移

研究課題

研究課題/領域番号 22KJ0999
補助金の研究課題番号 22J20071 (2022)
研究種目

特別研究員奨励費

配分区分基金 (2023)
補助金 (2022)
応募区分国内
審査区分 小区分61010:知覚情報処理関連
研究機関東京大学

研究代表者

大川 武彦  東京大学, 情報理工学系研究科, 特別研究員(DC1)

研究期間 (年度) 2023-03-08 – 2025-03-31
研究課題ステータス 交付 (2023年度)
配分額 *注記
3,100千円 (直接経費: 3,100千円)
2024年度: 800千円 (直接経費: 800千円)
2023年度: 1,100千円 (直接経費: 1,100千円)
2022年度: 1,200千円 (直接経費: 1,200千円)
キーワード手・物体操作理解 / 一人称ビジョン
研究開始時の研究の概要

コンピュータビジョン技術による人物行動認識は,映像中の人物の行動を予測するタスクであり,人間の活動支援への応用が期待されている.しかし,実運用場面において十分な量の教師ラベルが入手可能であるとは限らないため,安価かつ迅速な行動認識モデルの構築は困難である.本研究では,異なるデータセット間に共通する動作特徴の転移可能性に注目して転移学習アルゴリズムを開発し,教師ラベルが限られる運用データにおいて人物行動認識を行う.

研究実績の概要

今年度は,これまでの採用期間で開発した手操作認識モデルに関する知見をサーベイという形式でまとめ,さらなる発展領域である行動認識,マルチビュー画像に基づく手認識に関する研究を行なった.第一に,前年度の研究を深化させ,国際学会ICCV 2023にて手操作認識に関するワークショップ,そして一人称視点手姿勢推定に関するコンペティションを開催した.手操作認識に関するサーベイをトップジャーナルであるIJCVにて出版した.さらに,このコンペティションから派生して,マルチビューの一人称視点手姿勢推定タスクをCVPR 2024にて発表予定である.第二に,手操作認識の時間拡張,行動理解との接続に関する研究を実施した.実際の調理映像から手物体の位置情報をトラッキングして,キャプションとしての作業動作記述する手法を提案した.本研究はCVPR2024のワークショップにて発表予定である.

また,今年度は,チューリッヒ工科大学の訪問研究員としてスイスへ滞在し,マイクロソフトリサーチアジアも含めた共同研究という形式で研究を実施した.さらにシンガポール国立大学におけるセミナー講演や,国際会議ICCV, 国際研究会ICVSSにおける発表など行い,自身の研究のアウトリーチの良い機会となった.一人称視点調理映像データセット構築のプロジェクトに関しては,オムロンサイニックエックス社と産学連携して,被験者を集めて映像収録,アノテーションを行い,作業内容の解析を行った.

現在までの達成度 (区分)
現在までの達成度 (区分)

1: 当初の計画以上に進展している

理由

前年度から継続して手認識に関する研究を行い,トップジャーナル,国際会議に採択された.また,手認識からの行動認識への接続に関する発展研究も実施した.さらに,国際ワークショップ主催やチューリッヒ工科大学での訪問研究,シンガポール国立大学や国際研究会ICVSSにおける発表など,自身の研究をアウトリーチする経験を多数持つことができ,研究者間のネットワーク作りにも努めた.

今後の研究の推進方策

引き続き,行動認識モデルの開発を進めて,アノテーションが限られる映像への行動認識モデルの転移学習手法の開発にも取り組む.近年,大規模な視覚言語モデルの開発が進み,広く応用されていることから,行動認識を自然言語で記述して実現する方針についても検討する.

報告書

(2件)
  • 2023 実施状況報告書
  • 2022 実績報告書
  • 研究成果

    (18件)

すべて 2024 2023 2022 その他

すべて 国際共同研究 (4件) 雑誌論文 (3件) (うち国際共著 2件、 査読あり 3件、 オープンアクセス 3件) 学会発表 (9件) (うち国際学会 8件、 招待講演 3件) 備考 (1件) 学会・シンポジウム開催 (1件)

  • [国際共同研究] スイス連邦工科大学チューリッヒ校(スイス)

    • 関連する報告書
      2023 実施状況報告書
  • [国際共同研究] マイクロソフトリサーチアジア(中国)

    • 関連する報告書
      2023 実施状況報告書
  • [国際共同研究] Carnegie Mellon University(米国)

    • 関連する報告書
      2022 実績報告書
  • [国際共同研究] Meta Platforms, Inc.(米国)

    • 関連する報告書
      2022 実績報告書
  • [雑誌論文] Efficient Annotation and Learning for 3D Hand Pose Estimation: A Survey2023

    • 著者名/発表者名
      Ohkawa Takehiko、Furuta Ryosuke、Sato Yoichi
    • 雑誌名

      International Journal of Computer Vision

      巻: 131 号: 12 ページ: 3193-3206

    • DOI

      10.1007/s11263-023-01856-0

    • 関連する報告書
      2023 実施状況報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] AssemblyHands: Towards Egocentric Activity Understanding via 3D Hand Pose Estimation2023

    • 著者名/発表者名
      Takehiko Ohkawa, Kun He, Fadime Sener, Tomas Hodan, Luan Tran, and Cem Keskin
    • 雑誌名

      IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR)

      巻: -

    • 関連する報告書
      2022 実績報告書
    • 査読あり / オープンアクセス / 国際共著
  • [雑誌論文] Domain Adaptive Hand Keypoint and Pixel Localization in the Wild2022

    • 著者名/発表者名
      Takehiko Ohkawa, Yu-Jhe Li, Qichen Fu, Ryosuke Furuta, Kris M. Kitani, and Yoichi Sato
    • 雑誌名

      European Conference on Computer Vision (ECCV)

      巻: - ページ: 68-87

    • 関連する報告書
      2022 実績報告書
    • 査読あり / オープンアクセス / 国際共著
  • [学会発表] Single-to-Dual-View Adaptation for Egocentric 3D Hand Pose Estimation2024

    • 著者名/発表者名
      Ruicong Liu, Takehiko Ohkawa, Mingfang Zhang, Yoichi Sato
    • 学会等名
      IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR)
    • 関連する報告書
      2023 実施状況報告書
    • 国際学会
  • [学会発表] Dense Video Captioning of Egocentric Procedural Activities Using Web Instructional Videos2024

    • 著者名/発表者名
      Takehiko Ohkawa, Takuma Yagi, Taichi Nishimura, Ryosuke Furuta, Atsushi Hashimoto, Yoshitaka Ushiku, Yoichi Sato
    • 学会等名
      IEEE/CVF Conference on Computer Vision and Pattern Recognition Workshops (CVPRW)
    • 関連する報告書
      2023 実施状況報告書
    • 国際学会
  • [学会発表] AssemblyHands: Towards Egocentric Activity Understanding via 3D Hand Pose Estimation2023

    • 著者名/発表者名
      Takehiko Ohkawa, Kun He, Fadime Sener, Tomas Hodan, Luan Tran, and Cem Keskin
    • 学会等名
      International Computer Vision Summer School (ICVSS)
    • 関連する報告書
      2023 実施状況報告書
    • 国際学会
  • [学会発表] Domain Adaptive Hand Keypoint and Pixel Localization in the Wild2023

    • 著者名/発表者名
      Takehiko Ohkawa, Yu-Jhe Li, Qichen Fu, Ryosuke Furuta, Kris M. Kitani, and Yoichi Sato
    • 学会等名
      Meeting on Image Recognition and Understanding (MIRU)
    • 関連する報告書
      2023 実施状況報告書
    • 招待講演
  • [学会発表] AssemblyHands: Towards Egocentric Activity Understanding via 3D Hand Pose Estimation2023

    • 著者名/発表者名
      Takehiko Ohkawa
    • 学会等名
      IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR)
    • 関連する報告書
      2022 実績報告書
    • 国際学会
  • [学会発表] Domain Adaptive Hand Keypoint and Pixel Localization in the Wild2022

    • 著者名/発表者名
      Takehiko Ohkawa
    • 学会等名
      European Conference on Computer Vision (ECCV)
    • 関連する報告書
      2022 実績報告書
    • 国際学会
  • [学会発表] Domain Adaptive Hand Keypoint and Pixel Localization in the Wild2022

    • 著者名/発表者名
      Takehiko Ohkawa
    • 学会等名
      6TH INTERNATIONAL WORKSHOP ON OBSERVING AND UNDERSTANDING HANDS IN ACTION, European Conference on Computer Vision Workshops (ECCVW)
    • 関連する報告書
      2022 実績報告書
    • 国際学会 / 招待講演
  • [学会発表] Domain Adaptive Hand Keypoint and Pixel Localization in the Wild2022

    • 著者名/発表者名
      Takehiko Ohkawa
    • 学会等名
      Human Body, Hands, and Activities from Egocentric and Multi-view Cameras, European Conference on Computer Vision Workshops (ECCVW)
    • 関連する報告書
      2022 実績報告書
    • 国際学会 / 招待講演
  • [学会発表] Background Mixup Data Augmentation for Hand and Object-in-Contact Detection2022

    • 著者名/発表者名
      Takehiko Ohkawa
    • 学会等名
      6TH INTERNATIONAL WORKSHOP ON OBSERVING AND UNDERSTANDING HANDS IN ACTION, European Conference on Computer Vision Workshops (ECCVW)
    • 関連する報告書
      2022 実績報告書
    • 国際学会
  • [備考] 大川武彦のホームページ

    • URL

      https://tkhkaeio.github.io/

    • 関連する報告書
      2022 実績報告書
  • [学会・シンポジウム開催] 7th International Workshop on Observing and Understanding Hands in Action (HANDS), International Conference on Computer Vision 20232023

    • 関連する報告書
      2023 実施状況報告書

URL: 

公開日: 2022-04-28   更新日: 2024-12-25  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi