• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to previous page

Out-of-context Action Detection

Research Project

Project/Area Number 21H04908
Research Category

Grant-in-Aid for Scientific Research (A)

Allocation TypeSingle-year Grants
Section一般
Review Section Medium-sized Section 61:Human informatics and related fields
Research InstitutionNational Institute of Advanced Industrial Science and Technology

Principal Investigator

Hara Kensho  国立研究開発法人産業技術総合研究所, 情報・人間工学領域, 主任研究員 (70837575)

Co-Investigator(Kenkyū-buntansha) 青木 義満  慶應義塾大学, 理工学部(矢上), 教授 (00318792)
金子 直史  東京電機大学, 未来科学部, 准教授 (40803531)
片岡 裕雄  国立研究開発法人産業技術総合研究所, 情報・人間工学領域, 上級主任研究員 (70784883)
Project Period (FY) 2021-04-05 – 2024-03-31
Project Status Completed (Fiscal Year 2023)
Budget Amount *help
¥32,890,000 (Direct Cost: ¥25,300,000、Indirect Cost: ¥7,590,000)
Fiscal Year 2023: ¥9,230,000 (Direct Cost: ¥7,100,000、Indirect Cost: ¥2,130,000)
Fiscal Year 2022: ¥10,270,000 (Direct Cost: ¥7,900,000、Indirect Cost: ¥2,370,000)
Fiscal Year 2021: ¥13,390,000 (Direct Cost: ¥10,300,000、Indirect Cost: ¥3,090,000)
Keywords深層学習 / 行動認識 / 動画認識 / Transformer / シーングラフ / コンピュータビジョン / 動画像解析
Outline of Research at the Start

少子高齢化による労働力不足やWith/After コロナ社会での無人店舗の重要性増加などにより防犯・防災の監視に穴が空きやすい中でも人々の安全・安心を支えていく上では,転倒などの危険や,盗難行動,暴行など,いち早く対応すべき異常をAI により自動的に検出可能とすることが期待される.異常検知を始めとして,動画像をより高度に解析するためには動画像中の場面や状況を表現する「文脈」を考慮することが重要である.そこで本研究では,文脈を考慮した動画像解析技術の確立を目指し,人物行動と文脈を明示的に切り分けてモデル化した後に統合することで場の文脈を考慮した異常行動の自動検知を実現する.

Outline of Final Research Achievements

The purpose of this research is to model the context in videos and establish an anomaly detection framework based on the context. Specifically, we focused on (a) modeling spatial context, (b) modeling temporal context, (c) developing models that represent human behavior independently of context, and (d) researching automatic detection algorithms for anomalous behavior based on the context. Since the problem of (d) is being resolved to some extent given the recent advancements in large-scale language models, we concentrated our research efforts particularly on (a) through (c). As a result, we have made progress in constructing models that represent context and human behavior in details, including the establishment of a scene graph detection method to represent the spatial and temporal context of scenes.

Academic Significance and Societal Importance of the Research Achievements

近年の研究開発により人工知能技術が急速に進展により視覚的な情報に基づく単純な識別問題は解決されつつある一方で,動画像中の場面や状況を表現する「文脈」を考慮し動画像をより高度に解析することは困難な問題として残っている.本研究では人物と周囲の物体や環境との関係性を捉えることが文脈の表現に重要であることに着目し動画中の文脈の表現を可能とした.これにより,大規模言語モデルの文脈理解能力と組み合わせることで動画中の文脈に従った人物行動の異常検知を可能とし,より高度な動画像解析の実現及び人々の安全・安心を支える基盤技術の構築に貢献した点に学術的・社会的意義がある.

Report

(5 results)
  • 2023 Annual Research Report   Final Research Report ( PDF )
  • 2022 Annual Research Report
  • 2021 Comments on the Screening Results   Annual Research Report
  • Research Products

    (16 results)

All 2023 2022 2021

All Journal Article (3 results) (of which Peer Reviewed: 2 results,  Open Access: 2 results) Presentation (13 results) (of which Int'l Joint Research: 1 results)

  • [Journal Article] Preliminary Action Recognition2023

    • Author(s)
      川野 恭史, 長崎 好輝, 原 健翔, 青木 義満, 片岡 裕雄
    • Journal Title

      Journal of the Japan Society for Precision Engineering

      Volume: 89 Issue: 12 Pages: 915-920

    • DOI

      10.2493/jjspe.89.915

    • ISSN
      0912-0289, 1882-675X
    • Year and Date
      2023-12-05
    • Related Report
      2023 Annual Research Report
    • Peer Reviewed / Open Access
  • [Journal Article] Object-Aware Skeleton-Based Anomaly Detection in Surveillance Videos2023

    • Author(s)
      森山 凌, 金子 直史, 鷲見 和彦
    • Journal Title

      Journal of the Japan Society for Precision Engineering

      Volume: 89 Issue: 12 Pages: 934-941

    • DOI

      10.2493/jjspe.89.934

    • ISSN
      0912-0289, 1882-675X
    • Year and Date
      2023-12-05
    • Related Report
      2023 Annual Research Report
    • Peer Reviewed / Open Access
  • [Journal Article] Natural Image Decay With a Decay Effects Generator2023

    • Author(s)
      Hao Guoqing、Iizuka Satoshi、Hara Kensho、Kataoka Hirokatsu、Fukui Kazuhiro
    • Journal Title

      IEEE Access

      Volume: 11 Pages: 120402-120418

    • DOI

      10.1109/access.2023.3328171

    • Related Report
      2023 Annual Research Report
  • [Presentation] Unsupervised Semantic Segmentation Leveraging Video Consistency2023

    • Author(s)
      Yasufumi Kawano, Yoshiki Nagasaki, Kensho Hara, Yoshimitsu Aoki, Hirokatsu Kataoka
    • Organizer
      第26回画像の認識・理解シンポジウム MIRU2023
    • Related Report
      2023 Annual Research Report
  • [Presentation] 場の文脈を考慮した異常検知に向けたコンテクスト生成手法の検証2023

    • Author(s)
      森山 凌,金子 直史,鷲見 和彦
    • Organizer
      精密工学会 画像応用技術専門委員会 サマーセミナー2023
    • Related Report
      2023 Annual Research Report
  • [Presentation] Diffusion-based Holistic Texture Rectification and Synthesis2023

    • Author(s)
      Guoqing Hao, Satoshi Iizuka, Kensho Hara, Edgar Simo-Serra, Hirokatsu Kataoka, Kazuhiro Fukui
    • Organizer
      Visual Computing 2023
    • Related Report
      2023 Annual Research Report
  • [Presentation] Diffusion-based Holistic Texture Rectification and Synthesis2023

    • Author(s)
      Guoqing Hao, Satoshi Iizuka, Kensho Hara, Edgar Simo-Serra, Hirokatsu Kataoka, Kazuhiro Fukui
    • Organizer
      SIGGRAPH Asia 2023
    • Related Report
      2023 Annual Research Report
    • Int'l Joint Research
  • [Presentation] 動的シーングラフ生成における網羅的かつ文脈レベルでの時空間情報抽出2023

    • Author(s)
      長崎好輝,川野恭史,山本晋太郎,Yue Qiu,青木義満,原健翔,片岡雄裕
    • Organizer
      動的画像処理実利用化ワークショップ DIA 2023
    • Related Report
      2022 Annual Research Report
  • [Presentation] 監視カメラ映像における物体情報を付与した骨格ベースの異常行動検知2023

    • Author(s)
      森山 凌,金子 直史,鷲見 和彦
    • Organizer
      動的画像処理実利用化ワークショップ DIA 2023
    • Related Report
      2022 Annual Research Report
  • [Presentation] 人口統計学的バイアスを考慮した人物の3次元姿勢体型推定2022

    • Author(s)
      金子 直史,丸山 楽斗,伊東 聖矢,鷲見 和彦
    • Organizer
      第25回 画像の認識・理解シンポジウム (MIRU2022)
    • Related Report
      2022 Annual Research Report
  • [Presentation] Natural Image Weathering with a Generative Decay Network2022

    • Author(s)
      Guoqing Hao, Satoshi Iizuka, Kensho Hara, Hirokatsu Kataoka, Kazuhiro Fukui
    • Organizer
      Visual Computing 2022
    • Related Report
      2022 Annual Research Report
  • [Presentation] 予備動作の認識による行動予測2022

    • Author(s)
      川野 恭史,長崎 好輝,原 健翔,青木 義満,片岡 裕雄
    • Organizer
      ビジョン技術の実利用ワークショップ ViEW 2022
    • Related Report
      2022 Annual Research Report
  • [Presentation] 動的シーングラフ生成におけるGraph Tensorを用いた時空間情報の抽出2022

    • Author(s)
      長崎 好輝,川野 恭史,山本 晋太郎,Qiu Yue,青木 義満,原 健翔,片岡 裕雄
    • Organizer
      ビジョン技術の実利用ワークショップ ViEW 2022
    • Related Report
      2022 Annual Research Report
  • [Presentation] 動的シーングラフ生成における物体と関係性の同時検出2022

    • Author(s)
      長崎 好輝,川野 恭史,山本 晋太郎,Qiu Yue,原 健翔,青木 義満,片岡 裕雄
    • Organizer
      第28回画像センシングシンポジウム SSII 2022
    • Related Report
      2021 Annual Research Report
  • [Presentation] シーングラフ生成におけるTransformerを用いたEnd-to-Endモデルの提案2021

    • Author(s)
      長崎 好輝,Qiu Yue,青木 義満,原 健翔,片岡 裕雄
    • Organizer
      ビジョン技術の実利用ワークショップ ViEW 2021
    • Related Report
      2021 Annual Research Report
  • [Presentation] 行動遷移に着目した行動予測2021

    • Author(s)
      川野 恭史,原 健翔,青木 義満,片岡 裕雄
    • Organizer
      ビジョン技術の実利用ワークショップ ViEW 2021
    • Related Report
      2021 Annual Research Report

URL: 

Published: 2021-04-28   Modified: 2025-01-30  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi