• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2021 Fiscal Year Annual Research Report

Research on a Multi-modal Registration Model for Video Matching and Its Advanced Applications

Research Project

Project/Area Number 20H00607
Research InstitutionOsaka University

Principal Investigator

槇原 靖  大阪大学, 産業科学研究所, 教授 (90403005)

Project Period (FY) 2020-04-01 – 2024-03-31
Keywordsコンピュータビジョン / パターン認識 / バイオメトリクス
Outline of Annual Research Achievements

P1) 解きほぐし表現学習による空間・時間・色の多元位置合わせモデル
P1-1) 映像照合に適した変形方策の検討:2020年度の空間位置合わせに関する検討に引き続いて、今年度は時間位置合わせに関する検討を行った。特に、非同期の多視点映像が与えられた場合の同期手法として、時間的に連続な位相(標準的な進行時間)系列を出力するようなネットワーク構造として、Gated recurrent unit (GRU) を含めた構造を設計し、代表者らが保有する多視点歩行映像データベースであるOUMVLPを用いて、位相の推定精度を評価した。
P1-2) 解きほぐし表現のネットワーク構造と損失関数の設計:上記の時間位置合わせ手法を用いて、非同期の多視点映像を位置合わせするためのネットワーク構造を設計した。特に、人物の歩行映像を対象として、人体モデル当てはめ手法によって得られた人体モデルの時間・空間のずれを小さくするような損失関数を導入し、空間位置合わせ・時間同期された人体の関節パラメータを出力するような深層学習モデルを設計した。関節位置の正解データを生成できるCGデータセットを構築して、精度評価実験を実施した。
P2) 空間・時間・色の多元変形場を活用した映像照合
P2-1)映像照合ネットワークの構築:上記の非同期多視点映像に対する多元位置合わせモデルによって生成される、高精度な3次元人物モデル系列を利用して、歩行映像解析による本人認証問題に適したネットワーク構造について検討した。

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

当初計画にある項目P1-1)P2-1)P2-1)共に、予定通り実施できたため、概ね順調に進展している。

Strategy for Future Research Activity

当該年度の成果を元に,次年度は以下の項目の研究を推進する。
P1) 解きほぐし表現学習による空間・時間・色の多元位置合わせモデル
P1-2) 解きほぐし表現のネットワーク構造と損失関数の設計:昨年度は,非同期の多視点映像を時間的に位置合わせするためのネットワーク構造を設計し、非同期多視点人物映像を対象とした、人体モデル当てはめの問題に取り組んだ。今年度は、更に、人物映像が一部欠落した場合に空間的な位置合わせも同時に行うネットワーク構造を設計することで、より適用範囲の広い人物モデル当てはめ手法へと拡張する。
P2) 空間・時間・色の多元変形場を活用した映像照合
P2-1) 映像照合ネットワークの構築:上記の非同期多視点映像に対する空間及び時間多元位置合わせモデルによって生成される、高精度な3次元人物モデル系列を利用して、歩行映像解析による本人認証問題に適したネットワーク構造を設計し、多視点歩行映像データベースOUMVLPやその他独自に収集する歩行映像データセットを用いて有用性を評価する。
P2-2) 変形場自体を手がかりとした映像照合:空間・時間・色の各変形場が持つ次元(例えば、空間変形は2次元、時間変形は1次元)を考慮して、相違度を算出するネットワーク構造を設計し、P2-1)で設計した映像照合ネットワーク構造に追加する。最終的な相違度は、変形前の映像ペアに対する相違度と、変形場による相違度を全結合層で統合する等して算出する。

  • Research Products

    (21 results)

All 2022 2021 Other

All Int'l Joint Research (3 results) Journal Article (6 results) (of which Int'l Joint Research: 2 results,  Peer Reviewed: 6 results,  Open Access: 3 results) Presentation (12 results) (of which Int'l Joint Research: 10 results,  Invited: 4 results)

  • [Int'l Joint Research] 南方科技大学/深セン大学(中国)

    • Country Name
      CHINA
    • Counterpart Institution
      南方科技大学/深セン大学
  • [Int'l Joint Research] エジプト日本科学技術大学(エジプト)

    • Country Name
      EGYPT
    • Counterpart Institution
      エジプト日本科学技術大学
  • [Int'l Joint Research] University of Southampton(英国)

    • Country Name
      UNITED KINGDOM
    • Counterpart Institution
      University of Southampton
  • [Journal Article] Investigating strategies towards adversarially robust time series classification2022

    • Author(s)
      Abdu-Aguye Mubarak G.、Gomaa Walid、Makihara Yasushi、Yagi Yasushi
    • Journal Title

      Pattern Recognition Letters

      Volume: 156 Pages: 104~111

    • DOI

      10.1016/j.patrec.2022.01.023

    • Peer Reviewed / Open Access / Int'l Joint Research
  • [Journal Article] Detecting Lower MMSE Scores in Older Adults Using Cross-Trial Features From a Dual-Task With Gait and Arithmetic2021

    • Author(s)
      Wu Shuqiong、Matsuura Taku、Okura Fumio、Makihara Yasushi、Zhou Chengju、Aoki Kota、Mitsugami Ikuhisa、Yagi Yasushi
    • Journal Title

      IEEE Access

      Volume: 9 Pages: 150268~150282

    • DOI

      10.1109/ACCESS.2021.3126067

    • Peer Reviewed / Open Access
  • [Journal Article] Early Detection of Low Cognitive Scores from Dual-task Performance Data Using a Spatio-temporal Graph Convolutional Neural Network2021

    • Author(s)
      Wu Shuqiong、Okura Fumio、Makihara Yasushi、Aoki Kota、Niwa Masataka、Yagi Yasushi
    • Journal Title

      Prof. of the 43rd Annual Int. Conf of the IEEE Engineering in Medicine and Biology Society (EMBC 2021)

      Volume: 1 Pages: 1895-1901

    • DOI

      10.1109/EMBC46164.2021.9630304

    • Peer Reviewed
  • [Journal Article] End-to-end Model-based Gait Recognition using Synchronized Multi-view Pose Constraint2021

    • Author(s)
      Li Xiang、Makihara Yasushi、Xu Chi、Yagi Yasushi
    • Journal Title

      Prof. of 2021 IEEE/CVF International Conference on Computer Vision Workshops (ICCVW)

      Volume: 1 Pages: 4106-4115

    • DOI

      10.1109/ICCVW54120.2021.00456

    • Peer Reviewed / Open Access
  • [Journal Article] HID 2021: Competition on Human Identification at a Distance 20212021

    • Author(s)
      Yu Shiqi、Huang Yongzhen、Wang Liang、Makihara Yasushi、Garcia Reyes Edel B.、Zheng Feng、Rahman Ahad Md Atiqur、Lin Beibei、Yang Yuchao、Xiong Haijun、Huang Binyuan、Zhang Yuxuan
    • Journal Title

      Prof. of the 5th Int. Joint Conf. on Biometrics (IJCB 2021)

      Volume: 1 Pages: 1-7

    • DOI

      10.1109/IJCB52358.2021.9484377

    • Peer Reviewed / Int'l Joint Research
  • [Journal Article] Estimation of Gait Relative Attribute Distributions using a Differentiable Trade-off Model of Optimal and Uniform Transports2021

    • Author(s)
      Makihara Yasushi、Hayashi Yuta、Shehata Allam、Muramatsu Daigo、Yagi Yasushi
    • Journal Title

      Prof. of the 5th Int. Joint Conf. on Biometrics (IJCB 2021)

      Volume: 1 Pages: 1-8

    • DOI

      10.1109/IJCB52358.2021.9484362

    • Peer Reviewed
  • [Presentation] End-to-end Model-based Gait Recognition using Synchronized Multi-view Pose Constraint2022

    • Author(s)
      X. Li, Y. Makihara, C. Xu, Y. Yagi
    • Organizer
      The 25th SANKEN International Symposium
    • Int'l Joint Research
  • [Presentation] Real-Time Gait-Based Age Estimation and Gender Classification from a Single Image2022

    • Author(s)
      C. Xu, Y. Makihara, R. Liao, H. Niitsuma, X. Li, Y. Yagi, J. Lu
    • Organizer
      The 25th SANKEN International Symposium
    • Int'l Joint Research
  • [Presentation] Video-based Gait Analysis and Its Applications2022

    • Author(s)
      Y. Makihara
    • Organizer
      The 11th Int. Workshop on Image Media Quality and its Applications (IMQA 2022)
    • Int'l Joint Research / Invited
  • [Presentation] Early Detection of Low Cognitive Scores from Dual-task Performance Data Using a Spatio-temporal Graph Convolutional Neural Network2021

    • Author(s)
      S. Wu, F. Okura, Y. Makihara, K. Aoki, M. Niwa, and Y. Yagi
    • Organizer
      The 43rd Annual Int. Conf of the IEEE Engineering in Medicine and Biology Society (EMBC 2021)
    • Int'l Joint Research
  • [Presentation] End-to-end Model-based Gait Recognition using Synchronized Multi-view Pose Constraint2021

    • Author(s)
      X. Li, Y. Makihara, C. Xu, Y. Yagi
    • Organizer
      The 1st Int. Workshop on Human-centric Trustworthy Computer Vision: From Research to Applications,
    • Int'l Joint Research
  • [Presentation] HID 2021: Competition on Human Identification at a Distance 20212021

    • Author(s)
      S. Yu, Y. Huang, L. Wang, Y. Makihara, E.G. Reyes, F. Zheng, M.A.R. Ahad, B. Lin, Y. Yang, X. Haijun, B. Huang, Y. Zhang
    • Organizer
      The 5th Int. Joint Conf. on Biometrics (IJCB 2021)
    • Int'l Joint Research
  • [Presentation] Estimation of Gait Relative Attribute Distributions using a Differentiable Trade-off Model of Optimal and Uniform Transports2021

    • Author(s)
      Y. Makihara, Y. Hayashi, A. Shehata, D. Muramatsu, Y. Yagi
    • Organizer
      The 5th Int. Joint Conf. on Biometrics (IJCB 2021)
    • Int'l Joint Research
  • [Presentation] Estimation of Gait Relative Attribute Distributions using a Differentiable Trade-off Model of Optimal and Uniform Transports2021

    • Author(s)
      Y. Makihara, Y. Hayashi, A. Shehata, D. Muramatsu, Y. Yagi
    • Organizer
      第11回バイオメトリクスと認識・認証シンポジウム
  • [Presentation] 部分欠落および観測視点変化を含む歩容認証の頑健性評価2021

    • Author(s)
      辻 翔吾, 槇原 靖, 八木 康史
    • Organizer
      コンピュータビジョンとイメージメディア(CVIM)2021年5月研究会
  • [Presentation] Video-based Gait Analysis and Its Applications2021

    • Author(s)
      Y. Makihara
    • Organizer
      nt. Conf. on Big Data, IoT and Machine Learning (BIM 2021)
    • Int'l Joint Research / Invited
  • [Presentation] Video-based Gait Analysis and Its Applications2021

    • Author(s)
      Y. Makihara
    • Organizer
      The 6th Int. Symposium on Artificial Intelligence and Robotics (ISAIR 2021)
    • Int'l Joint Research / Invited
  • [Presentation] On Gait Relative Attributes2021

    • Author(s)
      Y. Makihara
    • Organizer
      5th Int. Workshop on Symbolic-Neural Learning (SNL-2021)
    • Int'l Joint Research / Invited

URL: 

Published: 2022-12-28  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi