• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2023 Fiscal Year Annual Research Report

Developing models to simulate information processing and internal representations of human visual motion perception

Research Project

Project/Area Number 20H00603
Research InstitutionKyoto University

Principal Investigator

西田 眞也  京都大学, 情報学研究科, 教授 (20396162)

Co-Investigator(Kenkyū-buntansha) 吹上 大樹  日本電信電話株式会社NTTコミュニケーション科学基礎研究所, 人間情報研究部, 研究員 (50869302)
Project Period (FY) 2020-04-01 – 2024-03-31
Keywords視覚系シミュレータ / 運動視 / メタマー / 人工神経回路 / 映像メディア技術
Outline of Annual Research Achievements

【モデル構築】人工神経回路による機械学習に基づいたコンピュータビジョンの運動フロー検出モデルが人間の視覚運動知覚と異なる特性を示すことを示し、国際学会CCN2023で発表した。運動エネルギー検出と自己アテンションメカニズムの二段階からなる運動フロー検出モデルが、生理学的及び心理物理学的特性において人間の運動視の良いモデルになっていることを示し、その結果を国際会議VSS2023およびNeurIPS2023にて発表した。さらに、光沢物体や透明物体の動きの推定から二次運動の知覚能力が学習可能であることを見出し、国際会議VSS2024にて発表予定である。
【モデル評価のための心理物理実験】任意の動画のある位置あるタイミングの運動ベクトルの知覚を推定する心理物理学的方法を、自然映像に近 い複雑性を持ち、かつ物理的なオプティカルフローの正解値が分かっているコンピュータグラフィックスアニメーション(MPI Sintel Optical Flow Dataset)に対して適用し、人間が知覚するオプティカルフローを推定したデータを測定し、FlownetやRAFTなどの機械学習を用いた最新のコンピュータビジョンのオプティカルフロー推定アルゴリズムの出力と比較した。その結果、人間の運動視の特性を部分的にしか説明しないこと、運動情報の統合・分節化や、座標変換のプロセスをモデルに導入する必要があることを明らかにし、国際会議VSS2023および国際誌iScienceにてその結果を発表した。さらに、運動推定の時間窓が100ms程度であることを明らかにするとともに、クラウドソーシングで知覚運動フローデータを収集する方法も確立した。そのほか、視覚メカニズム全般のモデル化に向け、視覚的分節化の時間特性や両眼立体視における空間周波数相互作用の特性、画像の自然さの特性を解明した。

Research Progress Status

令和5年度が最終年度であるため、記入しない。

Strategy for Future Research Activity

令和5年度が最終年度であるため、記入しない。

  • Research Products

    (13 results)

All 2024 2023 Other

All Int'l Joint Research (1 results) Journal Article (3 results) Presentation (8 results) (of which Int'l Joint Research: 8 results) Remarks (1 results)

  • [Int'l Joint Research] 国立台湾大学(その他の国・地域)

    • Country Name
      その他の国・地域
    • Counterpart Institution
      国立台湾大学
  • [Journal Article] Coarse-to-fine interaction on perceived depth in compound grating2023

    • Author(s)
      Chen Pei-Yin、Chen Chien-Chung、Nishida Shin'ya
    • Journal Title

      Journal of Vision

      Volume: 23 Pages: 4852~4852

    • DOI

      10.1167/jov.23.9.4852

  • [Journal Article] Psychophysical measurement of perceived motion flow of naturalistic scenes2023

    • Author(s)
      Yang Yung-Hao、Fukiage Taiki、Sun Zitang、Nishida Shin’ya
    • Journal Title

      iScience

      Volume: 26 Pages: 108307~108307

    • DOI

      10.1016/j.isci.2023.108307

  • [Journal Article] Decoupled spatiotemporal adaptive fusion network for self-supervised motion estimation2023

    • Author(s)
      Sun Zitang、Luo Zhengbo、Nishida Shin’ya
    • Journal Title

      Neurocomputing

      Volume: 534 Pages: 133~146

    • DOI

      10.1016/j.neucom.2023.03.012

  • [Presentation] Temporal Dynamics Gap between Position Tracking and Attribute Tracking2024

    • Author(s)
      Yen-Ju Chen, Zitang Sun, Shin’ya Nishida
    • Organizer
      Vision Sciences Society
    • Int'l Joint Research
  • [Presentation] Temporal characteristics of perceived motion flow of naturalistic movies2024

    • Author(s)
      Yung-Hao Yang, Taiki Fukiage, Zitang Sun, Shin’ya Nishida
    • Organizer
      Vision Sciences Society
    • Int'l Joint Research
  • [Presentation] Acquisition of second-order motion perception by learning to recognize the motion of objects made by non-diffusive materials2024

    • Author(s)
      Zitang Sun, Yen-Ju Chen, Yun-Hao Yang, Shin’ya Nishida
    • Organizer
      Vision Sciences Society
    • Int'l Joint Research
  • [Presentation] Modeling of Human Motion Perception Mechanism: A Simulation based on Deep Neural Network and Attention Transformer2023

    • Author(s)
      Sun Zitang, Yun-Hao Yang, Shin’ya Nishida
    • Organizer
      Vision Sciences Society
    • Int'l Joint Research
  • [Presentation] Temporal limits of visual segmentation based on temporal asynchrony in luminance, color, motion direction, and their mixtures2023

    • Author(s)
      Yen-Ju Cheng, Shin’ya Nishida
    • Organizer
      Vision Sciences Society
    • Int'l Joint Research
  • [Presentation] Local image statistics can account for the perceived naturalness of image contrast.2023

    • Author(s)
      Taiki Fukiage, Shin’ya Nishida
    • Organizer
      Vision Sciences Society
    • Int'l Joint Research
  • [Presentation] A Comparative Analysis of Visual Motion Perception: Computer Vision Models versus Human Abilities2023

    • Author(s)
      Sun Zitang, Yen-Ju Chen, Yun-Hao Yang, Shin’ya Nishida
    • Organizer
      Conference on Cognitive Computational Neuroscience
    • Int'l Joint Research
  • [Presentation] Modelling Human Visual Motion Processing with Trainable Motion Energy Sensing and a Self-attention Network for Adaptive Motion Integration2023

    • Author(s)
      Sun Zitang, Yen-Ju Chen, Yun-Hao Yang, Shin’ya Nishida
    • Organizer
      NeulIPS (Conference on Neural Information Processing Systems)
    • Int'l Joint Research
  • [Remarks] Modelling Human Visual Motion Processing with ...

    • URL

      https://huggingface.co/spaces/Zitang/Self-attention-based-V1MT-motion-model

URL: 

Published: 2024-12-25  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi