• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2023 Fiscal Year Annual Research Report

モダリティアテンションネットを用いたマルチモダール情動データによるうつ病診断

Research Project

Project/Area Number 22K21316
Research InstitutionRitsumeikan University

Principal Investigator

劉 家慶  立命館大学, 情報理工学部, 助教 (20948343)

Project Period (FY) 2022-08-31 – 2024-03-31
Keywordsマルチモダール情報融合 / うつ状態認識 / マルチモダリティ行動データベース / 時空間特徴抽出
Outline of Annual Research Achievements

現代社会において、ストレスの多さはうつ病という深刻な社会問題を引き起こしており、正確な診断に基づく「うつ状態」の早期発見がますます重要になっています。一般的な問診に加えて、患者の表情や音声など複数の観測情報(モダリティ)を利用したうつ病診断が国内外で行われています。本研究では、従来の表情と音声に加え、新たなモダリティである「歩行」を組み込んだマルチモダリティ情報を基に、AIを活用した診断支援システムの開発に成功しました。
従来の手法では、表情と音声から抽出された特徴を単一のベクトルで表現してうつ状態を認識していましたが、これではモダリティ間の相互関係が十分に表現されず、診断の精度が不十分であるという問題がありました。この問題を解決するために、「モダリティアテンション機構」という新しい深層学習手法を提案しました。この手法は、モダリティ間の重要性を自動的に学習し、特徴を選択的に融合することで、うつ状態の推定精度を大幅に向上させました。
これらの研究成果は、国内外の著名な学術誌や国際学会で広く発表されています。具体的には、「Information Fusion」、「Neurocomputing」、「IEICE」の学術誌や、「PerCom」、「IEEE EMBC」、「IEEE ICCE」、「IEEE GCCE」などの国際学会での発表を通じて、研究の効果と革新性が高く評価されました。

  • Research Products

    (11 results)

All 2024 2023 Other

All Int'l Joint Research (1 results) Journal Article (3 results) (of which Int'l Joint Research: 2 results,  Peer Reviewed: 3 results) Presentation (7 results) (of which Int'l Joint Research: 6 results)

  • [Int'l Joint Research] 浙江大学/蘇州大学(中国)

    • Country Name
      CHINA
    • Counterpart Institution
      浙江大学/蘇州大学
  • [Journal Article] An Intra- and Inter-Emotion Transformer-Based Fusion Model with Homogeneous and Diverse Constraints Using Multi-Emotional Audiovisual Features for Depression Detection2024

    • Author(s)
      TENG Shiyu、LIU Jiaqing、HUANG Yue、CHAI Shurong、TATEYAMA Tomoko、HUANG Xinyin、LIN Lanfen、CHEN Yen-Wei
    • Journal Title

      IEICE Transactions on Information and Systems

      Volume: E107.D Pages: 342~353

    • DOI

      10.1587/transinf.2023HCP0006

    • Peer Reviewed / Int'l Joint Research
  • [Journal Article] A motion-aware and temporal-enhanced Spatial?Temporal Graph Convolutional Network for skeleton-based human action segmentation2024

    • Author(s)
      Chai Shurong、Jain Rahul Kumar、Liu Jiaqing、Teng Shiyu、Tateyama Tomoko、Li Yinhao、Chen Yen-Wei
    • Journal Title

      Neurocomputing

      Volume: 580 Pages: 127482~127482

    • DOI

      10.1016/j.neucom.2024.127482

    • Peer Reviewed
  • [Journal Article] Modality-invariant temporal representation learning for multimodal sentiment classification2023

    • Author(s)
      Sun Hao、Liu Jiaqing、Chen Yen-Wei、Lin Lanfen
    • Journal Title

      Information Fusion

      Volume: 91 Pages: 504~514

    • DOI

      10.1016/j.inffus.2022.10.031

    • Peer Reviewed / Int'l Joint Research
  • [Presentation] Multi-Modal and Multi-Task Depression Detection with Sentiment Assistance2024

    • Author(s)
      Shiyu Teng, Shurong Chai, Jiaqing Liu, Tomoko Tateyama, Lanfen Lin, Yen-Wei Chen
    • Organizer
      IEEE 42nd International Conference on Consumer Electronics(IEEE ICCE))
    • Int'l Joint Research
  • [Presentation] Skeleton-Based Dynamic Hand Gesture Datasets: Recognition and Baseline Evaluation for Deep Learning2024

    • Author(s)
      Masaya Okano, Jiaqing Liu Tomoko Tateyama Yen-Wei Chen
    • Organizer
      IEEE 42nd International Conference on Consumer Electronics(IEEE ICCE)
    • Int'l Joint Research
  • [Presentation] 3D Facial Ethnicity Identification Using Point Cloud Deep Learning with Local Area Attention2024

    • Author(s)
      Kazuma Okada, Takuma Terada, Ryosuke Kimura, Jiaqing Liu, Tomoko Tateyama, Yen-Wei Chen
    • Organizer
      IEEE 42nd International Conference on Consumer Electronics(IEEE ICCE)
    • Int'l Joint Research
  • [Presentation] 3D Facial Ethnicity Identification Using PointNet++ with Data Augmentation Based on Farthest Point Sampling2023

    • Author(s)
      Kazuma Okada, Takuma Terada, Ryosuke Kimura, Jiaqing Liu, Tomoko Tateyama, Yen-Wei Chen
    • Organizer
      2023 IEEE 12th Global Conference on Consumer Electronics
    • Int'l Joint Research
  • [Presentation] Two-stream Graph Convolutional Networks with Task-specific Loss for Dual-task Gait Analysis2023

    • Author(s)
      Jiaqing Liu, Shuqiong Wu, Fumio Okura, Yasushi Makihara, Yasushi Yagi
    • Organizer
      the 45th Annual International Conference of the IEEE Engineering in Medicine and Biology Society (EMBC’23)
    • Int'l Joint Research
  • [Presentation] Intelligent UAS-Edge-Server Collaboration and Orchestration in Disaster Response Management2023

    • Author(s)
      Chengyi Qu, Chaise Ballotti, Daniel De Sousa, Jiaqing Liu
    • Organizer
      31th IEEE International Conference on Enabling Technologies(WETICE-2023)
    • Int'l Joint Research
  • [Presentation] An Intra- and Inter-Emotion Transformer-based Fusion Model with Homogeneous and Diverse Constraints Using Multi-emotional Audiovisual Features for Depression Detection2023

    • Author(s)
      Shiyu Teng, Jiaqing Liu, Shurong Chai,Tomoko Tateyama, Xinyin Huang, Lanfen Lin, Yen-Wei Chen
    • Organizer
      第26回 画像の認識・理解シンポジウム (MIRU2023)

URL: 

Published: 2024-12-25  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi