• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to previous page

Enhanced Depression Detection: Leveraging Multimodal AI for High-Precision Diagnostics Support

Research Project

Project/Area Number 23K16909
Research Category

Grant-in-Aid for Early-Career Scientists

Allocation TypeMulti-year Fund
Review Section Basic Section 61010:Perceptual information processing-related
Research InstitutionRitsumeikan University

Principal Investigator

劉 家慶  立命館大学, 情報理工学部, 助教 (20948343)

Project Period (FY) 2023-04-01 – 2026-03-31
Project Status Granted (Fiscal Year 2023)
Budget Amount *help
¥4,550,000 (Direct Cost: ¥3,500,000、Indirect Cost: ¥1,050,000)
Fiscal Year 2025: ¥1,690,000 (Direct Cost: ¥1,300,000、Indirect Cost: ¥390,000)
Fiscal Year 2024: ¥1,040,000 (Direct Cost: ¥800,000、Indirect Cost: ¥240,000)
Fiscal Year 2023: ¥1,820,000 (Direct Cost: ¥1,400,000、Indirect Cost: ¥420,000)
Keywordsマルチモーダル / 共通特徴 / 固有特徴 / 類似性制約 / うつ状態 / 深層学習 / 情動データベース
Outline of Research at the Start

ストレスが多い現在社会におけるうつ病診療は国内外における深刻な社会問題でもあり、高精度な診断に基づく「うつ状態」の早期発見が重要である。一般的な問診だけでなく、患者の表情、音声、テキストなど複数の観測情報(モダリティ)に基づく「うつ病診断」が現在、国内外で取り組まれている。本研究では、各モダリティを多変量ガウス分布として扱うことで、KLダイバージェンスに基づいて全モダリティ共有する成分を獲得する手法を確立する。 異なるモダリティ間で互いに冗長性があり、全モダリティ共有する成分以外も、さらに、各モダリティの固有成分を獲得する手法を確立し、効率かつ最適なアプローチを目指す。

Outline of Annual Research Achievements

現代社会においてストレスが多い環境はうつ病診療の課題を拡大させ、これは国内外での深刻な社会問題となっている。このような状況下でうつ状態の早期発見と高精度な診断が重要であるが、これまでの研究では各モダリティを入力としたニューラルネットワークを用いてうつ病の検出精度の向上を試みていた。しかし、これまでのアプローチではモダリティ間の相補性を十分に活用していなかったため、うつ病の重症度推定と正解ラベルとの一致率は約0.6にとどまっていた。
本研究では、各モダリティの特性を全モダリティに共通する特徴とモダリティ固有の特徴に分解する新しい方法を提案する。この方法には、正規分布間のKLダイバージェンスを使用して、より細かな類似性制約を導入し、特徴の抽出と統合の精度を向上させることが確立される。以下の成果が得られた:
1.モダリティ間およびモダリティ内の特徴抽出法を提案し、モダリティ間の共起を考慮した重要な特徴領域を特定することができた。
2.Information Fusion、Neurocomputing、IEICE、IEEE EMBC、IEEE ICCEなど、トップ学術誌及び国際学会で発表してきた。

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

計画通りに以下の成果が得られた。
1)ダリティ間(inter-modality)およびモダリティ内(intra-modality)の特徴抽出法を提案し、高精度なうつ状態の推定することができた。
2)Information Fusion、Neurocomputing、IEICE、IEEE EMBC、IEEE ICCEなど、トップ学術誌及び国際学会で発表してきた。

Strategy for Future Research Activity

1)各モダリティを多変量ガウス分布として扱いことで,KLダイバージェンスに基づいて全モダリティ共有する成分を獲得手法を開発する。
2)異なるモダリティ間で互いに冗長性があり,全モダリティ共有する成分以外も,さらに各モダリティの固有成分を獲得手法を開発する。

Report

(1 results)
  • 2023 Research-status Report
  • Research Products

    (10 results)

All 2024 2023 Other

All Int'l Joint Research (1 results) Journal Article (3 results) (of which Int'l Joint Research: 2 results,  Peer Reviewed: 3 results) Presentation (6 results) (of which Int'l Joint Research: 5 results)

  • [Int'l Joint Research] 浙江大学計算機学院(中国)

    • Related Report
      2023 Research-status Report
  • [Journal Article] An Intra- and Inter-Emotion Transformer-Based Fusion Model with Homogeneous and Diverse Constraints Using Multi-Emotional Audiovisual Features for Depression Detection2024

    • Author(s)
      TENG Shiyu、LIU Jiaqing、HUANG Yue、CHAI Shurong、TATEYAMA Tomoko、HUANG Xinyin、LIN Lanfen、CHEN Yen-Wei
    • Journal Title

      IEICE Transactions on Information and Systems

      Volume: E107.D Issue: 3 Pages: 342-353

    • DOI

      10.1587/transinf.2023HCP0006

    • ISSN
      0916-8532, 1745-1361
    • Year and Date
      2024-03-01
    • Related Report
      2023 Research-status Report
    • Peer Reviewed / Int'l Joint Research
  • [Journal Article] A motion-aware and temporal-enhanced Spatial Temporal Graph Convolutional Network for skeleton-based human action segmentation2024

    • Author(s)
      Chai Shurong、Jain Rahul Kumar、Liu Jiaqing、Teng Shiyu、Tateyama Tomoko、Li Yinhao、Chen Yen-Wei
    • Journal Title

      Neurocomputing

      Volume: 580 Pages: 127482-127482

    • DOI

      10.1016/j.neucom.2024.127482

    • Related Report
      2023 Research-status Report
    • Peer Reviewed
  • [Journal Article] Modality-invariant temporal representation learning for multimodal sentiment classification2023

    • Author(s)
      Sun Hao、Liu Jiaqing、Chen Yen-Wei、Lin Lanfen
    • Journal Title

      Information Fusion

      Volume: 91 Pages: 504-514

    • DOI

      10.1016/j.inffus.2022.10.031

    • Related Report
      2023 Research-status Report
    • Peer Reviewed / Int'l Joint Research
  • [Presentation] Multi-Modal and Multi-Task Depression Detection with Sentiment Assistance2024

    • Author(s)
      hiyu Teng, Shurong Chai, Jiaqing Liu, Tomoko Tateyama, Lanfen Lin, Yen-Wei Chen
    • Organizer
      IEEE 42nd International Conference on Consumer Electronics
    • Related Report
      2023 Research-status Report
    • Int'l Joint Research
  • [Presentation] 3D Facial Ethnicity Identification Using Point Cloud Deep Learning with Local Area Attention2024

    • Author(s)
      Kazuma Okada, Takuma Terada, Ryosuke Kimura, Jiaqing Liu, Tomoko Tateyama, Yen-Wei Chen
    • Organizer
      IEEE 42nd International Conference on Consumer Electronics
    • Related Report
      2023 Research-status Report
    • Int'l Joint Research
  • [Presentation] Skeleton-Based Dynamic Hand Gesture Datasets: Recognition and Baseline Evaluation for Deep Learning2024

    • Author(s)
      Masaya Okano, Jiaqing Liu Tomoko Tateyama Yen-Wei Chen
    • Organizer
      IEEE 42nd International Conference on Consumer Electronics
    • Related Report
      2023 Research-status Report
    • Int'l Joint Research
  • [Presentation] 3D Facial Ethnicity Identification Using PointNet++ with Data Augmentation Based on Farthest Point Sampling2023

    • Author(s)
      Kazuma Okada, Takuma Terada, Ryosuke Kimura, Jiaqing Liu, Tomoko Tateyama, Yen-Wei Chen
    • Organizer
      2023 IEEE 12th Global Conference on Consumer Electronics
    • Related Report
      2023 Research-status Report
    • Int'l Joint Research
  • [Presentation] Two-stream Graph Convolutional Networks with Task-specific Loss for Dual-task Gait Analysis2023

    • Author(s)
      Jiaqing Liu, Shuqiong Wu, Fumio Okura, Yasushi Makihara, Yasushi Yagi
    • Organizer
      the 45th Annual International Conference of the IEEE Engineering in Medicine and Biology Society
    • Related Report
      2023 Research-status Report
    • Int'l Joint Research
  • [Presentation] An Intra- and Inter-Emotion Transformer-based Fusion Model with Homogeneous and Diverse Constraints Using Multi-emotional Audiovisual Features for Depression Detection2023

    • Author(s)
      Shiyu Teng, Jiaqing Liu, Shurong Chai,Tomoko Tateyama, Xinyin Huang, Lanfen Lin, Yen-Wei Chen
    • Organizer
      第26回 画像の認識・理解シンポジウム (MIRU2023)
    • Related Report
      2023 Research-status Report

URL: 

Published: 2023-04-13   Modified: 2024-12-25  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi