• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2022 Fiscal Year Annual Research Report

神経難病患者の進行性を考慮した顔面を用いたコミュニケーション支援の実証的研究

Research Project

Project/Area Number 19KT0029
Research InstitutionKyushu Institute of Technology

Principal Investigator

齊藤 剛史  九州工業大学, 大学院情報工学研究院, 教授 (10379654)

Co-Investigator(Kenkyū-buntansha) 伊藤 和幸  国立障害者リハビリテーションセンター(研究所), 研究所 福祉機器開発部, 研究室長 (80370873)
Project Period (FY) 2019-07-17 – 2023-03-31
Keywordsコミュニケーション支援 / 神経難病患者
Outline of Annual Research Achievements

1.実施計画に基づき、神経難病患者の協力を得て「あ」「い」「う」「え」「お」「ん」の代表的な6口形の発話シーンを研究開発期間開始前から31名計763の発話シーンを収集し、研究用のデータセットを構築した。この規模の神経難病患者の発話シーンデータセットは、前例がなく、今後の研究の発展につながる。
2.口形を利用したコミュニケーション支援の基礎研究である口形認識に関しては、深層学習を利用したアプローチとしてこれまで3D-CNNを利用していたが、さらに高い認識精度を得られるVision Transformerを用いた手法を提案した。様々な認識実験を実施し、全31名に対して平均認識率77%の口形認識率を得た。さらに、患者毎による認識精度について考察し、病状の進行に伴い口形が変化することを確認した。また神経難病患者ではなく健常者に対して、通常のカラー画像でなく、イベントベースカメラを用いて単音認識に取り組み、その有効性を確認した。
3.眼球運動を利用したコミュニケーション支援に関して、ウェアラブルカメラを利用した眼鏡型スイッチを開発した。研究分担者、施設スタッフおよび神経難病患者6名の協力の下、2021年度に眼鏡型スイッチの検証実験に取り組んだ。それより操作性の課題を確認した。これを解決するために、システムの機能改善に取り組んだ。コロナ禍のため改善したシステムの検証実験には至らなかった。またウェアラブルカメラではなく非接触型のカメラを利用したアプローチに取り組み、ウェアラブルカメラとほぼ同等の瞳孔中心検出精度が得られることを確認した。

  • Research Products

    (13 results)

All 2023 2022 Other

All Journal Article (1 results) (of which Peer Reviewed: 1 results,  Open Access: 1 results) Presentation (11 results) (of which Int'l Joint Research: 2 results) Remarks (1 results)

  • [Journal Article] Isolated single sound lip-reading using a frame-based camera and event-based camera2023

    • Author(s)
      Kanamaru Tatsuya、Arakane Taiki、Saitoh Takeshi
    • Journal Title

      Frontiers in Artificial Intelligence

      Volume: 5 Pages: -

    • DOI

      10.3389/frai.2022.1070964

    • Peer Reviewed / Open Access
  • [Presentation] 神経難病患者の発話シーンに対する口形認識2023

    • Author(s)
      権藤 優季,中村 祐哉,齊藤 剛史,伊藤 和幸
    • Organizer
      電子情報通信学会 福祉情報工学研究会
  • [Presentation] CNN-based pupil center point detection using infrared face image2023

    • Author(s)
      Ploywow Nhuthep, Takeshi Saitoh, Kazuyuki Itoh
    • Organizer
      AROB-ISBC-SWARM2023
    • Int'l Joint Research
  • [Presentation] 単語読唇に有効な深層学習モデルの検討2022

    • Author(s)
      荒金 大清,齊藤 剛史
    • Organizer
      電子情報通信学会 パターン認識とメディア理解研究会
  • [Presentation] イベントベースカメラを用いた孤立単音読唇2022

    • Author(s)
      金丸 竜也,荒金 大清,齊藤 剛史
    • Organizer
      第28回 画像センシングシンポジウム(SSII2022)
  • [Presentation] 日本語文章発話シーンデータベースの構築および日本語文章読唇2022

    • Author(s)
      荒金 大清,齊藤 剛史,千葉 隆壱,森勢 将雅,小田 恭央
    • Organizer
      第25回 画像の認識・理解シンポジウム(MIRU2022)
  • [Presentation] マスク装着顔画像に対する単語読唇2022

    • Author(s)
      甲斐 千裕,齊藤 剛史
    • Organizer
      第9回サイレント音声認識ワークショップ(SSRW2022)
  • [Presentation] 少数データに対する読唇技術に関する研究2022

    • Author(s)
      児玉 道成,齊藤 剛史
    • Organizer
      第9回サイレント音声認識ワークショップ(SSRW2022)
  • [Presentation] 日本語文章発話シーンデータベースの構築および日本語文章読唇2022

    • Author(s)
      荒金 大清,齊藤 剛史
    • Organizer
      第9回サイレント音声認識ワークショップ(SSRW2022)
  • [Presentation] メタ学習を用いた単語読唇の検討2022

    • Author(s)
      児玉 道成,齊藤 剛史
    • Organizer
      電子情報通信学会 パターン認識とメディア理解研究会
  • [Presentation] マスク顔画像で読唇できる?2022

    • Author(s)
      甲斐 千裕,荒金 大清,齊藤 剛史
    • Organizer
      動的画像処理実利用化ワークショップ2023(DIA2023)
  • [Presentation] Conformer-Based Lip-Reading for Japanese Sentence2022

    • Author(s)
      Arakane Taiki、Saitoh Takeshi、Chiba Ryuuichi、Morise Masanori、Oda Yasuo
    • Organizer
      Image and Vision Computing. IVCNZ 2022. Lecture Notes in Computer Science
    • Int'l Joint Research
  • [Remarks] クチヨミ

    • URL

      https://kuchiyomi.saitoh-lab.com/

URL: 

Published: 2023-12-25  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi