• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to previous page

An empirical study of communication support using facial image processing considering the progressiveness of patients with intractable neurological diseases

Research Project

Project/Area Number 19KT0029
Research Category

Grant-in-Aid for Scientific Research (C)

Allocation TypeMulti-year Fund
Section特設分野
Research Field Orality and Society
Research InstitutionKyushu Institute of Technology

Principal Investigator

Saitoh Takeshi  九州工業大学, 大学院情報工学研究院, 教授 (10379654)

Co-Investigator(Kenkyū-buntansha) 伊藤 和幸  国立障害者リハビリテーションセンター(研究所), 研究所 福祉機器開発部, 研究室長 (80370873)
Project Period (FY) 2019-07-17 – 2023-03-31
Project Status Completed (Fiscal Year 2022)
Budget Amount *help
¥4,290,000 (Direct Cost: ¥3,300,000、Indirect Cost: ¥990,000)
Fiscal Year 2021: ¥1,300,000 (Direct Cost: ¥1,000,000、Indirect Cost: ¥300,000)
Fiscal Year 2020: ¥1,300,000 (Direct Cost: ¥1,000,000、Indirect Cost: ¥300,000)
Fiscal Year 2019: ¥1,690,000 (Direct Cost: ¥1,300,000、Indirect Cost: ¥390,000)
Keywordsコミュニケーション支援 / 神経難病患者 / 眼球運動 / 口形認識
Outline of Research at the Start

神経難病患者は病状の進行により、身体機能やコミュニケーション能力が著しく障害され、進行期から終末期にかけては、自分で動いたり、声を出したりすることが困難になる。このため、話し言葉や書き言葉によるコミュニケーション能力が損なわれてしまう。本研究課題では、患者に新しいオラリティの形を提供して家族などと共存を保ち続ける社会を提供することを目指し、非接触で実現可能な映像解析技術を用いて、病状の進行を考慮して患者の顔画像より各部位の動きを解析し、意思や感情を推定するコミュニケーション支援機器の開発に取り組む。開発したコミュニケーション支援機器を用いて実証的評価する。

Outline of Final Research Achievements

Patients with intractable neurological diseases are severely impaired in physical function and communication ability as the disease progresses. To solve this problem, we developed communication support system using facial image processing technology.
Eye movement and mouth shape were selected for analysis. For the former, we developed an eyeglass-type switch that detects the center of the pupil of a patient wearing a wearable camera in real-time and outputs a signal when there is a certain amount of movement. In addition, we worked on a verification experiment with the cooperation of patients with intractable neurological diseases and obtained a certain evaluation. We collected more than 700 utterance scenes from 31 patients with intractable neurological diseases for the latter. Recognition experiments were conducted using deep learning, and sufficient accuracy was obtained.

Academic Significance and Societal Importance of the Research Achievements

本研究では神経難病患者を対象として、研究分担者、施設スタッフおよび患者協力の下、研究に取り組んだ。口形認識について、健常者の発話シーンは既存の公開データセットが存在するが患者の発話シーンはない。そのため発話シーン収集に取り組みデータセットを構築した。これは今後の研究発展に貢献できるであろう。眼球運動を利用した眼鏡型スイッチに関しては、単に開発するだけでなく患者協力による検証実験まで進めることができたことは大きな成果である。他の患者からの利用要望を受けており、今後の展開が期待できる。

Report

(5 results)
  • 2022 Annual Research Report   Final Research Report ( PDF )
  • 2021 Research-status Report
  • 2020 Research-status Report
  • 2019 Research-status Report
  • Research Products

    (45 results)

All 2023 2022 2021 2020 2019 Other

All Journal Article (4 results) (of which Peer Reviewed: 2 results,  Open Access: 2 results) Presentation (38 results) (of which Int'l Joint Research: 7 results,  Invited: 2 results) Remarks (1 results) Patent(Industrial Property Rights) (2 results)

  • [Journal Article] Isolated single sound lip-reading using a frame-based camera and event-based camera2023

    • Author(s)
      Kanamaru Tatsuya、Arakane Taiki、Saitoh Takeshi
    • Journal Title

      Frontiers in Artificial Intelligence

      Volume: 5 Pages: 1-10

    • DOI

      10.3389/frai.2022.1070964

    • Related Report
      2022 Annual Research Report
    • Peer Reviewed / Open Access
  • [Journal Article] 神経難病患者向けの口形の動きを利用したコミュニケーション支援に関する研究2020

    • Author(s)
      齊藤剛史,中村祐哉,伊藤和幸,白井誠
    • Journal Title

      地域ケアリング

      Volume: 22 Pages: 51-52

    • Related Report
      2020 Research-status Report
  • [Journal Article] 眼球運動を利用した呼び出しシステムの開発2020

    • Author(s)
      齊藤剛史,坂本一樹,伊藤和幸,白井誠
    • Journal Title

      地域ケアリング

      Volume: 22 Pages: 62-63

    • Related Report
      2020 Research-status Report
  • [Journal Article] Lip Reading using Facial Expression Features2020

    • Author(s)
      Tatsuya Shirakata, Takeshi Saitoh
    • Journal Title

      International Journal of Computer Vision and Signal Processing

      Volume: 1 Pages: 9-15

    • Related Report
      2020 Research-status Report
    • Peer Reviewed / Open Access
  • [Presentation] 神経難病患者の発話シーンに対する口形認識2023

    • Author(s)
      権藤 優季,中村 祐哉,齊藤 剛史,伊藤 和幸
    • Organizer
      電子情報通信学会 福祉情報工学研究会
    • Related Report
      2022 Annual Research Report
  • [Presentation] CNN-based pupil center point detection using infrared face image2023

    • Author(s)
      Ploywow Nhuthep, Takeshi Saitoh, Kazuyuki Itoh
    • Organizer
      AROB-ISBC-SWARM2023
    • Related Report
      2022 Annual Research Report
    • Int'l Joint Research
  • [Presentation] 単語読唇に有効な深層学習モデルの検討2022

    • Author(s)
      荒金 大清,齊藤 剛史
    • Organizer
      電子情報通信学会 パターン認識とメディア理解研究会
    • Related Report
      2022 Annual Research Report
  • [Presentation] イベントベースカメラを用いた孤立単音読唇2022

    • Author(s)
      金丸 竜也,荒金 大清,齊藤 剛史
    • Organizer
      第28回 画像センシングシンポジウム(SSII2022)
    • Related Report
      2022 Annual Research Report
  • [Presentation] 日本語文章発話シーンデータベースの構築および日本語文章読唇2022

    • Author(s)
      荒金 大清,齊藤 剛史,千葉 隆壱,森勢 将雅,小田 恭央
    • Organizer
      第25回 画像の認識・理解シンポジウム(MIRU2022)
    • Related Report
      2022 Annual Research Report
  • [Presentation] マスク装着顔画像に対する単語読唇2022

    • Author(s)
      甲斐 千裕,齊藤 剛史
    • Organizer
      第9回サイレント音声認識ワークショップ(SSRW2022)
    • Related Report
      2022 Annual Research Report
  • [Presentation] 少数データに対する読唇技術に関する研究2022

    • Author(s)
      児玉 道成,齊藤 剛史
    • Organizer
      第9回サイレント音声認識ワークショップ(SSRW2022)
    • Related Report
      2022 Annual Research Report
  • [Presentation] 日本語文章発話シーンデータベースの構築および日本語文章読唇2022

    • Author(s)
      荒金 大清,齊藤 剛史
    • Organizer
      第9回サイレント音声認識ワークショップ(SSRW2022)
    • Related Report
      2022 Annual Research Report
  • [Presentation] メタ学習を用いた単語読唇の検討2022

    • Author(s)
      児玉 道成,齊藤 剛史
    • Organizer
      電子情報通信学会 パターン認識とメディア理解研究会
    • Related Report
      2022 Annual Research Report
  • [Presentation] マスク顔画像で読唇できる?2022

    • Author(s)
      甲斐 千裕,荒金 大清,齊藤 剛史
    • Organizer
      動的画像処理実利用化ワークショップ2023(DIA2023)
    • Related Report
      2022 Annual Research Report
  • [Presentation] Conformer-Based Lip-Reading for Japanese Sentence2022

    • Author(s)
      Arakane Taiki、Saitoh Takeshi、Chiba Ryuuichi、Morise Masanori、Oda Yasuo
    • Organizer
      Image and Vision Computing. IVCNZ 2022. Lecture Notes in Computer Science
    • Related Report
      2022 Annual Research Report
    • Int'l Joint Research
  • [Presentation] 日本語読話能力検査の実施報告2022

    • Author(s)
      齊藤 剛史,立入 哉
    • Organizer
      電子情報通信学会 福祉情報工学研究会
    • Related Report
      2021 Research-status Report
  • [Presentation] Transformerを用いた日本語文章読唇2021

    • Author(s)
      白方 達也,齊藤 剛史
    • Organizer
      第27回 画像センシングシンポジウム(SSII2021)
    • Related Report
      2021 Research-status Report
  • [Presentation] First Order Motion Modelを用いた特定話者認識問題タスクへの置き換えによる読唇手法の提案2021

    • Author(s)
      児玉 道成,齊藤 剛史
    • Organizer
      第27回 画像センシングシンポジウム(SSII2021)
    • Related Report
      2021 Research-status Report
  • [Presentation] メガネ型カメラを利用した眼球運動による呼び出しシステム2021

    • Author(s)
      坂本 一樹,齊藤 剛史,伊藤 和幸,白井 誠,田川 元気
    • Organizer
      第35回リハ工学カンファレンス
    • Related Report
      2021 Research-status Report
  • [Presentation] ITAコーパスマルチモーダルデータベース2021

    • Author(s)
      齊藤 剛史,小田 恭央,小口 純矢,金井 郁也,森勢 将雅
    • Organizer
      第8回サイレント音声認識ワークショップ(SSRW2021)
    • Related Report
      2021 Research-status Report
  • [Presentation] 生成モデルを用いた単語読唇に関する研究2021

    • Author(s)
      児玉 道成,齊藤 剛史
    • Organizer
      第8回サイレント音声認識ワークショップ(SSRW2021)
    • Related Report
      2021 Research-status Report
  • [Presentation] TCNを用いた単語読唇に関する研究2021

    • Author(s)
      荒金 大清,齊藤 剛史
    • Organizer
      第8回サイレント音声認識ワークショップ(SSRW2021)
    • Related Report
      2021 Research-status Report
  • [Presentation] 読話能力テスト報告2021

    • Author(s)
      齊藤 剛史,立入 哉
    • Organizer
      第8回サイレント音声認識ワークショップ(SSRW2021)
    • Related Report
      2021 Research-status Report
  • [Presentation] 瞳孔中心検出に基づく眼球運動を利用したALS患者用の眼鏡型スイッチの開発2021

    • Author(s)
      坂本 一樹,齊藤 剛史,伊藤 和幸
    • Organizer
      電子情報通信学会 福祉情報工学研究会
    • Related Report
      2021 Research-status Report
  • [Presentation] 眼球運動を利用した眼鏡型スイッチの開発(第1報)~ ALS療養者を対象として ~2021

    • Author(s)
      伊藤 和幸,坂本 一樹,齊藤 剛史,白井 誠,田川 元気
    • Organizer
      第9回日本難病医療ネットワーク学会学術集会
    • Related Report
      2021 Research-status Report
  • [Presentation] 眼球運動を利用した眼鏡型スイッチの開発(第2報)~ ALS療養者を対象として ~2021

    • Author(s)
      白井 誠,田川 元気,伊藤 和幸,坂本 一樹,齊藤 剛史
    • Organizer
      第9回日本難病医療ネットワーク学会学術集会
    • Related Report
      2021 Research-status Report
  • [Presentation] Temporal Convolutional Networkを用いた単語読唇2021

    • Author(s)
      荒金 大清,齊藤 剛史
    • Organizer
      第11回バイオメトリクスと認識・認証シンポジウム(SBRA2021)
    • Related Report
      2021 Research-status Report
  • [Presentation] イベントベースカメラからの顔特徴点検出法の検討2021

    • Author(s)
      金丸 竜也,齊藤 剛史
    • Organizer
      ビジョン技術の実利用ワークショップ(ViEW2021)
    • Related Report
      2021 Research-status Report
  • [Presentation] 3DCNN-based mouth shape recognition for patient with intractable neurological diseases2021

    • Author(s)
      Yuya Nakamura, Takeshi Saitoh, Kazuyuki Itoh
    • Organizer
      13th International Conference on Graphics and Image Processing (ICGIP2021)
    • Related Report
      2021 Research-status Report
    • Int'l Joint Research
  • [Presentation] Replacing speaker-independent recognition task with speaker-dependent task for lip-reading using First Order Motion Model Paper2021

    • Author(s)
      Michinari Kodama, Takeshi Saitoh
    • Organizer
      13th International Conference on Graphics and Image Processing (ICGIP2021)
    • Related Report
      2021 Research-status Report
    • Int'l Joint Research
  • [Presentation] Japanese Sentence Dataset for Lip-reading2021

    • Author(s)
      Tatsuya Shirakata and Takeshi Saitoh
    • Organizer
      IAPR 17th International Conference on Machine Vision Applications (MVA2021)
    • Related Report
      2021 Research-status Report
    • Int'l Joint Research
  • [Presentation] 肢体不自由者の支援技術研究の歩み ~将来展望と課題について~2021

    • Author(s)
      伊藤 和幸
    • Organizer
      電子情報通信学会 2021年3月福祉情報工学研究会
    • Related Report
      2020 Research-status Report
    • Invited
  • [Presentation] Development of Night Time Calling System by Eye Movement Using Wearable Camera2020

    • Author(s)
      Kazuki Sakamoto, Takeshi Saitoh, Kazuyuki Itoh
    • Organizer
      HCI International 2020
    • Related Report
      2020 Research-status Report
    • Int'l Joint Research
  • [Presentation] Lip Reading using Facial Expression Features2020

    • Author(s)
      Tatsuya Shirakata, Takeshi Saitoh
    • Organizer
      International Conference on Imaging, Vision & Pattern
    • Related Report
      2020 Research-status Report
    • Int'l Joint Research
  • [Presentation] ウェアラブルカメラを用いた目の動きによる夜間呼び出しシステムの開発2020

    • Author(s)
      坂本 一樹,齊藤 剛史,伊藤和幸
    • Organizer
      FIT2020(第19 回情報科学技術フォーラム)
    • Related Report
      2020 Research-status Report
  • [Presentation] 表情特徴を用いた読唇2020

    • Author(s)
      白方 達也,齊藤 剛史
    • Organizer
      FIT2020(第19 回情報科学技術フォーラム)
    • Related Report
      2020 Research-status Report
  • [Presentation] 3D-CNNを用いた神経難病患者の口形認識に関する研究2020

    • Author(s)
      中村 祐哉,齊藤 剛史,伊藤 和幸
    • Organizer
      電子情報通信学会 2020年10月福祉情報工学研究会
    • Related Report
      2020 Research-status Report
  • [Presentation] 3D-CNNを用いた口形認識2020

    • Author(s)
      中村 祐哉,齊藤 剛史,伊藤 和幸
    • Organizer
      サイレント音声認識ワークショップ2020
    • Related Report
      2020 Research-status Report
  • [Presentation] 表情特徴を用いた読唇精度の向上2020

    • Author(s)
      白方 達也,齊藤 剛史
    • Organizer
      サイレント音声認識ワークショップ2020
    • Related Report
      2020 Research-status Report
  • [Presentation] 肢体不自由者の支援技術研究の歩み ~将来展望と課題について~2020

    • Author(s)
      伊藤 和幸
    • Organizer
      電子情報通信学会 2019年10月福祉情報工学研究会
    • Related Report
      2019 Research-status Report
    • Invited
  • [Presentation] LSTMを用いた分類問題における判断根拠可視化の検討2019

    • Author(s)
      齊藤 剛史,徳永 旭将
    • Organizer
      第22回 画像の認識・理解シンポジウム(MIRU2019)
    • Related Report
      2019 Research-status Report
  • [Presentation] 神経難病患者の口形認識に関する研究2019

    • Author(s)
      中村 祐哉,齊藤 剛史,伊藤 和幸
    • Organizer
      電子情報通信学会 2019年10月福祉情報工学研究会
    • Related Report
      2019 Research-status Report
  • [Remarks] クチヨミ

    • URL

      https://kuchiyomi.saitoh-lab.com/

    • Related Report
      2022 Annual Research Report 2021 Research-status Report 2020 Research-status Report
  • [Patent(Industrial Property Rights)] 顔合成読唇装置及び顔合成読唇方法2021

    • Inventor(s)
      齊藤剛史
    • Industrial Property Rights Holder
      齊藤剛史
    • Industrial Property Rights Type
      特許
    • Industrial Property Number
      2021-045840
    • Filing Date
      2021
    • Related Report
      2020 Research-status Report
  • [Patent(Industrial Property Rights)] 読唇装置及び読唇方法2019

    • Inventor(s)
      齊藤剛史
    • Industrial Property Rights Holder
      齊藤剛史
    • Industrial Property Rights Type
      特許
    • Industrial Property Number
      2019-213234
    • Filing Date
      2019
    • Related Report
      2019 Research-status Report

URL: 

Published: 2019-07-22   Modified: 2024-01-30  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi