• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2020 Fiscal Year Research-status Report

神経難病患者の進行性を考慮した顔面を用いたコミュニケーション支援の実証的研究

Research Project

Project/Area Number 19KT0029
Research InstitutionKyushu Institute of Technology

Principal Investigator

齊藤 剛史  九州工業大学, 大学院情報工学研究院, 教授 (10379654)

Co-Investigator(Kenkyū-buntansha) 伊藤 和幸  国立障害者リハビリテーションセンター(研究所), 研究所 福祉機器開発部, 研究室長 (80370873)
Project Period (FY) 2019-07-17 – 2022-03-31
Keywordsコミュニケーション支援 / 神経難病患者
Outline of Annual Research Achievements

1.コロナ禍のため計画通りの撮影が難しかったが、実施計画に基づき、前年度を含めて患者19名の協力を得て、「あ」「い」「う」「え」「お」「ん」の代表的な6口形の発話シーンを継続して撮影した。これは研究分担者が担当した。
2.本研究課題では、病状の進行を考慮して患者の顔画像より口形、表情、眼瞼、瞳孔の動きを利用したコミュニケーション支援機器の開発に取り組む。その中で、口形に関しては、前年の研究を発展させて、深層学習の一つである3D-CNNを用いた手法を提案した(本研究成果は2020年10月に発表済み)。
3.表情に関しては顔面運動を行うシーンを収集していないため患者から撮影したシーンに対しては適用できていないが、健常者の発話シーンに対して、表情特徴を用いることで発話内容の認識精度が向上することを確認した(本研究成果は2020年8月に発表済み)。さらに、認識精度向上のために、顔合成技術を利用した新規な読唇手法を提案した(本研究成果は2021年3月に特許出願済み)。本研究成果は2022年6月に発表予定である。
4.眼球運動を利用したコミュニケーション支援に関しては、前年度プロトタイプを開発した目の動きを利用した夜間呼び出しシステムについて評価実験を実施した(本研究成果は2020年7月に発表済み)。コロナ禍のため施設訪問が難しい状況であったが、研究分担者、施設スタッフおよび神経難病患者の協力の下、検証実験に取り組み始めた。

Current Status of Research Progress
Current Status of Research Progress

1: Research has progressed more than it was originally planned.

Reason

データ収集については、研究分担者の協力により、患者の発話シーンを計画以上に進めている。
コミュニケーション支援機器開発のための認識エンジンとなる認識手法に関して、口形に関しては計画通り進めることができた。眼球運動を利用したコミュニケーション支援に関しては、研究協力者である福祉従事者の要望を受け、目の動きを利用した夜間呼び出しシステムを開発し、実証検証を取り組み始めている。これは当初の計画以上に進展している。

Strategy for Future Research Activity

発話シーン収集に関して、今年度はコロナ禍のため訪問が難しい状況があったが、コロナ禍においても撮影協力を行えるよう整備を進める。口形を利用したコミュニケーション支援機器の開発に関しては、プロトタイプの開発に取り組む。眼球を利用したコミュニケーション支援機器に関しては、既に検証実験を開始しているが、検証により浮かび上がった課題の解決に努める。眼瞼についての目処も立てたため、計画通りに進める。

Causes of Carryover

コロナ禍のため、出張が難しく、旅費の執行が計画通りに進めることができなかった。そのために、次年度使用額が生じた。実証検証を進めるにあたり、細かな物品費が必要となるため、この購入費に充てる。

  • Research Products

    (13 results)

All 2021 2020 Other

All Journal Article (3 results) (of which Peer Reviewed: 1 results,  Open Access: 1 results) Presentation (8 results) (of which Int'l Joint Research: 2 results,  Invited: 1 results) Remarks (1 results) Patent(Industrial Property Rights) (1 results)

  • [Journal Article] 神経難病患者向けの口形の動きを利用したコミュニケーション支援に関する研究2020

    • Author(s)
      齊藤剛史,中村祐哉,伊藤和幸,白井誠
    • Journal Title

      地域ケアリング

      Volume: 22 Pages: 51-52

  • [Journal Article] 眼球運動を利用した呼び出しシステムの開発2020

    • Author(s)
      齊藤剛史,坂本一樹,伊藤和幸,白井誠
    • Journal Title

      地域ケアリング

      Volume: 22 Pages: 62-63

  • [Journal Article] Lip Reading using Facial Expression Features2020

    • Author(s)
      Tatsuya Shirakata, Takeshi Saitoh
    • Journal Title

      International Journal of Computer Vision and Signal Processing

      Volume: 1 Pages: 9-15

    • Peer Reviewed / Open Access
  • [Presentation] 肢体不自由者の支援技術研究の歩み ~将来展望と課題について~2021

    • Author(s)
      伊藤 和幸
    • Organizer
      電子情報通信学会 2021年3月福祉情報工学研究会
    • Invited
  • [Presentation] Development of Night Time Calling System by Eye Movement Using Wearable Camera2020

    • Author(s)
      Kazuki Sakamoto, Takeshi Saitoh, Kazuyuki Itoh
    • Organizer
      HCI International 2020
    • Int'l Joint Research
  • [Presentation] Lip Reading using Facial Expression Features2020

    • Author(s)
      Tatsuya Shirakata, Takeshi Saitoh
    • Organizer
      International Conference on Imaging, Vision & Pattern
    • Int'l Joint Research
  • [Presentation] ウェアラブルカメラを用いた目の動きによる夜間呼び出しシステムの開発2020

    • Author(s)
      坂本 一樹,齊藤 剛史,伊藤和幸
    • Organizer
      FIT2020(第19 回情報科学技術フォーラム)
  • [Presentation] 表情特徴を用いた読唇2020

    • Author(s)
      白方 達也,齊藤 剛史
    • Organizer
      FIT2020(第19 回情報科学技術フォーラム)
  • [Presentation] 3D-CNNを用いた神経難病患者の口形認識に関する研究2020

    • Author(s)
      中村 祐哉,齊藤 剛史,伊藤 和幸
    • Organizer
      電子情報通信学会 2020年10月福祉情報工学研究会
  • [Presentation] 3D-CNNを用いた口形認識2020

    • Author(s)
      中村 祐哉,齊藤 剛史,伊藤 和幸
    • Organizer
      サイレント音声認識ワークショップ2020
  • [Presentation] 表情特徴を用いた読唇精度の向上2020

    • Author(s)
      白方 達也,齊藤 剛史
    • Organizer
      サイレント音声認識ワークショップ2020
  • [Remarks] クチヨミ

    • URL

      https://kuchiyomi.saitoh-lab.com/

  • [Patent(Industrial Property Rights)] 顔合成読唇装置及び顔合成読唇方法2021

    • Inventor(s)
      齊藤剛史
    • Industrial Property Rights Holder
      齊藤剛史
    • Industrial Property Rights Type
      特許
    • Industrial Property Number
      特願2021-045840

URL: 

Published: 2021-12-27  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi