• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to previous page

病状が進行する神経難病患者向けの操作スイッチの実用化に関する研究

Research Project

Project/Area Number 23K28475
Project/Area Number (Other) 23H03787 (2023)
Research Category

Grant-in-Aid for Scientific Research (B)

Allocation TypeMulti-year Fund (2024)
Single-year Grants (2023)
Section一般
Review Section Basic Section 90150:Medical assistive technology-related
Research InstitutionKyushu Institute of Technology

Principal Investigator

齊藤 剛史  九州工業大学, 大学院情報工学研究院, 教授 (10379654)

Co-Investigator(Kenkyū-buntansha) 伊藤 和幸  国立障害者リハビリテーションセンター(研究所), 研究所 福祉機器開発部, 研究室長 (80370873)
Project Period (FY) 2023-04-01 – 2027-03-31
Project Status Granted (Fiscal Year 2024)
Budget Amount *help
¥18,720,000 (Direct Cost: ¥14,400,000、Indirect Cost: ¥4,320,000)
Fiscal Year 2026: ¥2,730,000 (Direct Cost: ¥2,100,000、Indirect Cost: ¥630,000)
Fiscal Year 2025: ¥5,070,000 (Direct Cost: ¥3,900,000、Indirect Cost: ¥1,170,000)
Fiscal Year 2024: ¥3,770,000 (Direct Cost: ¥2,900,000、Indirect Cost: ¥870,000)
Fiscal Year 2023: ¥7,150,000 (Direct Cost: ¥5,500,000、Indirect Cost: ¥1,650,000)
Keywordsコミュニケーション支援 / 神経難病患者 / 操作スイッチ / 顔面の映像解析
Outline of Research at the Start

神経難病患者は、病状の進行により身体機能やコミュニケーション能力が著しく障害され、進行期から終末期にかけては自分で動いたり声を出したりすることが困難になる。先行課題では、眼球運動および口形に焦点を絞り映像解析技術を用いたコミュニケーション支援システムの開発に取り組み、眼鏡型スイッチを開発し一定の評価を得た。本研究課題では、先行課題を発展させて、様々な病状の患者に適用可能で、かつ病状が進行する患者に対して利用部位を選択可能であり、既存の意思伝達装置へ接続可能なシステム(操作スイッチ)の実用化に取り組む。

Outline of Annual Research Achievements

実施計画で掲げた四つのサブテーマについて報告する。
(A)患者の顔映像データの収集については、これまで十分に収集済みであったことから、積極的な収集は行わっていないが、健常者のデータ収集を進めた。患者のデータ収集には、研究分担者の協力を得た。
(B)様々な顔の動作部位を正しくとらえる顔映像解析技術に関しては、眼球、瞬きおよび口を中心に、精度向上に取り組んだ。特に、口を対象とする読唇技術に関しては、単語単位のみでなく、文章単位の読唇に取り組み精度を向上させた。眼球と瞬きについては、患者の要望を反映して改善した。その他の顔部位として、微表情検出および認識技術に取り組み、Motion History Imageを利用する手法を提案した。口形認識については、研究成果を学術雑誌にまとめている。
(C)(B)をモジュール化した操作スイッチの開発について、モジュール化には至っていないが、実証実験を行うためのアプリ開発に取り組んだ。ノートPCを利用するアプローチおよびスマートフォンやタブレットを利用するアプリの開発に取り組んだ。特にPCの利用に関しては、GPU搭載の高性能PCではなく、GPU非搭載のノートPCでも利用可能にするために、深層学習モデルの軽量化を図った。
(D)実証実験については、既に開発済みの眼鏡型スイッチを研究分担者の協力をもとに国内の患者に利用していただいた。そのフィードバックを得て、眼鏡型スイッチの改善に取り組んだ。

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

(A)データ収集については、研究分担者の協力により、患者の発話シーンを進めている。
(B)様々な顔の動作部位を正しく捉える顔映像解析技術については、眼球、瞬き、口形および微表情の検出および認識に取り組んでいる。
(C)(B)のモジュール化についてはまだ進めていないが、操作スイッチの開発は実装済みである。
(D)操作スイッチの実証実験については研究分担者の協力により進めている。

Strategy for Future Research Activity

(A)データ収集については、これまで通り継続して取り組む。
(B)顔の動作部位については、微表情検出を公開データセットだけでなく実ユーザに対しても検討する。
(C)モジュール化については、使用環境を決定してプロトタイプの開発に取り組む。
(D)実証実験および評価を進めるために、環境を整備する。

Report

(1 results)
  • 2023 Annual Research Report
  • Research Products

    (15 results)

All 2024 2023

All Journal Article (2 results) (of which Peer Reviewed: 2 results,  Open Access: 2 results) Presentation (13 results) (of which Int'l Joint Research: 4 results)

  • [Journal Article] Efficient DNN Model for Word Lip-Reading2023

    • Author(s)
      Arakane Taiki、Saitoh Takeshi
    • Journal Title

      Algorithms

      Volume: 16 Issue: 6 Pages: 269-269

    • DOI

      10.3390/a16060269

    • Related Report
      2023 Annual Research Report
    • Peer Reviewed / Open Access
  • [Journal Article] Isolated single sound lip-reading using a frame-based camera and event-based camera2023

    • Author(s)
      Kanamaru Tatsuya、Arakane Taiki、Saitoh Takeshi
    • Journal Title

      Frontiers in Artificial Intelligence

      Volume: 5 Pages: 1-10

    • DOI

      10.3389/frai.2022.1070964

    • Related Report
      2023 Annual Research Report
    • Peer Reviewed / Open Access
  • [Presentation] 知識の蒸留を用いた文章読唇モデルの軽量化の検討2024

    • Author(s)
      荒金 大清,齊藤 剛史
    • Organizer
      動的画像処理実利用化ワークショップ2024(DIA2024)
    • Related Report
      2023 Annual Research Report
  • [Presentation] Motion History Image-based Approach to Micro and Macro Expression Detection2024

    • Author(s)
      マシューテンキットキン,齊藤 剛史
    • Organizer
      動的画像処理実利用化ワークショップ2024(DIA2024)
    • Related Report
      2023 Annual Research Report
  • [Presentation] PC用リアルタイム読唇アプリ「クチヨミ」の開発2024

    • Author(s)
      荒金 大清,齊藤 剛史
    • Organizer
      ヒューマンインタフェース学会研究報告集
    • Related Report
      2023 Annual Research Report
  • [Presentation] Facial micro- and macro-expression spotting using motion history images2023

    • Author(s)
      Matthew Teng Kit Khinn, Takeshi Saitoh
    • Organizer
      11th International Symposium on Applied Engineering and Sciences (SAES2023)
    • Related Report
      2023 Annual Research Report
    • Int'l Joint Research
  • [Presentation] 画像ベースモデルと特徴点ベースモデルを統合した日本語文章読唇2023

    • Author(s)
      荒金 大清,齊藤 剛史
    • Organizer
      第26回 画像の認識・理解シンポジウム(MIRU2023)
    • Related Report
      2023 Annual Research Report
  • [Presentation] 瞳孔中心検出による目の動きを利用した非接触型アイスイッチ2023

    • Author(s)
      ヌーテープ プロイワオ,玉井 龍斗,齊藤 剛史,伊藤 和幸
    • Organizer
      電子情報通信学会 福祉情報工学研究会
    • Related Report
      2023 Annual Research Report
  • [Presentation] 画像ベースモデルと特徴点ベースモデルを統合した日本語文章読唇2023

    • Author(s)
      荒金 大清,齊藤 剛史
    • Organizer
      第10回サイレント音声認識ワークショップ(SSRW2023)
    • Related Report
      2023 Annual Research Report
  • [Presentation] 天気ニュースを利用した読唇用データベースの構築2023

    • Author(s)
      山部 透羽,齊藤 剛史
    • Organizer
      第10回サイレント音声認識ワークショップ(SSRW2023)
    • Related Report
      2023 Annual Research Report
  • [Presentation] Can You Read Lips with a Masked Face?2023

    • Author(s)
      Taiki Arakane, Chihiro Kai, Takeshi Saitoh
    • Organizer
      18th International Conference on Machine Vision Applications (MVA2023)
    • Related Report
      2023 Annual Research Report
    • Int'l Joint Research
  • [Presentation] KuchiNavi: lip-reading-based navigation app2023

    • Author(s)
      Tatsuya Kanamaru, Takeshi Saitoh
    • Organizer
      15th International Conference on Graphics and Image Processing (ICGIP2023)
    • Related Report
      2023 Annual Research Report
    • Int'l Joint Research
  • [Presentation] Construction of a new database for Japanese lip-reading2023

    • Author(s)
      Towa Yamabe, Takeshi Saitoh
    • Organizer
      15th International Conference on Graphics and Image Processing (ICGIP2023)
    • Related Report
      2023 Annual Research Report
    • Int'l Joint Research
  • [Presentation] 重度運動機能障害者のためのジェスチャインタフェース(AAGI)の公開2023

    • Author(s)
      中山 剛,伊藤和幸,木下崇史,依田育士,水野勝広,中村拓也,原 貴敏,西田大輔,宮崎裕大, 小林庸子,山野真弓,三橋里子,有明悠生,佐々木俊輔,清水功一郎,齊藤智之
    • Organizer
      第37回リハ工学カンファレンス
    • Related Report
      2023 Annual Research Report
  • [Presentation] 意思伝達装置用接点式入力スイッチの作動力とストロークの測定2023

    • Author(s)
      伊藤和幸
    • Organizer
      第37回リハ工学カンファレンス
    • Related Report
      2023 Annual Research Report

URL: 

Published: 2023-04-18   Modified: 2024-12-25  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi