• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2023 Fiscal Year Annual Research Report

病状が進行する神経難病患者向けの操作スイッチの実用化に関する研究

Research Project

Project/Area Number 23H03787
Allocation TypeSingle-year Grants
Research InstitutionKyushu Institute of Technology

Principal Investigator

齊藤 剛史  九州工業大学, 大学院情報工学研究院, 教授 (10379654)

Co-Investigator(Kenkyū-buntansha) 伊藤 和幸  国立障害者リハビリテーションセンター(研究所), 研究所 福祉機器開発部, 研究室長 (80370873)
Project Period (FY) 2023-04-01 – 2027-03-31
Keywordsコミュニケーション支援 / 神経難病患者 / 操作スイッチ / 顔面の映像解析
Outline of Annual Research Achievements

実施計画で掲げた四つのサブテーマについて報告する。
(A)患者の顔映像データの収集については、これまで十分に収集済みであったことから、積極的な収集は行わっていないが、健常者のデータ収集を進めた。患者のデータ収集には、研究分担者の協力を得た。
(B)様々な顔の動作部位を正しくとらえる顔映像解析技術に関しては、眼球、瞬きおよび口を中心に、精度向上に取り組んだ。特に、口を対象とする読唇技術に関しては、単語単位のみでなく、文章単位の読唇に取り組み精度を向上させた。眼球と瞬きについては、患者の要望を反映して改善した。その他の顔部位として、微表情検出および認識技術に取り組み、Motion History Imageを利用する手法を提案した。口形認識については、研究成果を学術雑誌にまとめている。
(C)(B)をモジュール化した操作スイッチの開発について、モジュール化には至っていないが、実証実験を行うためのアプリ開発に取り組んだ。ノートPCを利用するアプローチおよびスマートフォンやタブレットを利用するアプリの開発に取り組んだ。特にPCの利用に関しては、GPU搭載の高性能PCではなく、GPU非搭載のノートPCでも利用可能にするために、深層学習モデルの軽量化を図った。
(D)実証実験については、既に開発済みの眼鏡型スイッチを研究分担者の協力をもとに国内の患者に利用していただいた。そのフィードバックを得て、眼鏡型スイッチの改善に取り組んだ。

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

(A)データ収集については、研究分担者の協力により、患者の発話シーンを進めている。
(B)様々な顔の動作部位を正しく捉える顔映像解析技術については、眼球、瞬き、口形および微表情の検出および認識に取り組んでいる。
(C)(B)のモジュール化についてはまだ進めていないが、操作スイッチの開発は実装済みである。
(D)操作スイッチの実証実験については研究分担者の協力により進めている。

Strategy for Future Research Activity

(A)データ収集については、これまで通り継続して取り組む。
(B)顔の動作部位については、微表情検出を公開データセットだけでなく実ユーザに対しても検討する。
(C)モジュール化については、使用環境を決定してプロトタイプの開発に取り組む。
(D)実証実験および評価を進めるために、環境を整備する。

  • Research Products

    (15 results)

All 2024 2023

All Journal Article (2 results) (of which Peer Reviewed: 2 results,  Open Access: 2 results) Presentation (13 results) (of which Int'l Joint Research: 4 results)

  • [Journal Article] Efficient DNN Model for Word Lip-Reading2023

    • Author(s)
      Arakane Taiki、Saitoh Takeshi
    • Journal Title

      Algorithms

      Volume: 16 Pages: 269~269

    • DOI

      10.3390/a16060269

    • Peer Reviewed / Open Access
  • [Journal Article] Isolated single sound lip-reading using a frame-based camera and event-based camera2023

    • Author(s)
      Kanamaru Tatsuya、Arakane Taiki、Saitoh Takeshi
    • Journal Title

      Frontiers in Artificial Intelligence

      Volume: 5 Pages: 1-10

    • DOI

      10.3389/frai.2022.1070964

    • Peer Reviewed / Open Access
  • [Presentation] 知識の蒸留を用いた文章読唇モデルの軽量化の検討2024

    • Author(s)
      荒金 大清,齊藤 剛史
    • Organizer
      動的画像処理実利用化ワークショップ2024(DIA2024)
  • [Presentation] Motion History Image-based Approach to Micro and Macro Expression Detection2024

    • Author(s)
      マシューテンキットキン,齊藤 剛史
    • Organizer
      動的画像処理実利用化ワークショップ2024(DIA2024)
  • [Presentation] PC用リアルタイム読唇アプリ「クチヨミ」の開発2024

    • Author(s)
      荒金 大清,齊藤 剛史
    • Organizer
      ヒューマンインタフェース学会研究報告集
  • [Presentation] Facial micro- and macro-expression spotting using motion history images2023

    • Author(s)
      Matthew Teng Kit Khinn, Takeshi Saitoh
    • Organizer
      11th International Symposium on Applied Engineering and Sciences (SAES2023)
    • Int'l Joint Research
  • [Presentation] 画像ベースモデルと特徴点ベースモデルを統合した日本語文章読唇2023

    • Author(s)
      荒金 大清,齊藤 剛史
    • Organizer
      第26回 画像の認識・理解シンポジウム(MIRU2023)
  • [Presentation] 瞳孔中心検出による目の動きを利用した非接触型アイスイッチ2023

    • Author(s)
      ヌーテープ プロイワオ,玉井 龍斗,齊藤 剛史,伊藤 和幸
    • Organizer
      電子情報通信学会 福祉情報工学研究会
  • [Presentation] 画像ベースモデルと特徴点ベースモデルを統合した日本語文章読唇2023

    • Author(s)
      荒金 大清,齊藤 剛史
    • Organizer
      第10回サイレント音声認識ワークショップ(SSRW2023)
  • [Presentation] 天気ニュースを利用した読唇用データベースの構築2023

    • Author(s)
      山部 透羽,齊藤 剛史
    • Organizer
      第10回サイレント音声認識ワークショップ(SSRW2023)
  • [Presentation] Can You Read Lips with a Masked Face?2023

    • Author(s)
      Taiki Arakane, Chihiro Kai, Takeshi Saitoh
    • Organizer
      18th International Conference on Machine Vision Applications (MVA2023)
    • Int'l Joint Research
  • [Presentation] KuchiNavi: lip-reading-based navigation app2023

    • Author(s)
      Tatsuya Kanamaru, Takeshi Saitoh
    • Organizer
      15th International Conference on Graphics and Image Processing (ICGIP2023)
    • Int'l Joint Research
  • [Presentation] Construction of a new database for Japanese lip-reading2023

    • Author(s)
      Towa Yamabe, Takeshi Saitoh
    • Organizer
      15th International Conference on Graphics and Image Processing (ICGIP2023)
    • Int'l Joint Research
  • [Presentation] 重度運動機能障害者のためのジェスチャインタフェース(AAGI)の公開2023

    • Author(s)
      中山 剛,伊藤和幸,木下崇史,依田育士,水野勝広,中村拓也,原 貴敏,西田大輔,宮崎裕大, 小林庸子,山野真弓,三橋里子,有明悠生,佐々木俊輔,清水功一郎,齊藤智之
    • Organizer
      第37回リハ工学カンファレンス
  • [Presentation] 意思伝達装置用接点式入力スイッチの作動力とストロークの測定2023

    • Author(s)
      伊藤和幸
    • Organizer
      第37回リハ工学カンファレンス

URL: 

Published: 2024-12-25  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi