• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 課題ページに戻る

2023 年度 実績報告書

病状が進行する神経難病患者向けの操作スイッチの実用化に関する研究

研究課題

研究課題/領域番号 23H03787
配分区分補助金
研究機関九州工業大学

研究代表者

齊藤 剛史  九州工業大学, 大学院情報工学研究院, 教授 (10379654)

研究分担者 伊藤 和幸  国立障害者リハビリテーションセンター(研究所), 研究所 福祉機器開発部, 研究室長 (80370873)
研究期間 (年度) 2023-04-01 – 2027-03-31
キーワードコミュニケーション支援 / 神経難病患者 / 操作スイッチ / 顔面の映像解析
研究実績の概要

実施計画で掲げた四つのサブテーマについて報告する。
(A)患者の顔映像データの収集については、これまで十分に収集済みであったことから、積極的な収集は行わっていないが、健常者のデータ収集を進めた。患者のデータ収集には、研究分担者の協力を得た。
(B)様々な顔の動作部位を正しくとらえる顔映像解析技術に関しては、眼球、瞬きおよび口を中心に、精度向上に取り組んだ。特に、口を対象とする読唇技術に関しては、単語単位のみでなく、文章単位の読唇に取り組み精度を向上させた。眼球と瞬きについては、患者の要望を反映して改善した。その他の顔部位として、微表情検出および認識技術に取り組み、Motion History Imageを利用する手法を提案した。口形認識については、研究成果を学術雑誌にまとめている。
(C)(B)をモジュール化した操作スイッチの開発について、モジュール化には至っていないが、実証実験を行うためのアプリ開発に取り組んだ。ノートPCを利用するアプローチおよびスマートフォンやタブレットを利用するアプリの開発に取り組んだ。特にPCの利用に関しては、GPU搭載の高性能PCではなく、GPU非搭載のノートPCでも利用可能にするために、深層学習モデルの軽量化を図った。
(D)実証実験については、既に開発済みの眼鏡型スイッチを研究分担者の協力をもとに国内の患者に利用していただいた。そのフィードバックを得て、眼鏡型スイッチの改善に取り組んだ。

現在までの達成度 (区分)
現在までの達成度 (区分)

2: おおむね順調に進展している

理由

(A)データ収集については、研究分担者の協力により、患者の発話シーンを進めている。
(B)様々な顔の動作部位を正しく捉える顔映像解析技術については、眼球、瞬き、口形および微表情の検出および認識に取り組んでいる。
(C)(B)のモジュール化についてはまだ進めていないが、操作スイッチの開発は実装済みである。
(D)操作スイッチの実証実験については研究分担者の協力により進めている。

今後の研究の推進方策

(A)データ収集については、これまで通り継続して取り組む。
(B)顔の動作部位については、微表情検出を公開データセットだけでなく実ユーザに対しても検討する。
(C)モジュール化については、使用環境を決定してプロトタイプの開発に取り組む。
(D)実証実験および評価を進めるために、環境を整備する。

  • 研究成果

    (15件)

すべて 2024 2023

すべて 雑誌論文 (2件) (うち査読あり 2件、 オープンアクセス 2件) 学会発表 (13件) (うち国際学会 4件)

  • [雑誌論文] Efficient DNN Model for Word Lip-Reading2023

    • 著者名/発表者名
      Arakane Taiki、Saitoh Takeshi
    • 雑誌名

      Algorithms

      巻: 16 ページ: 269~269

    • DOI

      10.3390/a16060269

    • 査読あり / オープンアクセス
  • [雑誌論文] Isolated single sound lip-reading using a frame-based camera and event-based camera2023

    • 著者名/発表者名
      Kanamaru Tatsuya、Arakane Taiki、Saitoh Takeshi
    • 雑誌名

      Frontiers in Artificial Intelligence

      巻: 5 ページ: 1-10

    • DOI

      10.3389/frai.2022.1070964

    • 査読あり / オープンアクセス
  • [学会発表] 知識の蒸留を用いた文章読唇モデルの軽量化の検討2024

    • 著者名/発表者名
      荒金 大清,齊藤 剛史
    • 学会等名
      動的画像処理実利用化ワークショップ2024(DIA2024)
  • [学会発表] Motion History Image-based Approach to Micro and Macro Expression Detection2024

    • 著者名/発表者名
      マシューテンキットキン,齊藤 剛史
    • 学会等名
      動的画像処理実利用化ワークショップ2024(DIA2024)
  • [学会発表] PC用リアルタイム読唇アプリ「クチヨミ」の開発2024

    • 著者名/発表者名
      荒金 大清,齊藤 剛史
    • 学会等名
      ヒューマンインタフェース学会研究報告集
  • [学会発表] Facial micro- and macro-expression spotting using motion history images2023

    • 著者名/発表者名
      Matthew Teng Kit Khinn, Takeshi Saitoh
    • 学会等名
      11th International Symposium on Applied Engineering and Sciences (SAES2023)
    • 国際学会
  • [学会発表] 画像ベースモデルと特徴点ベースモデルを統合した日本語文章読唇2023

    • 著者名/発表者名
      荒金 大清,齊藤 剛史
    • 学会等名
      第26回 画像の認識・理解シンポジウム(MIRU2023)
  • [学会発表] 瞳孔中心検出による目の動きを利用した非接触型アイスイッチ2023

    • 著者名/発表者名
      ヌーテープ プロイワオ,玉井 龍斗,齊藤 剛史,伊藤 和幸
    • 学会等名
      電子情報通信学会 福祉情報工学研究会
  • [学会発表] 画像ベースモデルと特徴点ベースモデルを統合した日本語文章読唇2023

    • 著者名/発表者名
      荒金 大清,齊藤 剛史
    • 学会等名
      第10回サイレント音声認識ワークショップ(SSRW2023)
  • [学会発表] 天気ニュースを利用した読唇用データベースの構築2023

    • 著者名/発表者名
      山部 透羽,齊藤 剛史
    • 学会等名
      第10回サイレント音声認識ワークショップ(SSRW2023)
  • [学会発表] Can You Read Lips with a Masked Face?2023

    • 著者名/発表者名
      Taiki Arakane, Chihiro Kai, Takeshi Saitoh
    • 学会等名
      18th International Conference on Machine Vision Applications (MVA2023)
    • 国際学会
  • [学会発表] KuchiNavi: lip-reading-based navigation app2023

    • 著者名/発表者名
      Tatsuya Kanamaru, Takeshi Saitoh
    • 学会等名
      15th International Conference on Graphics and Image Processing (ICGIP2023)
    • 国際学会
  • [学会発表] Construction of a new database for Japanese lip-reading2023

    • 著者名/発表者名
      Towa Yamabe, Takeshi Saitoh
    • 学会等名
      15th International Conference on Graphics and Image Processing (ICGIP2023)
    • 国際学会
  • [学会発表] 重度運動機能障害者のためのジェスチャインタフェース(AAGI)の公開2023

    • 著者名/発表者名
      中山 剛,伊藤和幸,木下崇史,依田育士,水野勝広,中村拓也,原 貴敏,西田大輔,宮崎裕大, 小林庸子,山野真弓,三橋里子,有明悠生,佐々木俊輔,清水功一郎,齊藤智之
    • 学会等名
      第37回リハ工学カンファレンス
  • [学会発表] 意思伝達装置用接点式入力スイッチの作動力とストロークの測定2023

    • 著者名/発表者名
      伊藤和幸
    • 学会等名
      第37回リハ工学カンファレンス

URL: 

公開日: 2024-12-25  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi