• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 前のページに戻る

モバイル端末を用いたマルチモダル発声支援システムの研究

研究課題

研究課題/領域番号 19K12905
研究種目

基盤研究(C)

配分区分基金
応募区分一般
審査区分 小区分90150:医療福祉工学関連
研究機関大阪工業大学

研究代表者

松井 謙二  大阪工業大学, ロボティクス&デザイン工学部, 教授 (30613682)

研究分担者 中藤 良久  九州工業大学, 大学院工学研究院, 教授 (10599955)
加藤 弓子  聖マリアンナ医科大学, 医学部, 研究員 (10600463)
水町 光徳  九州工業大学, 大学院工学研究院, 准教授 (90380740)
研究期間 (年度) 2019-04-01 – 2022-03-31
研究課題ステータス 完了 (2021年度)
配分額 *注記
3,250千円 (直接経費: 2,500千円、間接経費: 750千円)
2021年度: 780千円 (直接経費: 600千円、間接経費: 180千円)
2020年度: 1,170千円 (直接経費: 900千円、間接経費: 270千円)
2019年度: 1,300千円 (直接経費: 1,000千円、間接経費: 300千円)
キーワード機械読唇 / 発声支援 / 変分オートエンコーダー / 口形素 / 深度画像 / 携帯端末 / 人工喉頭 / 口唇画像認識 / モバイル端末 / 子音認識 / 音声合成
研究開始時の研究の概要

本研究の目的は、見た目に健常者と同等で周囲の視線を気にすることなく使える拡声装置あるいは発声支援装置の開発である。さらに、低コスト、軽量で簡単に使え、ユーザー適応可能な装置の開発を目指す。スマホおよび口唇画像情報を最大限利用し、今までの人工喉頭とは全く異なり、スマホにアプリをインストールするだけで利用可能なシステムを構築する。具体的には、主に食道発声ユーザーに向けた音声強調および小型拡声器を用いたワイヤレス拡声機能、人工喉頭を主として用いるユーザーに向けた読唇⇒音声合成による発声機能をそれぞれ実現し、多様な特性に適応可能なスマホ利用発声支援機能群を実現することを目標とする。

研究成果の概要

本研究は,喉頭摘出者のように発声が困難なユーザーに対して、“既存のデバイスが使える”,“目立たない外観である”,“使いやすいインターフェースである”という発声支援装置開発を目標としている.具体的にはスマートフォンのような携帯型のデバイスを用いた口唇認識と音声合成による発声支援装置の開発を行っている.先ずPC上で36種類の口形素を単位としてVAEとCNNを用いた画像認識による読唇を行った。次に携帯端末に実装し使用感評価を行った。また認識性能向上のため深度画像を用いて主に子音の認識性能向上を目指した。現在までに20単語、特定話者で90%程度の性能を確認している。

研究成果の学術的意義や社会的意義

喉頭摘出者など病気や事故で発声が困難になった場合、電気式人工喉頭や食道発声等の代用音声を用いる.しかしこれらは使用時に目立つことや習得に時間がかかることが課題である.実際にユーザからは“既存のデバイスが使える”,“目立たない外観である”,“使いやすいインターフェースである”ことが望まれている.このことから機械読唇による発声支援が研究されている.本研究の特徴は口形素と変分オートエンコーダを用いて単語登録が極めて容易な機械読唇によるフレーズ認識方式であり、携帯端末への実装も行いその効果や課題を検証した.また、深度画像を用いて機械読唇での子音認識の精度向上を図っており、実証実験に向けて意義は大きい.

報告書

(4件)
  • 2021 実績報告書   研究成果報告書 ( PDF )
  • 2020 実施状況報告書
  • 2019 実施状況報告書
  • 研究成果

    (12件)

すべて 2022 2021 2020 2019

すべて 雑誌論文 (2件) (うち国際共著 2件、 査読あり 2件) 学会発表 (10件) (うち国際学会 5件)

  • [雑誌論文] Development of Mobile Device-Based Speech Enhancement System Using Lip-Reading2022

    • 著者名/発表者名
      Fumiaki Eguchi, Kenji Matsui, Yoshihisa Nakatoh, Yumiko O. Kato, Alberto Rivas, Juan Manuel Corchado
    • 雑誌名

      Distributed Computing and Artificial Intelligence, Volume 1: 18th International Conference

      巻: 1 ページ: 210-220

    • 関連する報告書
      2021 実績報告書
    • 査読あり / 国際共著
  • [雑誌論文] Mobile Device-based Speech Enhancement System Using Lip-reading2020

    • 著者名/発表者名
      Tomonori Nakahara, Kohei Fukuyama, Mitsuru Hamada, Kenji Matsui, Yoshihisa Nakatoh, Yumiko O. Kato, Alberto Rivas, Juan Manuel Corchado
    • 雑誌名

      Advances in Intelligent Systems and Computing

      巻: 1237 ページ: 159-167

    • DOI

      10.1007/978-3-030-53036-5_17

    • ISBN
      9783030530358, 9783030530365
    • 関連する報告書
      2020 実施状況報告書 2019 実施状況報告書
    • 査読あり / 国際共著
  • [学会発表] 携帯端末を用いた口唇認識による発話支援の検討2021

    • 著者名/発表者名
      江口文耀、松井謙二、中藤良久、加藤弓子
    • 学会等名
      日本音響学会2021年秋季研究発表会
    • 関連する報告書
      2021 実績報告書
  • [学会発表] Effective Selection Method of Microphones for Conversation Assistance in Noisy Environment2021

    • 著者名/発表者名
      Mizuki Horii, Rin Hirakawa, Hideaki Kawano, Yoshihisa Nakatoh
    • 学会等名
      5th International Conference on Human Interaction and Emerging Technologies
    • 関連する報告書
      2021 実績報告書
    • 国際学会
  • [学会発表] Speaker identification method using bone conduction and throat microphones2021

    • 著者名/発表者名
      Takeshi Hashiguchi, Rin Hirakawa, Hideaki Kawano, Yoshihisa Nakatoh,
    • 学会等名
      5th International Conference on Human Interaction and Emerging Technologies
    • 関連する報告書
      2021 実績報告書
    • 国際学会
  • [学会発表] Speech Enhancement System Using SVM for Train Announcement2021

    • 著者名/発表者名
      Yuto Kinoshita, Rin Hirakawa, Hideaki Kawano, Kenichi Nakashi, Yoshihisa Nakatoh
    • 学会等名
      The 39th IEEE International Conference on Consumer Electronics(IEEE ICCE 2021)
    • 関連する報告書
      2020 実施状況報告書
    • 国際学会
  • [学会発表] Speech Enhancement System Using Lip-reading2020

    • 著者名/発表者名
      Kenji Matsui, Kohei Fukuyama, Yoshihisa Nakatoh, Yumiko O. Kato
    • 学会等名
      2nd IEEE International Conference on Artificial Intelligence in Engineering and Technology (IICAIET 2020)
    • 関連する報告書
      2020 実施状況報告書
    • 国際学会
  • [学会発表] 発声支援のための口形素列によるフレーズ認識方式の検討2020

    • 著者名/発表者名
      中原智典, 福山晃平, 松井謙二, 中藤良久, 加藤弓子
    • 学会等名
      日本音響学会2020年秋季研究発表会
    • 関連する報告書
      2020 実施状況報告書
  • [学会発表] Mobile Device-based Speech Enhancement System Using Lip-reading2020

    • 著者名/発表者名
      Tomonori Nakahara, Kohei Fukuyama, Mitsuru Hamada, Kenji Matsui, Yoshihisa Nakatoh, Yumiko O. Kato, Alberto Rivas, Juan Manuel Corchado
    • 学会等名
      17th International Conference on Distributed Computing and Artificial Intelligence
    • 関連する報告書
      2019 実施状況報告書
    • 国際学会
  • [学会発表] 携帯機器 を用いた口唇情報利用 発声支援デバイスの開発2020

    • 著者名/発表者名
      濵田三 弦,福山晃平,松井謙二,中藤良久,加藤弓子
    • 学会等名
      日本音響学会2020年春季研究発表会
    • 関連する報告書
      2019 実施状況報告書
  • [学会発表] 発声支援のための読唇手法の検討2020

    • 著者名/発表者名
      福山晃平,松井謙二,中藤良久,加藤弓子
    • 学会等名
      日本音響学会2020年春季研究発表会
    • 関連する報告書
      2019 実施状況報告書
  • [学会発表] 携帯機器と口唇情報利用による発声支援方式の検討2019

    • 著者名/発表者名
      福山晃平,濵田三 弦,松井謙二,中藤良久,加藤弓子
    • 学会等名
      日本音響学会2019年秋季研究発表会
    • 関連する報告書
      2019 実施状況報告書

URL: 

公開日: 2019-04-18   更新日: 2023-03-16  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi