• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 課題ページに戻る

2015 年度 実績報告書

口唇動作による発話支援装置と読唇補助装置の開発

研究課題

研究課題/領域番号 25330418
研究機関東海大学

研究代表者

山田 光穗  東海大学, 情報通信学部, 教授 (60366086)

研究分担者 星野 祐子  東海大学, 情報通信学部, 講師 (80435271)
研究期間 (年度) 2013-04-01 – 2016-03-31
キーワード学習支援システム / ヒューマンインターフェイス / 発話支援 / 口唇動作 / 発話認識
研究実績の概要

本研究は、発話時の口唇動作を可視化し、より正しい発話に導く発話学習支援装置、聴覚障害者とのコミュニケーションを補助する読唇補助装置を実現し、広く社会に役立てることをめざす。
3年計画で実施し、1年目は日本語と英語を対象として口唇動作を取得しデータベース化できるシステムを開発した。次にこの装置を用いて、日本語については放送局アナウンサー、英語についてはネイティブの英語講師により、模範となる発話データベースを作成した。
2年目は、学習者が対話的に口唇動作を学習できる発話学習支援装置を開発した。また、発話者の口唇動作から発話された単語の候補を抽出して表示できる読唇補助装置を実現するために、膨大な辞書データを効率よく更新、保存できるデータベースの開発を行った。
最終年度は、この装置を用いて、日本語と英語の発話トレーニングを行った。日本語ではアナウンサーの発話時の強弱変化が数値化され、練習時にトレーニング者がこれを学ぶことにより、聞き取りやすさや歯切れの良さ(アーティキュレーション)が改善されることを示した。英語についても、トレーニングを重ねることにより、口唇動作履歴が英語講師に近づくことを示した。さらに、音声のスペクトログラムからを用いた客観的評価法を提案し、発話能力が向上し、ネイティブの母音発音に近づくことを示した。読唇補助装置の研究では、これまで単語を特定のジャンルに限定して行ってきたが、ニーズの増加に伴い、データベースの修正、拡充に柔軟に対応するシステムの開発が必要となった。そこで、SQliteをベースとする新たなデータベース管理手法を提案した。これにより、より多くの単語に対応した汎用的な読唇補助装置を実現できる。以上に述べたように、本研究の成果により、日本語や英語の発話トレーニングだけでなく、母音発話能力の向上による読唇や発話認識の向上に役立てることができる。

備考

我々はマルチモーダル認識の1つである口唇動作に注目し、口唇動作による発話認識の手法について研究してきました。しかし口唇動作による認識は個人差により認識率が低下する事があります。そのため、口唇動作を用いた発話者の発話改善を目的としたトレーニング手法の提案・開発を行っています。日本語と英語を対象とした発話トレーニングの成果について紹介します。

  • 研究成果

    (9件)

すべて 2016 2015 その他

すべて 学会発表 (7件) (うち国際学会 3件) 備考 (2件)

  • [学会発表] How to evaluate English pronunciation learning by lip movements2016

    • 著者名/発表者名
      Miyuki Suganuma,Tomoki Yamamura,Yuko Hoshino, Mitsuho Yamada
    • 学会等名
      IMQA2016
    • 発表場所
      名古屋大学(愛知県名古屋市)
    • 年月日
      2016-03-10 – 2016-03-11
    • 国際学会
  • [学会発表] 口唇動作による英語発話学習法の効果と評価2015

    • 著者名/発表者名
      菅沼美由起、山村知生、星野祐子、山田光穗
    • 学会等名
      映像情報メディア学会2015冬季大会
    • 発表場所
      早稲田大学(東京都新宿区)
    • 年月日
      2015-12-15 – 2015-12-16
  • [学会発表] 口唇動作による英語発話学習の評価法の検討2015

    • 著者名/発表者名
      菅沼美由起、山村知生、星野祐子、山田光穗
    • 学会等名
      電子情報通信学会イメージメディアクオリティ研究会
    • 発表場所
      京都工芸繊維大学(京都府京都市)
    • 年月日
      2015-11-27
  • [学会発表] 口唇動作による日本語発話トレーニング法の練習効果2015

    • 著者名/発表者名
      山村知生、菅沼美由起、星野祐子、山田光穗
    • 学会等名
      電子情報通信2015ソサイエティー大会
    • 発表場所
      東北大学(宮城県仙台市)
    • 年月日
      2015-09-10
  • [学会発表] 口唇動作による英語発話法の提案2015

    • 著者名/発表者名
      菅沼美由起
    • 学会等名
      電子情報通信2015ソサイエティー大会
    • 発表場所
      東北大学
    • 年月日
      2015-09-10
  • [学会発表] The learning data management of the utterance learning system using lip movements recognition2015

    • 著者名/発表者名
      Yuko Hoshino,Tomoki Yamamura,Mitsuho Yamada
    • 学会等名
      ICCAT2015
    • 発表場所
      くにびきメッセ(島根県松江市)
    • 年月日
      2015-08-31 – 2015-09-02
    • 国際学会
  • [学会発表] Development of a speech training system by lip movements2015

    • 著者名/発表者名
      Tomoki Yamamura,Yuko Hoshino, Mitsuho Yamada
    • 学会等名
      ICCAT2015
    • 発表場所
      くにびきメッセ(島根県松江市)
    • 年月日
      2015-08-31 – 2015-09-02
    • 国際学会
  • [備考] 口唇動作による発話トレーニングの研究

    • URL

      http://www.yamadalab.net/UtteranceTrainingByLipMovement_JPN.htm

  • [備考] Development of a speech training system

    • URL

      http://www.yamadalab.net/UtteranceTrainingByLipMovement_ENG.html

URL: 

公開日: 2017-01-06  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi