• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 前のページに戻る

End-to-End音声合成とEnd-to-End音声認識の統合システム

研究課題

研究課題/領域番号 19J21031
研究種目

特別研究員奨励費

配分区分補助金
応募区分国内
審査区分 小区分61030:知能情報学関連
研究機関京都大学

研究代表者

上乃 聖  京都大学, 情報学研究科, 特別研究員(DC1)

研究期間 (年度) 2019-04-25 – 2022-03-31
研究課題ステータス 完了 (2021年度)
配分額 *注記
3,100千円 (直接経費: 3,100千円)
2021年度: 1,000千円 (直接経費: 1,000千円)
2020年度: 1,000千円 (直接経費: 1,000千円)
2019年度: 1,100千円 (直接経費: 1,100千円)
キーワード音声認識 / 音声合成
研究開始時の研究の概要

近年、従来のモデルより簡潔な構造で音声認識を実現するEnd-to-End音声認識の研究が進められている。しかし、End-to-End音声認識は学習に音声とその書き起こしの対データを大量に必要とし、その準備は困難である。そこで本研究では、End-to-End音声合成を用いた対データ生成をベースに、End-to-End音声合成とEnd-to-End音声認識を統合することで、対訳が必要ない統合システムについて研究を行う。

研究実績の概要

研究の目的はEnd-to-End音声合成とEnd-to-End音声認識を統合することで、適用対象(タスク、ドメイン)のテキストのみがある条件でも音声との対データを構成し、一括で学習するシステムを実現することである。
今年度は音声認識と音声合成を効率的に統合でき、かつ音声認識の性能の低下が少ない表現を構成する方法の研究を行った。音声認識の性能の低下の原因のひとつとして挙げられるのが、実際に人間が話した音声(自然音声)と音声合成システムが生成した音声(合成音声)に差があることである。音声合成においては、通常テキストから人が聞くことのできる音声波形を作るのに必要な周波数スペクトル特徴量を予測するモデルを用いた後に、その周波数スペクトル特徴量を音声波形に変換するモデルを用いて、音声波形を生成する。周波数スペクトル特徴量は音声認識の訓練データとしても用いられ、生成された音声波形を再び周波数スペクトル特徴量に変換し、音声認識に用いる。
音声波形に変換するモデルには自然音声と合成音声の差異を埋める効果があるが、この波形生成に非常に時間がかかるという問題がある。そこで今年度は音声波形に変換するモデルを用いずに周波数スペクトル特徴量上で直接差異を埋めるネットワークを構築した。
提案手法では、生成された周波数スペクトル特徴量だけでなく、音声合成のタスクで利用可能な発話の音素系列情報も用いる。評価実験から、提案手法が音声波形に変換するよりも少ない処理時間で音声認識の拡張の効果が高いことを示し、また、発話の音素系列情報の利用も改善に重要であることを示した。

現在までの達成度 (段落)

令和3年度が最終年度であるため、記入しない。

今後の研究の推進方策

令和3年度が最終年度であるため、記入しない。

報告書

(3件)
  • 2021 実績報告書
  • 2020 実績報告書
  • 2019 実績報告書
  • 研究成果

    (11件)

すべて 2022 2021 2019

すべて 雑誌論文 (1件) (うち査読あり 1件、 オープンアクセス 1件) 学会発表 (10件) (うち国際学会 3件)

  • [雑誌論文] Synthesizing waveform sequence-to-sequence to augment training data for sequence-to-sequence speech recognition2021

    • 著者名/発表者名
      S.Ueno, M.Mimura, S.Sakai, and T.Kawahara
    • 雑誌名

      Acoustical Science and Technology

      巻: 42 号: 6 ページ: 333-343

    • DOI

      10.1250/ast.42.333

    • NAID

      130008110355

    • ISSN
      0369-4232, 1346-3969, 1347-5177
    • 年月日
      2021-11-01
    • 関連する報告書
      2021 実績報告書
    • 査読あり / オープンアクセス
  • [学会発表] Phone-informed refinement of synthesized Mel spectrogram for data augmentation in speech recognition2022

    • 著者名/発表者名
      Sei Ueno and Tatsuya Kawahara
    • 学会等名
      IEEE International Conference on Acoustics, Speech and Signal Processing (ICASSP)
    • 関連する報告書
      2021 実績報告書
    • 国際学会
  • [学会発表] 音声認識のデータ拡張のための音素情報を用いた合成音声の強調2022

    • 著者名/発表者名
      上乃聖, 河原達也
    • 学会等名
      日本音響学会研究発表会講演論文集, 春季
    • 関連する報告書
      2021 実績報告書
  • [学会発表] Data augmentation for ASR using TTS via a discrete representation2021

    • 著者名/発表者名
      Sei Ueno, Masato Mimura, Shinsuke Sakai, and Tatsuya Kawahara
    • 学会等名
      IEEE Workshop Automatic Speech Recognition & Understanding (ASRU)
    • 関連する報告書
      2021 実績報告書
    • 国際学会
  • [学会発表] 音声認識のデータ拡張のための合成音声の周波数スペクトログラム強調2021

    • 著者名/発表者名
      上乃聖, 河原達也
    • 学会等名
      研究報告音声言語情報処理(SLP)
    • 関連する報告書
      2021 実績報告書
  • [学会発表] wav2vec 2.0を用いた音声合成による音声認識のデータ拡張2021

    • 著者名/発表者名
      上乃聖, 河原達也
    • 学会等名
      日本音響学会研究発表会講演論文集, 秋季
    • 関連する報告書
      2021 実績報告書
  • [学会発表] vq-wav2vecによる離散IDを扱う音声認識のデータ拡張2021

    • 著者名/発表者名
      上乃聖, 三村正人, 河原達也
    • 学会等名
      日本音響学会研究発表会講演論文集, 春季
    • 関連する報告書
      2020 実績報告書
  • [学会発表] 複数話者を対象とした非自己回帰型ニューラル音声合成2021

    • 著者名/発表者名
      上乃聖, 三村正人, 河原達也
    • 学会等名
      日本音響学会研究発表会講演論文集, 春季
    • 関連する報告書
      2020 実績報告書
  • [学会発表] Multi-speaker Sequence-to-sequence Speech Synthesis for Data Augmentation in Acoustic-to-word Speech Recognition2019

    • 著者名/発表者名
      Sei Ueno, Masato Mimura, Shinsuke Sakai, Tatsuya Kawahara
    • 学会等名
      International Conference on Acoustics, Speech, and Signal Processing (ICASSP)
    • 関連する報告書
      2019 実績報告書
    • 国際学会
  • [学会発表] 音声波形を入力とする単語単位End-to-End音声認識2019

    • 著者名/発表者名
      上乃 聖, 三村 正人, 坂井 信輔, 河原 達也
    • 学会等名
      研究報告音声言語情報処理(SLP)
    • 関連する報告書
      2019 実績報告書
  • [学会発表] Wave2word: 音声波形を入力とする単語単位end-to-end音声認識2019

    • 著者名/発表者名
      上乃聖, 三村正人, 坂井信輔, 河原達也
    • 学会等名
      日本音響学会研究発表会講演論文集, 秋季
    • 関連する報告書
      2019 実績報告書

URL: 

公開日: 2019-05-29   更新日: 2024-03-26  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi