• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 前のページに戻る

Cross-disciplinary approach to prosody-based automatic speech processing and its application to computer-assisted language teaching

研究課題

研究課題/領域番号 20K00838
研究種目

基盤研究(C)

配分区分基金
応募区分一般
審査区分 小区分02100:外国語教育関連
研究機関会津大学

研究代表者

Pyshkin Evgeny  会津大学, コンピュータ理工学部, 上級准教授 (50794088)

研究分担者 Mozgovoy Maxim  会津大学, コンピュータ理工学部, 准教授 (60571776)
BLAKE John  会津大学, コンピュータ理工学部, 上級准教授 (80635954)
研究期間 (年度) 2020-04-01 – 2023-03-31
研究課題ステータス 完了 (2022年度)
配分額 *注記
3,770千円 (直接経費: 2,900千円、間接経費: 870千円)
2022年度: 910千円 (直接経費: 700千円、間接経費: 210千円)
2021年度: 1,430千円 (直接経費: 1,100千円、間接経費: 330千円)
2020年度: 1,430千円 (直接経費: 1,100千円、間接経費: 330千円)
キーワードCAPT / prosody / speech visualization / pitch estimation / multimodal feedback / multi-language CAPT / suprasegmentals / proximal developement / CAPT personalization / pitch visualization / L2 education / mobile technology / speech processing / Speech processing / Audio-visual feedback / ASR / Langauge prosody / CALL / mobile
研究開始時の研究の概要

2020: Redesigning the digital signal processing (DSP) core for platform independence of components used in CAPT, ASR and phonology research.
2021: Developing the mobile aps using our DSP library based on the stack of modern mobile development technologies.
2022: Evaluation in classrooms situations.

研究成果の概要

この研究では、信号・音声認識と音声処理アルゴリズムに基づくCAPTシステムの進化を探求。デジタル信号処理コアを開発し、ピッチ抽出、音声活動検出、ダイナミックタイムワープに基づくピッチ推定を含む。DTWベースのメトリクス、拡張音声転写、音声およびビデオ出力を含むマルチモーダルフィードバックを提供。評価的、指導的、行動的要素を含むフィードバックを可能にし、さらなる多言語化のための基盤となり得るシステムを評価。

研究成果の学術的意義や社会的意義

The project advances a prosody-based CAPT system using signal and speech processing algorithms for speech visualization and providing a multimodal feedback to learners. Applying the approach to different language groups has a strong impact to improving communication skills of language learners.

報告書

(4件)
  • 2022 実績報告書   研究成果報告書 ( PDF )
  • 2021 実施状況報告書
  • 2020 実施状況報告書
  • 研究成果

    (14件)

すべて 2022 2021 2020 その他

すべて 国際共同研究 (3件) 雑誌論文 (4件) (うち国際共著 4件、 査読あり 4件、 オープンアクセス 4件) 学会発表 (5件) (うち国際学会 5件、 招待講演 1件) 備考 (2件)

  • [国際共同研究] St. Petersburg Polytechnic University(ロシア連邦)

    • 関連する報告書
      2022 実績報告書
  • [国際共同研究] St. Petersburg Polytechnic University(ロシア連邦)

    • 関連する報告書
      2021 実施状況報告書
  • [国際共同研究] St. Petersburg Polytechnic University(ロシア連邦)

    • 関連する報告書
      2020 実施状況報告書
  • [雑誌論文] Language accent detection with CNN using sparse data from a crowd-sourced speech archive2022

    • 著者名/発表者名
      V. Mikhailava, M. Lesnichaia, N. Bogach, I. Lezhenin, J. Blake, and E. Pyshkin
    • 雑誌名

      Mathematics

      巻: 10 号: 16 ページ: 2913-2913

    • DOI

      10.3390/math10162913

    • 関連する報告書
      2022 実績報告書
    • 査読あり / オープンアクセス / 国際共著
  • [雑誌論文] Adopting StudyIntonation CAPT Tools to Tonal Languages Through the Example of Vietnamese2021

    • 著者名/発表者名
      N. Nguyen Van, S. Luu Xuan, I. Lezhenin, N. Bogach, and E. Pyshkin
    • 雑誌名

      SHS Web Conf.

      巻: 102 ページ: 01007-01007

    • DOI

      10.1051/shsconf/202110201007

    • 関連する報告書
      2021 実施状況報告書
    • 査読あり / オープンアクセス / 国際共著
  • [雑誌論文] Speech Processing for Language Learning: A Practical Approach to Computer-Assisted Pronunciation Teaching2021

    • 著者名/発表者名
      N. Bogach, E. Boitsova, S. Chernonog, A. Lamtev, M. Lesnychaya, I. Lezhenin, A. Novopashenny, R. Svechnikov, D. Tsikach, K. Vasiliev, J. Blake, and E. Pyshkin
    • 雑誌名

      Electronics

      巻: 10 (3), 235 号: 3 ページ: 1-22

    • DOI

      10.3390/electronics10030235

    • 関連する報告書
      2020 実施状況報告書
    • 査読あり / オープンアクセス / 国際共著
  • [雑誌論文] A Metaphoric Bridge: Understanding Software Engineering Education through Literature and Fine Arts2020

    • 著者名/発表者名
      E. Pyshkin and J. Blake
    • 雑誌名

      Society. Communication. Education

      巻: 11 (3) ページ: 59-77

    • 関連する報告書
      2020 実施状況報告書
    • 査読あり / オープンアクセス / 国際共著
  • [学会発表] Dynamic assessment during suprasegmental training with mobile CAPT2022

    • 著者名/発表者名
      V. Mikhailava, J. Blake, E. Pyshkin, N. Bogach, S. Chernonog, A. Zhuikov, M. Lesnichaya, I. Lezhenin, and R. Svechnikov
    • 学会等名
      11th International Conference on Speech Prosody 2022
    • 関連する報告書
      2022 実績報告書
    • 国際学会
  • [学会発表] Classification of accented English using CNN model trained on amplitude mel-spectrograms2022

    • 著者名/発表者名
      M. Lesnichaia, V. Mikhailova, N. Bogach, I. Lezhenin, J. Blake, and E. Pyshkin
    • 学会等名
      Interspeech 2022
    • 関連する報告書
      2022 実績報告書
    • 国際学会
  • [学会発表] Increasing inclusivity: Catering to the needs of socially inactive learners2022

    • 著者名/発表者名
      E. Pyshkin and J. Blake
    • 学会等名
      Diversity and Inclusivity in English Language Education 2023
    • 関連する報告書
      2022 実績報告書
    • 国際学会
  • [学会発表] Tailoring Computer-Assisted Pronunciation Teaching: Mixing and Matching the Mode and Manner of Feedback to Learners2022

    • 著者名/発表者名
      V. Mikhailava, E. Pyshkin, J. Blake, S. Chernonog, I. Lezhenin, R. Svechnikov, and N. Bogach,
    • 学会等名
      INTED-2022
    • 関連する報告書
      2021 実施状況報告書
    • 国際学会
  • [学会発表] “Tailored Fit”: Shaping CAPT Tools Feedback to Language Learners2021

    • 著者名/発表者名
      E. Pyshkin
    • 学会等名
      ICSEB-2021
    • 関連する報告書
      2021 実施状況報告書
    • 国際学会 / 招待講演
  • [備考] English Intonation Training

    • URL

      http://studyintonation.org/

    • 関連する報告書
      2021 実施状況報告書
  • [備考] Study Intonation: English Intonation Training

    • URL

      http://studyintonation.org/

    • 関連する報告書
      2020 実施状況報告書

URL: 

公開日: 2020-04-28   更新日: 2024-01-30  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi