• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 課題ページに戻る

2021 年度 実施状況報告書

脳波と眼球運動を用いた音声生成と知覚の神経メカニズムに関する研究

研究課題

研究課題/領域番号 20K11883
研究機関北陸先端科学技術大学院大学

研究代表者

党 建武  北陸先端科学技術大学院大学, 先端科学技術研究科, 教授 (80334796)

研究分担者 赤木 正人  北陸先端科学技術大学院大学, 先端科学技術研究科, 教授 (20242571)
研究期間 (年度) 2020-04-01 – 2023-03-31
キーワード音声生成 / 音声理解 / 脳ネットワーク / 脳活動の動的特性 / 音声生成の神経学的モデル
研究実績の概要

連続音声理解における神経学的メカニズムを考察するため、物語の録音とその逆回しをそれぞれ聴取させ、EEG信号を収録した。機能的ハイパーアラインメント法を用いてEEGのノイズを低減してから、EEGから脳内のソースを再構築し、音声入力からソース領域までのTRFを推定した。TRFの相関性に基づいて脳ネットワークを構築して、コミュニティ検出法を用いて脳ネットワークの特性を調査した。その結果、通常物語の音声理解における脳の活動領域は、従来fMRIに基づいたものと一致した。それに対して同じ物語の時間反転音声(無意味文)に対して語彙認知に関する領域は活動がなくなかった。
音声生成の神経学的メカニズムを究明するため、連続文を朗読する際、EEGと眼球運動を記録して、EEGからソースの再構築をしたうえ、空間と時間および周波数の側面を統一したフレームワークで脳の音声処理メカニズムを考察した。音声理解過程には、アモーダルな意味センター(ATL)と腹側通路に沿ったモダリティ特定の感覚運動系との頻繁な相互作用及び、背側通路に沿った運動系の積極的な関与が含まれることがわかった。同様に、音声生成には、予測と聴覚フィードバック補正のため聴覚システムも積極的に関与していることを確認した。階層的な言語構造は、異なる周波数帯域での神経振動によって対処しており、スケールの異なる言語単位の相互作用は、クロス周波数結合のメカニズムを介して実現することがわかった。
上記の結果に基づいて、我々は音声生成と理解の神経学的機能モデルの雛形を構築した。そこで、既存モデルを語彙レベルから文レベルに拡張したうえ、ボトムアップ/トップダウンの機能を動的な組織化システムに取り入れた。このモデルは、脳ネットワーク内でのコミュニケーションの神経振動現象を説明でき、更に音声機能の基礎となる神経メカニズムのより深い考察に応用することも期待できる。

現在までの達成度 (区分)
現在までの達成度 (区分)

2: おおむね順調に進展している

理由

コロナ禍のため、音声生成と音声知覚(復唱)のEEG実験の一部を計画通り実施できなかった。

今後の研究の推進方策

引き続き連続文の復唱EEG実験の実施を努める同時に、これまで収録した連続文朗読の実験データに対して、音声フィードバックに関する部分を再分析し、音声生成と音声知覚との相互作用を考察して、構築して音声生成の神経学的モデルを完成する予定である。

  • 研究成果

    (11件)

すべて 2022 2021 その他

すべて 国際共同研究 (2件) 雑誌論文 (4件) (うち国際共著 4件、 査読あり 4件、 オープンアクセス 4件) 学会発表 (5件) (うち国際学会 5件)

  • [国際共同研究] 天津大学/天津理工大学(中国)

    • 国名
      中国
    • 外国機関名
      天津大学/天津理工大学
  • [国際共同研究] シンガポール国立大学/南洋理工大学(シンガポール)

    • 国名
      シンガポール
    • 外国機関名
      シンガポール国立大学/南洋理工大学
  • [雑誌論文] Learning affective representations based on magnitude and dynamic relative phase information for speech emotion recognition2022

    • 著者名/発表者名
      Guo Lili、Wang Longbiao、Dang Jianwu、Chng Eng Siong、Nakagawa Seiichi
    • 雑誌名

      Speech Communication

      巻: 136 ページ: 118~127

    • DOI

      10.1016/j.specom.2021.11.005

    • 査読あり / オープンアクセス / 国際共著
  • [雑誌論文] Constructing Accurate and Efficient Deep Spiking Neural Networks With Double-Threshold and Augmented Schemes2022

    • 著者名/発表者名
      Yu Qiang、Ma Chenxiang、Song Shiming、Zhang Gaoyan、Dang Jianwu、Tan Kay Chen
    • 雑誌名

      IEEE Transactions on Neural Networks and Learning Systems

      巻: 33 ページ: 1~13

    • DOI

      10.1109/TNNLS.2020.3043415

    • 査読あり / オープンアクセス / 国際共著
  • [雑誌論文] Improving low-resource Tibetan end-to-end ASR by multilingual and multilevel unit modeling2022

    • 著者名/発表者名
      Qin Siqing、Wang Longbiao、Li Sheng、Dang Jianwu、Pan Lixin
    • 雑誌名

      EURASIP Journal on Audio, Speech, and Music Processing

      巻: 2022 ページ: 1-10

    • DOI

      10.1186/s13636-021-00233-4

    • 査読あり / オープンアクセス / 国際共著
  • [雑誌論文] Weighted RSA: An Improved Framework on the Perception of Audio-visual Affective Speech in Left Insula and Superior Temporal Gyrus2021

    • 著者名/発表者名
      J. Xu, H. Dong, N. Li, Z. Wang, F. Guo, J. Wei and J. Dang
    • 雑誌名

      Neuroscience

      巻: 469 ページ: 46-58

    • DOI

      10.1016/j.neuroscience.2021.06.002

    • 査読あり / オープンアクセス / 国際共著
  • [学会発表] Multi-Modal Emotion Recognition Based On deep Learning Of EEG And Audio Signals2021

    • 著者名/発表者名
      Zhongjie Li, Gaoyan Zhang, Jianwu Dang, Longbiao Wang, Jianguo Wei
    • 学会等名
      2021 International Joint Conference on Neural Networks (IJCNN)
    • 国際学会
  • [学会発表] ONSK-GCN: Conversational Semantic-and Knowledge-Oriented Graph Convolutional Network for Multimodal Emotion Recognition2021

    • 著者名/発表者名
      Y Fu, S Okada, L Wang, L Guo, Y Song, J Liu, J Dang
    • 学会等名
      2021 IEEE International Conference on Multimedia and Expo (ICME)
    • 国際学会
  • [学会発表] Multimodal Emotion Recognition with Capsule Graph Convolutional Based Representation Fusion2021

    • 著者名/発表者名
      J Liu, S Chen, L Wang, Z Liu, Y Fu, L Guo, J Dang
    • 学会等名
      ICASSP 2021
    • 国際学会
  • [学会発表] Representation Learning with Spectro-Temporal-Channel Attention for Speech Emotion Recognition2021

    • 著者名/発表者名
      L Guo, L Wang, C Xu, J Dang, ES Chng, H Li
    • 学会等名
      ICASSP 2021
    • 国際学会
  • [学会発表] Robust Voice Activity Detection Using a Masked Auditory Encoder Based Convolutional Neural Network2021

    • 著者名/発表者名
      N Li, L Wang, M Unoki, S Li, R Wang, M Ge, J Dang
    • 学会等名
      ICASSP 2021
    • 国際学会

URL: 

公開日: 2022-12-28  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi