• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 前のページに戻る

脳波と眼球運動を用いた音声生成と知覚の神経メカニズムに関する研究

研究課題

研究課題/領域番号 20K11883
研究種目

基盤研究(C)

配分区分基金
応募区分一般
審査区分 小区分61010:知覚情報処理関連
研究機関北陸先端科学技術大学院大学

研究代表者

党 建武  北陸先端科学技術大学院大学, 先端科学技術研究科, 名誉教授 (80334796)

研究分担者 赤木 正人  北陸先端科学技術大学院大学, 先端科学技術研究科, 名誉教授 (20242571)
研究期間 (年度) 2020-04-01 – 2023-03-31
研究課題ステータス 完了 (2022年度)
配分額 *注記
4,420千円 (直接経費: 3,400千円、間接経費: 1,020千円)
2022年度: 1,300千円 (直接経費: 1,000千円、間接経費: 300千円)
2021年度: 1,430千円 (直接経費: 1,100千円、間接経費: 330千円)
2020年度: 1,690千円 (直接経費: 1,300千円、間接経費: 390千円)
キーワード音声生成 / 音声知覚 / 神経学メカニズム / 脳ネットワーク / 音声処理の神経学的モデル / 音声理解 / 脳活動の動的特性 / 音声生成の神経学的モデル / 発話計画
研究開始時の研究の概要

①文章朗読時の眼球運動と脳波を同時記録し、また連続音声の復唱際に聴取と発話の脳波を記録して、連続音声処理に関する脳波データベースを構築する。
②眼球運動と発話タイミングの行動学的指標を利用して、連続発話における語彙理解、発話計画および聴覚処理に関わる脳活動区間を同定し、ネットワークの時間系列を用いて脳活動の動的特性を分析する。
③種々の脳波帯域における神経振動帯域の分析を通して、音声処理二重経路と韻律処理二重経路における脳内ネットワークの実効的結合を明らかにする。
④復唱時の聴取過程における脳活動と発話段階の脳活動との対比により、音声生成と知覚を結ぶ“ことばの鎖”の実態を明らかにする。

研究成果の概要

本研究では、EEG、眼球運動および音声信号を用い、文の朗読と聴取時の脳ネットワークの動的特性を探った。 その結果、前頭前野、前頭葉、及び下前頭葉を含むいくつかの高次認知と言語野におけるトップダウンのプロセスを確認した。 高度な認知および言語ネットワークは、早期活性化し、下位の視覚運動システムとの頻繁な相互作用で検出され、文構造と同調されて並行および反復的な相互作用が見られた。連続音声の理解と無意味文の聴取では、脳ネットワークの活動は明らかに異なっている。また、深層学習方法の非線形性を利用して脳の活動を細かく分析することが可能である。それらの結果を基に音声生成と理解の神経モデルを構築した。

研究成果の学術的意義や社会的意義

当面人工知能は知覚知能から認知知能へ発展する段階になっており、音声理解や認知に関する神経学メカニズムの究明はその重要な一環である。本研究はEEGを用いて自然音声の発話と知覚における脳活動を全時間帯域で計測し、連続音声の発話計画、聴覚処理および語彙理解などの複数の脳活動について時間、周波数及び空間上で分析して、これまでにない知見を得た上、従来の二重経路モデルや階層モデルなど音声処理神経モデルに比べ、より精密なモデルを構築した。本研究は、音声理解や認知の側面から人工知能のさらなる発展に大きな貢献があり、言語障害の神経学的な評価やリハビリなどの研究分野へも貢献をもたらすことが期待できる。

報告書

(4件)
  • 2022 実績報告書   研究成果報告書 ( PDF )
  • 2021 実施状況報告書
  • 2020 実施状況報告書
  • 研究成果

    (35件)

すべて 2023 2022 2021 2020 その他

すべて 国際共同研究 (4件) 雑誌論文 (15件) (うち国際共著 15件、 査読あり 15件、 オープンアクセス 15件) 学会発表 (16件) (うち国際学会 15件)

  • [国際共同研究] 天津大学(中国)

    • 関連する報告書
      2022 実績報告書
  • [国際共同研究] Nanyang Tech(シンガポール)

    • 関連する報告書
      2022 実績報告書
  • [国際共同研究] 天津大学/天津理工大学(中国)

    • 関連する報告書
      2021 実施状況報告書
  • [国際共同研究] シンガポール国立大学/南洋理工大学(シンガポール)

    • 関連する報告書
      2021 実施状況報告書
  • [雑誌論文] Emotion recognition using spatial-temporal EEG features through convolutional graph attention network.2023

    • 著者名/発表者名
      Li, Z., Zhang, G., Wang, L., Wei, J., & Dang, J.
    • 雑誌名

      Journal of Neural Engineering

      巻: 20 ページ: 016046-016046

    • 関連する報告書
      2022 実績報告書
    • 査読あり / オープンアクセス / 国際共著
  • [雑誌論文] Detection of brain network communities during natural speech comprehension from functionally aligned EEG sources2022

    • 著者名/発表者名
      Zhou, D., Zhang, G., Dang, J., Unoki, M., & Liu, X.
    • 雑誌名

      Frontiers in Computational Neuroscience

      巻: 1 ページ: 1-10

    • 関連する報告書
      2022 実績報告書
    • 査読あり / オープンアクセス / 国際共著
  • [雑誌論文] Intrinsic Representation Mining for Zero-Shot Slot Filling2022

    • 著者名/発表者名
      Li, S., Okada, S., & Dang, J.
    • 雑誌名

      IEICE TRANSACTIONS on Information and Systems

      巻: 105 ページ: 1947-1956

    • 関連する報告書
      2022 実績報告書
    • 査読あり / オープンアクセス / 国際共著
  • [雑誌論文] Improving low-resource Tibetan end-to-end ASR by multilingual and multilevel unit modeling2022

    • 著者名/発表者名
      S Qin, L Wang, S Li, J Dang, L Pan
    • 雑誌名

      EURASIP Journal on Audio, Speech, and Music Processing

      巻: 1 ページ: 1-10

    • 関連する報告書
      2022 実績報告書
    • 査読あり / オープンアクセス / 国際共著
  • [雑誌論文] One-shot emotional voice conversion based on feature separation2022

    • 著者名/発表者名
      W Lu, X Zhao, N Guo, Y Li, J Wei, J Tao, J Dang
    • 雑誌名

      Speech Communication

      巻: 143 ページ: 1-9

    • 関連する報告書
      2022 実績報告書
    • 査読あり / オープンアクセス / 国際共著
  • [雑誌論文] Learning affective representations based on magnitude and dynamic relative phase information for speech emotion recognition2022

    • 著者名/発表者名
      Guo Lili、Wang Longbiao、Dang Jianwu、Chng Eng Siong、Nakagawa Seiichi
    • 雑誌名

      Speech Communication

      巻: 136 ページ: 118-127

    • DOI

      10.1016/j.specom.2021.11.005

    • 関連する報告書
      2021 実施状況報告書
    • 査読あり / オープンアクセス / 国際共著
  • [雑誌論文] Constructing Accurate and Efficient Deep Spiking Neural Networks With Double-Threshold and Augmented Schemes2022

    • 著者名/発表者名
      Yu Qiang、Ma Chenxiang、Song Shiming、Zhang Gaoyan、Dang Jianwu、Tan Kay Chen
    • 雑誌名

      IEEE Transactions on Neural Networks and Learning Systems

      巻: 33 号: 4 ページ: 1-13

    • DOI

      10.1109/tnnls.2020.3043415

    • 関連する報告書
      2021 実施状況報告書
    • 査読あり / オープンアクセス / 国際共著
  • [雑誌論文] Improving low-resource Tibetan end-to-end ASR by multilingual and multilevel unit modeling2022

    • 著者名/発表者名
      Qin Siqing、Wang Longbiao、Li Sheng、Dang Jianwu、Pan Lixin
    • 雑誌名

      EURASIP Journal on Audio, Speech, and Music Processing

      巻: 2022 号: 1 ページ: 1-10

    • DOI

      10.1186/s13636-021-00233-4

    • 関連する報告書
      2021 実施状況報告書
    • 査読あり / オープンアクセス / 国際共著
  • [雑誌論文] Weighted RSA: An Improved Framework on the Perception of Audio-visual Affective Speech in Left Insula and Superior Temporal Gyrus2021

    • 著者名/発表者名
      J. Xu, H. Dong, N. Li, Z. Wang, F. Guo, J. Wei and J. Dang
    • 雑誌名

      Neuroscience

      巻: 469 ページ: 46-58

    • DOI

      10.1016/j.neuroscience.2021.06.002

    • 関連する報告書
      2021 実施状況報告書
    • 査読あり / オープンアクセス / 国際共著
  • [雑誌論文] Multi-resolution modulation-filtered cochleagram feature for LSTM-based dimensional emotion recognition from speech2021

    • 著者名/発表者名
      Zhichao Peng, Jianwu Dang, Masashi Unoki, Masato Akagi
    • 雑誌名

      Neural Networks

      巻: 140 ページ: 261-273

    • DOI

      10.1016/j.neunet.2021.03.027

    • 関連する報告書
      2020 実施状況報告書
    • 査読あり / オープンアクセス / 国際共著
  • [雑誌論文] Replay attack detection using variable-frequency resolution phase and magnitude features2021

    • 著者名/発表者名
      M Liu, L Wang, J Dang, KA Lee, S Nakagawa
    • 雑誌名

      IEEE Signal Processing Letters

      巻: 28 ページ: 459-463

    • DOI

      10.1016/j.csl.2020.101161

    • 関連する報告書
      2020 実施状況報告書
    • 査読あり / オープンアクセス / 国際共著
  • [雑誌論文] An eye-tracking study on audiovisual speech perception strategies adopted by normal-hearing and deaf adults under different language familiarities2021

    • 著者名/発表者名
      Jianrong Wang, Yumeng Zhu, Yu Chen, Abdilbar Mamat, Mei Yu, Ju Zhang, Jianwu Dang
    • 雑誌名

      Journal of Speech, Language, and Hearing Research

      巻: 63 号: 7 ページ: 2245-2254

    • DOI

      10.1044/2020_jslhr-19-00223

    • 関連する報告書
      2020 実施状況報告書
    • 査読あり / オープンアクセス / 国際共著
  • [雑誌論文] Toward Efficient Processing and Learning With Spikes: New Approaches for Multispike Learning2020

    • 著者名/発表者名
      Yu, Q., Li, S., Tang, H., Wang, L., Dang, J., & Tan, K. C.
    • 雑誌名

      IEEE Transactions on Cybernetics

      巻: 51 号: 3 ページ: 1-13

    • DOI

      10.1109/tcyb.2020.2984888

    • 関連する報告書
      2020 実施状況報告書
    • 査読あり / オープンアクセス / 国際共著
  • [雑誌論文] Speech Emotion Recognition Using 3D Convolutions and Attention-Based Sliding Recurrent Networks With Auditory Front-Ends2020

    • 著者名/発表者名
      Zhichao Peng, Xingfeng Li, Zhi Zhu, Masashi Unoki, Jianwu Dang, Masato Akagi
    • 雑誌名

      IEEE Access

      巻: 8 ページ: 16560-16572

    • DOI

      10.1109/access.2020.2967791

    • NAID

      120006783353

    • 関連する報告書
      2020 実施状況報告書
    • 査読あり / オープンアクセス / 国際共著
  • [雑誌論文] Brain network reconstruction of speech production based on electro-encephalography and eye movement2020

    • 著者名/発表者名
      Bin Zhao, Jinfeng Huang, Gaoyan Zhang, Jianwu Dang, Minbo Chen, Yingjian Fu, Longbiao Wang
    • 雑誌名

      Acoust. Sci. & Tech.

      巻: 41 ページ: 349-350

    • 関連する報告書
      2020 実施状況報告書
    • 査読あり / オープンアクセス / 国際共著
  • [学会発表] Investigating the neural responses to continuous speech based on reconstructed source signal from EEG.2022

    • 著者名/発表者名
      Zhou, D., Zhang, G., Dang, J.
    • 学会等名
      Acoustical Science and Technology (ROMBUNNO.1-8-5).
    • 関連する報告書
      2022 実績報告書
  • [学会発表] Reconstruction of speech spectrogram based on non-invasive EEG signal.2022

    • 著者名/発表者名
      Zhou, D., Unoki, M., Zhang, G., & Dang, J.
    • 学会等名
      13th International Symposium on Chinese Spoken Language Processing (ISCSLP)
    • 関連する報告書
      2022 実績報告書
    • 国際学会
  • [学会発表] Dialogue scenario classification based on social factors2022

    • 著者名/発表者名
      Liu, Y., Zhou, D., Unoki, M., Dang, J., & Li, A.
    • 学会等名
      13th International Symposium on Chinese Spoken Language Processing (ISCSLP)
    • 関連する報告書
      2022 実績報告書
    • 国際学会
  • [学会発表] Dual-stream Speech Dereverberation Network Using Long-term and Short-term Cues2022

    • 著者名/発表者名
      N Li, M Ge, L Wang, J Dang
    • 学会等名
      2022 International Joint Conference on Neural Networks (IJCNN)
    • 関連する報告書
      2022 実績報告書
    • 国際学会
  • [学会発表] Improve emotional speech synthesis quality by learning explicit and implicit representations with semi-supervised training2022

    • 著者名/発表者名
      J He, C Gong, L Wang, D Jin, X Wang, J Xu, J Dang
    • 学会等名
      Proc. Interspeech 2022
    • 関連する報告書
      2022 実績報告書
    • 国際学会
  • [学会発表] Multi-Modal Emotion Recognition Based On deep Learning Of EEG And Audio Signals2021

    • 著者名/発表者名
      Zhongjie Li, Gaoyan Zhang, Jianwu Dang, Longbiao Wang, Jianguo Wei
    • 学会等名
      2021 International Joint Conference on Neural Networks (IJCNN)
    • 関連する報告書
      2021 実施状況報告書
    • 国際学会
  • [学会発表] ONSK-GCN: Conversational Semantic-and Knowledge-Oriented Graph Convolutional Network for Multimodal Emotion Recognition2021

    • 著者名/発表者名
      Y Fu, S Okada, L Wang, L Guo, Y Song, J Liu, J Dang
    • 学会等名
      2021 IEEE International Conference on Multimedia and Expo (ICME)
    • 関連する報告書
      2021 実施状況報告書
    • 国際学会
  • [学会発表] Multimodal Emotion Recognition with Capsule Graph Convolutional Based Representation Fusion2021

    • 著者名/発表者名
      J Liu, S Chen, L Wang, Z Liu, Y Fu, L Guo, J Dang
    • 学会等名
      ICASSP 2021
    • 関連する報告書
      2021 実施状況報告書
    • 国際学会
  • [学会発表] Representation Learning with Spectro-Temporal-Channel Attention for Speech Emotion Recognition2021

    • 著者名/発表者名
      L Guo, L Wang, C Xu, J Dang, ES Chng, H Li
    • 学会等名
      ICASSP 2021
    • 関連する報告書
      2021 実施状況報告書
    • 国際学会
  • [学会発表] Robust Voice Activity Detection Using a Masked Auditory Encoder Based Convolutional Neural Network2021

    • 著者名/発表者名
      N Li, L Wang, M Unoki, S Li, R Wang, M Ge, J Dang
    • 学会等名
      ICASSP 2021
    • 関連する報告書
      2021 実施状況報告書
    • 国際学会
  • [学会発表] Frequency-specific Brain Network Dynamics during Perceiving Real Words and Pseudowords2021

    • 著者名/発表者名
      T Guo, J Dang, G Zhang, B Zhao, M Unoki
    • 学会等名
      12th ISCSLP, Hong Kong
    • 関連する報告書
      2020 実施状況報告書
    • 国際学会
  • [学会発表] Spoken Language Understanding with Sememe Knowledge as Domain Knowledge2021

    • 著者名/発表者名
      S Li, J Dang, L Wang
    • 学会等名
      12th ISCSLP, Hong Kong
    • 関連する報告書
      2020 実施状況報告書
    • 国際学会
  • [学会発表] A Multi-subject Temporal-spatial Hyper-alignment Method for EEG-based Neural Entrainment to Speech2020

    • 著者名/発表者名
      D Zhou, G Zhang, J Dang, S Wu, Z Zhang
    • 学会等名
      2020 APSIPA, New Zealand
    • 関連する報告書
      2020 実施状況報告書
    • 国際学会
  • [学会発表] Working Memory-Driven Neural Networks with a Novel Knowledge Enhancement Paradigm for Implicit Discourse Relation Recognition2020

    • 著者名/発表者名
      Guo, F., He, R., Dang, J., & Wang, J.
    • 学会等名
      AAAI
    • 関連する報告書
      2020 実施状況報告書
    • 国際学会
  • [学会発表] Temporal-Spatial-Spectral Investigation of Brain Network Dynamics in Human Speech Perception2020

    • 著者名/発表者名
      Zhao, B., Zhang, G., & Dang, J.
    • 学会等名
      International Conference on Brain Informatics
    • 関連する報告書
      2020 実施状況報告書
    • 国際学会
  • [学会発表] End-to-End Articulatory Modeling for Dysarthric Articulatory Attribute Detection2020

    • 著者名/発表者名
      Lin, Y., Wang, L., Dang, J., Li, S., & Ding, C.
    • 学会等名
      ICASSP 2020
    • 関連する報告書
      2020 実施状況報告書
    • 国際学会

URL: 

公開日: 2020-04-28   更新日: 2024-01-30  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi