• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2017 Fiscal Year Research-status Report

情動による感情音声発話のメカニズムとモデル化に関する研究

Research Project

Project/Area Number 16K00297
Research InstitutionJapan Advanced Institute of Science and Technology

Principal Investigator

党 建武  北陸先端科学技術大学院大学, 先端科学技術研究科, 教授 (80334796)

Co-Investigator(Kenkyū-buntansha) 田中 宏和  北陸先端科学技術大学院大学, 先端科学技術研究科, 准教授 (00332320)
赤木 正人  北陸先端科学技術大学院大学, 先端科学技術研究科, 教授 (20242571)
末光 厚夫  札幌保健医療大学, 保健医療学部, 准教授 (20422199)
Project Period (FY) 2016-04-01 – 2019-03-31
Keywords音声生成 / 感情音声 / 脳電図 / fMRI / 眼球運動 / 神経生理学モデル
Outline of Annual Research Achievements

情動により駆動される感情は、人間の本能で、音声コミュニケーションには欠かせない機能を果たしている。しかし、これまで脳機能に関する計算モデルの研究は知的機能のみにとどまり、情動に関する機能にほとんど触れなかった。そのため、本研究では、脳神経学の最新知見に基づいて、情動による感情音声発話のメカニズムを解明し、感情生成と知覚の機能を取り入れ感情音声発話の神経生理学的計算モデルを構築することを目的とする。
平成29年度では、我々は眼球運動と脳電図を用いて、文章を朗読する際音声計画のメカニズムを考察した。その結果、単語ごとの潜時時間は運動指令の構築のみならず、語彙の理解に依存していることは明らかにした。また、文章を朗読したときに、脳内ネットワークにおける情報の流れを明らかにした。
本研究では、真の言葉と偽の言葉および名詞と動詞を用い、被験者に聴取させながら脳の動的な活動を考察した。その結果、言葉の理解時に脳ネットワークにおける各部位の活動と情報の流れを明らかにした。また、名詞と動詞に関する神経学的区分について文法的な要素でなく語彙は重要な役割を果たしていることが分かった。
音声生成と音声知覚との関係について、調音部位の異なる単語を被験者に聴取させ、脳電図を用いて発話運動野の脳活動を観測した。その結果、唇の突き出し有無の言葉に対して、口唇に対応する発話運動野に活動パターンが異なることが明らかにした。
感情知覚について、我々はfMRIを用いて、被験者に感情音声と感情表情を見せて脳内の活動を計測した。データの分析に基いて、脳の感情モデルを構築している。fMRIは時間分解能が低いという欠点を補正するため、本研究では、感情が豊かである動画を被験者に見せながら脳電図を計測し、脳神経ネットワークの動的変化を分析している。

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

1.音声生成のメカニズムの脳電図研究についていくつかの研究成果を発表した。
2.音声生成と音声知覚に関する脳研究の成果を発表した。
3.感情音声の分析は順調に進んでいる。
4.感情音声に関するfMRIデータと脳電図データを収録して、分析を行っている。

Strategy for Future Research Activity

計画通り進める予定である。

Causes of Carryover

物品を購入する際、価格の変動により残額が少々出てきた。その残額は、今年度の助成金に合わせて使用する予定である。

  • Research Products

    (21 results)

All 2018 2017 Other

All Int'l Joint Research (2 results) Journal Article (5 results) (of which Int'l Joint Research: 3 results,  Peer Reviewed: 5 results,  Open Access: 1 results) Presentation (14 results) (of which Int'l Joint Research: 12 results,  Invited: 3 results)

  • [Int'l Joint Research] UCSD(米国)

    • Country Name
      U.S.A.
    • Counterpart Institution
      UCSD
  • [Int'l Joint Research] 天津大学/天津理工大学(中国)

    • Country Name
      CHINA
    • Counterpart Institution
      天津大学/天津理工大学
  • [Journal Article] Temporal recalibration of motor and visual potentials in lag adaptation in voluntary movement2018

    • Author(s)
      Chang Cai, Kenji Ogawa, Takanori Kochiyama, Hirokazu Tanaka, Hiroshi Imamizu
    • Journal Title

      NeuroImage

      Volume: 172 Pages: 654-662

    • Peer Reviewed / Int'l Joint Research
  • [Journal Article] EEG SOURCE RECONSTRUCTION EVIDENCE FOR THE NOUN-VERB NEURAL DISSOCIATION ALONG SEMANTIC DIMENSIONS2017

    • Author(s)
      BIN ZHAO, JIANWU DANG and GAOYAN ZHANG
    • Journal Title

      Neuroscience

      Volume: 359 Pages: 183-195

    • DOI

      http://dx.doi.org/10.1016/j.neuroscience.2017.07.019

    • Peer Reviewed / Open Access / Int'l Joint Research
  • [Journal Article] Modeling of the tongue tip in Standard Chinese using MRI2017

    • Author(s)
      Wang G, Dang J, Kong J.
    • Journal Title

      /journal of Tsinghua University

      Volume: 57 Pages: 158-163

    • Peer Reviewed / Int'l Joint Research
  • [Journal Article] 運動制御と感覚処理の最適理論2017

    • Author(s)
      田中宏和
    • Journal Title

      日本ロボット学会誌

      Volume: 35 Pages: 500-505

    • Peer Reviewed
  • [Journal Article] コンピュータが歌うということ2017

    • Author(s)
      赤木正人
    • Journal Title

      日本音響学会誌

      Volume: 73 Pages: 210-211

    • Peer Reviewed
  • [Presentation] 試行再現性最大法:脳波信号解析とBCI応用への可能性2018

    • Author(s)
      田中宏和
    • Organizer
      研究会 「日常のこころを読み解く脳信号解析法」
    • Invited
  • [Presentation] Estimation of glottal source waveform and vocal tract shape for singing-voice analysis2018

    • Author(s)
      Kyoko Takahashi and Masato Akagi
    • Organizer
      NCSP2018
    • Int'l Joint Research
  • [Presentation] Synthesis of expressive singing voice by F0, amplitude envelope and spectral feature conversion2018

    • Author(s)
      Thi-Hao Nguyen and Masato Akagi
    • Organizer
      NCSP2018
    • Int'l Joint Research
  • [Presentation] A Neuro-Experimental Evidence for the Motor Theory of Speech Perception.,2017

    • Author(s)
      Zhao Bin, Gaoyan Zhang, Jianwu Dang
    • Organizer
      InterSpeech2017
    • Int'l Joint Research
  • [Presentation] Neuronal Classifier for both Rate and Timing-Based Spike Patterns2017

    • Author(s)
      Yu Q, Wang L, Dang J.
    • Organizer
      International Conference on Neural Information Processing.
    • Int'l Joint Research
  • [Presentation] Phonemic Restoration Based on the Movement Continuity of Articulation2017

    • Author(s)
      Zhao C, Wang L, Dang J.
    • Organizer
      International Conference on Neural Information Processing
    • Int'l Joint Research
  • [Presentation] A hybrid method for acoustic analysis of the vocal tract during vowel production,, 2017, 2017.10.16-2017.10.19,2017

    • Author(s)
      Futang Wang, Darcy Qingzhi Hou, Dingyi Pan, Jianguo Wei, Jianwu Dang
    • Organizer
      International Seminar on Speech Production (ISSP)
    • Int'l Joint Research
  • [Presentation] Estimation of Speech-planning mechanism based on eye movement,2017

    • Author(s)
      Jinfeng Huang, Di Zhou, Jianwu Dang,
    • Organizer
      International Seminar on Speech Production (ISSP)
    • Int'l Joint Research
  • [Presentation] Articulatory Features for Robust Intelligibility Assessment of Dysarthria Speech2017

    • Author(s)
      Meng Yuan; Longbiao Wang; Hongcui Wang;Jianwu Dang; Ruiguo Yu
    • Organizer
      International Seminar on Speech Production (ISSP)
    • Int'l Joint Research
  • [Presentation] Global monitoring of dynamic functional interactions in the brain during Chinese verbs perception2017

    • Author(s)
      Yuke Si; Jianwu Dang; Gaoyan Zhang
    • Organizer
      International Seminar on Speech Production (ISSP)
    • Int'l Joint Research
  • [Presentation] Neural Evidence of the Cerebellum as a State Predictor2017

    • Author(s)
      H. Tanaka
    • Organizer
      Chalk Talk Series, Institute of Neural Computation, University of California San Diego
    • Int'l Joint Research / Invited
  • [Presentation] Speech Emotion Recognition Using MPCRNN based on Gammatone auditory Filterbank2017

    • Author(s)
      Zhichao Peng, Zhi Zhu, Masashi Unoki, Jianwu Dang, and Masato Akagi
    • Organizer
      APSIPA2017
    • Int'l Joint Research
  • [Presentation] Commonalities of glottal sources and vocal tract shapes among speakers in emotional speech2017

    • Author(s)
      Li, Y., Sakakibara, K-I., Morikawa, D., and Akagi, M
    • Organizer
      ISSP2017
    • Int'l Joint Research
  • [Presentation] 発話目的の違いに注目した感情音声発話時の調音運動の比較2017

    • Author(s)
      浅井拓也, 末光厚夫, 赤木正人
    • Organizer
      日本音響学会平成29年度秋季研究発表会
    • Invited

URL: 

Published: 2018-12-17   Modified: 2022-02-21  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi