• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2016 Fiscal Year Research-status Report

情動による感情音声発話のメカニズムとモデル化に関する研究

Research Project

Project/Area Number 16K00297
Research InstitutionJapan Advanced Institute of Science and Technology

Principal Investigator

党 建武  北陸先端科学技術大学院大学, 先端科学技術研究科, 教授 (80334796)

Co-Investigator(Kenkyū-buntansha) 田中 宏和  北陸先端科学技術大学院大学, 先端科学技術研究科, 准教授 (00332320)
赤木 正人  北陸先端科学技術大学院大学, 先端科学技術研究科, 教授 (20242571)
末光 厚夫  札幌保健医療大学, 看護学部, 准教授 (20422199)
Project Period (FY) 2016-04-01 – 2019-03-31
Keywords感情音声 / 音声生成 / 神経生理学モデル / 脳電図 / fMRI
Outline of Annual Research Achievements

情動により駆動される感情は、人間の本能で、音声コミュニケーションには欠かせない機能を果たしている。しかし、これまで脳機能に関する計算モデルの研究は主に知的機能のみにとどまり、情動に関する機能にほとんど触れなかった。そのため、本研究では、脳神経学の最新知見に基づいて、情動による感情音声発話のメカニズムを解明し、感情生成と知覚の機能を取り入れ感情音声発話の神経生理学的計算モデルを構築し、さらにモデルにより自閉症などの情動障害の早期発見とリハビリテーションへの応用を図ることを目的とする。
平成28年度は、本研究の初年度で、おおむねに当初の計画通り進んでいる。本研究の基礎部分として、我々は感情音声の知覚時の脳活動データを収録した。そこで、fMRIを用いて、データの収録では、怒り、悲しみと喜びの三感情を知覚する時の脳活動に対して、20名の被験者からデータを収録した。これらのデータを分析しつつある。
人間感情の動的変化を捉えるため、本研究では時間分解能の高い脳電図(EEG)を用いて感情変化時の脳活動を観測することにした。その準備研究として、EEGに基づいたソース再構成の方法を用いて、音声知覚における脳活動の動的変化を分析し、ERPやfMRIによる先行研究の結果と比較することにより、提案方法の有効性を確認した。その結果を国際学会で発表し、国際学術雑誌に投稿中である。
感情音声発話神経生理学的計算モデルの構築では、米国ボストン大学の提案した音声生成ニューロン計算モデル(DIVAモデル)を基に、情動部位に関わる感情モジュールを取り入れて、感情音声を生成した。その成果を国際大会で発表し、また脳の運動制御計算モデルについて、多数の研究成果を発表した。
非母語の発話学習について、発話運動を可視化して学習者へフィードバックにより学習の効果を促進することを明らかにした。この成果を国際学会で発表した。

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

平成28年度当初の計画通り、感情音声を知覚する時脳活動のfMRIデータを収録し、データの分析を行っている最中である。
感情の動的変化の研究について、感情が平静の状態からほかの感情を変移する時の脳電図データの収録も行っている。
感情音声の発話時において計測した発話運動データを分析して、真の感情と演じた感情の発話時の調音運動における差異を明らかにした。
また、発表成果に入れていないが、インターネット上の情報を利用して、うつ病の早期予測に関する研究論文をつい最近国際学術雑誌に採択された。

Strategy for Future Research Activity

被験者のデータ収集を強化して、ほかの部分には計画通り研究を進める予定です。

Causes of Carryover

計画された実験の一部は実験者の都合により実施できなかった。

Expenditure Plan for Carryover Budget

上記の実験を平成29年度で実施する予定である。

  • Research Products

    (28 results)

All 2017 2016 Other

All Int'l Joint Research (2 results) Journal Article (5 results) (of which Int'l Joint Research: 3 results,  Peer Reviewed: 4 results,  Open Access: 2 results) Presentation (21 results) (of which Int'l Joint Research: 18 results,  Invited: 5 results)

  • [Int'l Joint Research] 天津大学(中国)

    • Country Name
      CHINA
    • Counterpart Institution
      天津大学
  • [Int'l Joint Research] UCSD(米国)

    • Country Name
      U.S.A.
    • Counterpart Institution
      UCSD
  • [Journal Article] The phonetics of jaw displacement in Japanese vowels2017

    • Author(s)
      Kawahara, S., Erickson, D., Suemitsu, A.
    • Journal Title

      Acoustical Science and Technology

      Volume: 38 Pages: 99-107

    • Peer Reviewed / Open Access / Int'l Joint Research
  • [Journal Article] Audio-visual speech recognition integrating 3D lip information obtained from the Kinect2016

    • Author(s)
      Jianrong Wang, Ju Zhang, Kiyoshi Honda, Jianguo Wei, Jianwu Dang
    • Journal Title

      Multimedia Systems

      Volume: 22 Pages: 315 - 323

    • DOI

      10.1007/s00530-015-0499-9

    • Peer Reviewed / Int'l Joint Research
  • [Journal Article] 脳を理解するとはどういうことかーある計算論的神経科学者の頭の中2016

    • Author(s)
      田中宏和
    • Journal Title

      BRAIN and NERVE-神経研究の進歩

      Volume: 68 Pages: 1379 - 1384

  • [Journal Article] Articulation, acoustics and perception of Mandarin Chinese emotional speech2016

    • Author(s)
      Erickson, D., Zhu, C., Kawahara, S., Suemitsu, A.
    • Journal Title

      Open Linguistics

      Volume: 2 Pages: 620 - 635

    • Peer Reviewed / Open Access / Int'l Joint Research
  • [Journal Article] Study on quality improvement of HMM-based synthesized voices using asymmetric bilinear model2016

    • Author(s)
      Dinh, T. A, Morikawa, D., and Akagi, M.
    • Journal Title

      Journal of Signal Processing

      Volume: 20 Pages: 205 - 208

    • Peer Reviewed
  • [Presentation] EMAデータに基づいた演技感情音声発話時の調音運動制御の分析2017

    • Author(s)
      浅井拓也,末光厚夫,赤木正人
    • Organizer
      日本音響学会2017年春季研究発表会
    • Place of Presentation
      明治大学(東京都千代田区)
    • Year and Date
      2017-03-09 – 2017-03-11
  • [Presentation] 磁気センサシステムによる日-中二カ国語話者の音声-調音パラレルデータの測定2017

    • Author(s)
      内田秀継,橋本哲弥,齋藤大輔,峯松信明,末光 厚夫
    • Organizer
      日本音響学会2017年春季研究発表会
    • Place of Presentation
      明治大学(東京都千代田区)
    • Year and Date
      2017-03-09 – 2017-03-11
  • [Presentation] Voice Conversion to Emotional Speech based on Three-layered Model in Dimensional Approach and Parameterization of Dynamic Features in Prosody2016

    • Author(s)
      Xue, Y., Hamada, Y., and Akagi, M.
    • Organizer
      Proc. APSIPA2016
    • Place of Presentation
      Cheju, Korea
    • Year and Date
      2016-12-15 – 2016-12-15
    • Int'l Joint Research
  • [Presentation] Investigation of Noun-Verb Dissociation Based on EEG Source Reconstruction2016

    • Author(s)
      Bin Zhao, Jianwu Dang, Gaoyan Zhang
    • Organizer
      APSIPA
    • Place of Presentation
      Jeju, Korea
    • Year and Date
      2016-12-13 – 2016-12-16
    • Int'l Joint Research
  • [Presentation] A New Method of Acceleration Measurement for Observing Tongue Movement in Ultrasound Image during Speech Production2016

    • Author(s)
      Yu Chen, Ju Zhang, Fei Chen, Yanting Chen, Hua Lin, Jianguo Wei and Jianwu Dang
    • Organizer
      APSIPA
    • Place of Presentation
      Jeju, korea
    • Year and Date
      2016-12-13 – 2016-12-16
    • Int'l Joint Research
  • [Presentation] Mandarin Citation Tone Patterns of Prelingual Chinese Deaf Adults2016

    • Author(s)
      Yanting Chen, Yu Chen, Jin Zhang, Ju Zhang,eHua Lin, Jianguo Wei and Jianwu Dang 3.Yanting Chen, Yu Chen, Jin Zhang, Ju Zhang,eHua Lin, Jianguo Wei and Jianwu Dang
    • Organizer
      APSIPA
    • Place of Presentation
      Jeju, KKorea
    • Year and Date
      2016-12-13 – 2016-12-16
    • Int'l Joint Research
  • [Presentation] Toward Affective Speech-to-Speech Translation2016

    • Author(s)
      Akagi, M.
    • Organizer
      International Conference on Advances in Information and Communication Technology 2016
    • Place of Presentation
      Thai Nguyen, Vietnam
    • Year and Date
      2016-12-13 – 2016-12-13
    • Int'l Joint Research / Invited
  • [Presentation] Voice conversion system to emotional speech in multiple languages based on three-layered model for dimensional space2016

    • Author(s)
      Xue, Y., Hamada, Y., Elbarougy, R., and Akagi, M.
    • Organizer
      O-COCOSDA2016
    • Place of Presentation
      Bali, Indonesia
    • Year and Date
      2016-12-12 – 2016-12-12
    • Int'l Joint Research
  • [Presentation] Mobile Brain/Body Imaging for Natural Movements2016

    • Author(s)
      Tanaka H., Miyakoshi M., and Makeig S.
    • Organizer
      MoBI (Mobile Brain/Body Imaging) Workshop
    • Place of Presentation
      Ssan Diago, USA
    • Year and Date
      2016-11-22 – 2016-11-22
    • Int'l Joint Research / Invited
  • [Presentation] Optimizing Fuzzy Inference Systems for Improving Speech Emotion Recognition,2016

    • Author(s)
      Elbarougy, R. and Akagi, M.
    • Organizer
      The 2nd International Conference on Advanced Intelligent Systems and Informatics
    • Place of Presentation
      Cairo, Egypt
    • Year and Date
      2016-10-24 – 2016-10-24
    • Int'l Joint Research
  • [Presentation] EEG Evidence for a Three-Phase Recurrent Process during Spoken Word Processing2016

    • Author(s)
      Bin Zhao, Jianwu Dang, Gaoyan Zhang
    • Organizer
      ISCSSLP
    • Place of Presentation
      Tianjin,, China
    • Year and Date
      2016-10-17 – 2016-10-20
    • Int'l Joint Research
  • [Presentation] Investigation of the Spatiotemporal Dynamics of the Brain during Perceiving Words2016

    • Author(s)
      Yuke Si, Jianwu Dang, Gaoyan Zhang
    • Organizer
      ISCSLP
    • Place of Presentation
      Tianjin, China
    • Year and Date
      2016-10-17 – 2016-10-20
    • Int'l Joint Research
  • [Presentation] “Multilingual Speech Emotion Recognition System Based on a Three-Layer Model2016

    • Author(s)
      Li, X. and Akagi, M.
    • Organizer
      nterSpeech2016
    • Place of Presentation
      San Francisco,USA
    • Year and Date
      2016-09-12 – 2016-09-12
    • Int'l Joint Research
  • [Presentation] Effects of Subglottal-Coupling and Interdental-Space on Formant Trajectories during Front-to-Back Vowel Transitions in Chinese2016

    • Author(s)
      Shuanglin Fan, Kiyoshi Honda, Jianwu Dang, Hui Feng
    • Organizer
      Interspeech
    • Place of Presentation
      San Francisco, USA
    • Year and Date
      2016-09-08 – 2016-09-12
    • Int'l Joint Research
  • [Presentation] A new model for acoustic wave propagation and scattering in the vocal tract2016

    • Author(s)
      Jianguo Wei, Wendan Guan, Darcy Q. Hou, Dingyi Pan, Wenhuan Lu, Jianwu Dang
    • Organizer
      Interspeech
    • Place of Presentation
      San Francisco, USA
    • Year and Date
      2016-09-08 – 2016-09-12
    • Int'l Joint Research
  • [Presentation] Investigation of the effect of articulatory-based second language production learning on speech perception2016

    • Author(s)
      Suemitsu, A., Ito, T. Dang, J., Tiede, M.
    • Organizer
      22nd International Congress on Acoustics (ICA2016)
    • Place of Presentation
      Buenos Aires, Argentina
    • Year and Date
      2016-09-05 – 2016-09-08
    • Int'l Joint Research
  • [Presentation] Effects of speaker’s and listener’s acoustic environments on speech intelligibility and annoyance2016

    • Author(s)
      Kubo, R, Morikawa, D., and Akagi, M.
    • Organizer
      Inter-Noise2016
    • Place of Presentation
      Hamburg, Germany
    • Year and Date
      2016-08-22 – 2016-08-22
    • Int'l Joint Research
  • [Presentation] Directional tuning and reference frames revealed by noninvasive EEG in humans: a computational MoBI study2016

    • Author(s)
      Tanaka H., Miyakoshi M., and Makeig S.
    • Organizer
      The 31st International Congress of Psychology
    • Place of Presentation
      PACIFICO, (Yokohama, Kanagawa)
    • Year and Date
      2016-07-24 – 2016-07-26
    • Int'l Joint Research / Invited
  • [Presentation] Dynamics of directional tuning and reference frames in humans: A mobile brain/body imaging study2016

    • Author(s)
      Tanaka H., Miyakoshi M., and Makeig S.
    • Organizer
      The Japan-Europe International Meeting about Embodied Brain
    • Place of Presentation
      Taormina, Italy
    • Year and Date
      2016-05-30 – 2016-06-01
    • Invited
  • [Presentation] Jaw displacement and phrasal stress in Mandarin Chinese2016

    • Author(s)
      Erickson, D., Iwata, R., Suemitsu, A.
    • Organizer
      5th International Symposium on Tonal Aspects of Languages
    • Place of Presentation
      Buffalo, USA
    • Year and Date
      2016-05-24 – 2016-05-27
    • Int'l Joint Research
  • [Presentation] Directional tuning and reference frames revealed by noninvasive EEG in humans: a computational MoBI study2016

    • Author(s)
      Tanaka H., Miyakoshi M., and Makeig S.
    • Organizer
      第55回日本生体医工学会大会
    • Place of Presentation
      富山市民プラザ (富山県富山市)
    • Year and Date
      2016-04-26 – 2016-04-28
    • Int'l Joint Research / Invited

URL: 

Published: 2018-01-16  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi