• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2014 Fiscal Year Annual Research Report

MOSAIC: 自然で双方向的な対話処理モデル

Research Project

Project/Area Number 24500256
Research InstitutionNara Institute of Science and Technology

Principal Investigator

CAMPBELL Nick  奈良先端科学技術大学院大学, 情報科学研究科, 客員教授 (50395109)

Co-Investigator(Kenkyū-buntansha) 定延 利之  神戸大学, 国際文化学研究科, 教授 (50235305)
Project Period (FY) 2012-04-01 – 2015-03-31
Keywordsヒューマンインターフェース技術 / 非言語コミュニケーション / 感性情報処理 / 音声合成 / マルチモーダルインターフェース / バイオメトリックセンシング / 自律神経系
Outline of Annual Research Achievements

本研究は発話の言語的内容のみならず、土台となる伝達意図の処理に注目し、どのように音声処理を行うかに関して取り組む。我々は発話から、状況により変わる話し手の意図の予測、あるいは解釈の支援のために、発話のノンバーバル情報の解釈を組み込んだシステムを開発することを目的としている。自然対話の内容は、発話の意味を伝達することと同時に、社交的なつながりにも大いに寄与している。このような社交的な交流を認識することには、音声情報や話し方(対話中では何を言ったかよりも最重要な単位)といったものが必要不可欠である。我々は音声処理に、発話内容と並んで、話し方情報を含めることにより、より価値のある発話の表現と理解を実現することを目標としている。
本研究課題において、発話者・参加者の心理的情報を具体的に測るため、バイオメトリックセンサーを利用した。ANS(autonomic nervous system)情報とは、ガルバニック皮膚反応による物理的データである。アイルランドのダブリン大学と共同で、”D-ANSデータの収録を、Italian Institute of Technologyの研究者シャノン・ヘニング氏と行った。これまで参加者の参加態度(心理情報等)を手動でアノテーションしデータを構築していたが本研究では、バイオメトリックセンサーにより同様な結果が得られるかどうかの確認をするためデータ収集・分析を行った。米国マサチューセッツ工科大が開発したQセンサーの技術を導入し、対話インタラクションをマルチモーダル技術に収録しながら、発話者のバイオメトリックセンシングを同時に行った。
最終年度にあたる本年は、その収録したDANSバイオメトリックデータを含む音声収録を分析し、対話化や参加情報を付与し対話音声コーパスという形で公開した。それとともにコンピューターによる音声対話システムの開発のため新たなソフト(アルゴリズム)を開発した。

  • Research Products

    (11 results)

All 2015 2014

All Journal Article (2 results) (of which Peer Reviewed: 2 results) Presentation (5 results) (of which Invited: 2 results) Book (4 results)

  • [Journal Article] Time for Laughter2014

    • Author(s)
      Francesca Bonin, Nick Campbell, Carl Vogel
    • Journal Title

      Knowledge-based systems

      Volume: 71 Pages: p15 - 24

    • DOI

      http://dx.doi.org/10.1016/j.knosys.2014.04.031

    • Peer Reviewed
  • [Journal Article] Investigating automatic measurements of prosodic 2014 accommodation and its dynamics in social interaction2014

    • Author(s)
      Celine De Looze, Stefan Scherer, Brian Vaughan, Nick Campbell
    • Journal Title

      Speech Communication

      Volume: 58(1) Pages: p11 - 34

    • DOI

      http://dx.doi.org/10.1016/j.specom.2013.10.002

    • Peer Reviewed
  • [Presentation] Voice Quality: not only about "you" but also about "your interlocutor"2015

    • Author(s)
      Ya Li, Nick Campbell, JianHua Tao
    • Organizer
      ICASSP
    • Place of Presentation
      Brisbane, Australia
    • Year and Date
      2015-04-19 – 2015-04-24
  • [Presentation] Social sequence analysis: temporal sequences in interactional conversations2014

    • Author(s)
      Francesca Bonin, Carl Vogel and Nick Campbell
    • Organizer
      5th IEEE Conference on Cognitive Infocommunications(CogInfoCom)
    • Place of Presentation
      Vietri sul Mare, Italy
    • Year and Date
      2014-11-05 – 2014-11-07
  • [Presentation] An introduction to the TCD D_ANS Corpus - a multimodal multimedia biometric corpus of spoken social 2014,interaction2014

    • Author(s)
      Nick Campbell
    • Organizer
      Interspeech
    • Place of Presentation
      MA3HMI,Singapore
    • Year and Date
      2014-09-14
    • Invited
  • [Presentation] Beyond D64 - A fresh look at multimodal dialogue systems from the FastNet point of view - how we are incorporating different modalities into an interactive speech synthesis system., Multimodality- interdisciplinary perspectives: new questions and new methodologies2014

    • Author(s)
      Nick Campbell
    • Organizer
      INALCO
    • Place of Presentation
      Universite Paris 8 et CNRS, France
    • Year and Date
      2014-06-06
    • Invited
  • [Presentation] The D-ANS corpus: the Dublin-Autonomous Nervous System corpus of 2014 biosignal and multimodal recordings of conversational speech2014

    • Author(s)
      Shannon Hennig, Ryad Chellali and Nick Campbell
    • Organizer
      The 9th edition of the Language Resources and Evaluation Conference, ELRA
    • Place of Presentation
      Reykjavik, Iceland
    • Year and Date
      2014-05-26 – 2014-05-31
  • [Book] Annotating the TCD D-ANS Corpus - a multimodal multimedia monolingual biometric corpus of spoken social interaction2015

    • Author(s)
      Nick Campbell and Shannon Hennig
    • Total Pages
      印刷中
    • Publisher
      Springer Verlag
  • [Book] SpeechProsody in Speech Synthesis: Modeling and generation of prosody for high quality and flexible speech synthesis(Expressivity in Interactive Speech Synthesis; Some Paralinguistic and Nonlinguistic Issues of Speech Prosody for 2015 Conversational Dialogue Systems )2015

    • Author(s)
      Nick Campbell and Ya Li
    • Total Pages
      97 - 107
    • Publisher
      Springer
  • [Book] Coverbal Synchrony in Human-Machine Interaction2014

    • Author(s)
      Matej Rojc, Niick Campbell
    • Total Pages
      1 - 434
    • Publisher
      Boca Raton, CRC Press
  • [Book] Natural Interaction with Robots, Knowbots and Smartphones (More Than Just Words: Building a Chatty Robot)2014

    • Author(s)
      Emer Gilmartin, Nick Campbell
    • Total Pages
      179 - 185
    • Publisher
      Springer

URL: 

Published: 2016-06-01  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi