• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 課題ページに戻る

2018 年度 実績報告書

傾聴エージェントのためのマルチモーダル情報を利用した応答モデルの研究

研究課題

研究課題/領域番号 16K00289
研究機関国立研究開発法人理化学研究所

研究代表者

黄 宏軒  国立研究開発法人理化学研究所, 革新知能統合研究センター, 研究員 (00572950)

研究分担者 林 勇吾  立命館大学, 総合心理学部, 准教授 (60437085)
研究期間 (年度) 2016-04-01 – 2019-03-31
キーワード人工知能 / 会話エージェント / 高齢者支援 / コミュニケーション / 傾聴
研究実績の概要

今年度は,昨年度から開発に関わっているFACSvatarを,以前から開発してきた会話エージェントのための汎用開発枠組みGeneric Embodied Conversational Agent (GECA) Frameworkへの組み込みを行った.さらに,エージェントの会話状況・環境認識や動作生成をより高精度かつ精緻なモデルで駆動できるように,深層学習の学習済みモデルをGECAで動作できるようにGECAの拡張を行った.具体的には,ネットワーク通信ライブラリZeroMQとPython言語をサポートした.次に,前年度に収集した傾聴会話実験収録した映像をデータコーパスとして整備した.これを基に,深層学習を利用して話し手の頭部動作,表情,視線,音声の韻律情報から,聴き手(エージェント)の頭部動作,表情,姿勢を生成する再帰型ニューラルネットワークモデルを構築した.エージェントの発話状態に応じて発話中と非発話の2つのモデルに分けて,10分割交差検証ではそれぞれ決定係数(R-square)0.5の精度を得られている.最後に,前項で構築した応答モデルを取り入れた,リアルタイムで動作する聴き手エージェントシステムを開発した.このシステムは,専用のスクリプト言語を用いて手作業で編集する応答シナリオ,外部サービスの雑談エンジン(NTTDocomo),そして,会話実験などで活用できる,エージェントの発話を直接操作するインタフェイスの3つの構成の間で簡単に切り替えることができるようになっている.

  • 研究成果

    (21件)

すべて 2019 2018

すべて 雑誌論文 (1件) (うち査読あり 1件、 オープンアクセス 1件) 学会発表 (20件) (うち国際学会 13件、 招待講演 2件)

  • [雑誌論文] Tuning a Conversation Strategy for Interactive Recommendations in a Chatbot Setting2018

    • 著者名/発表者名
      Yuichiro Ikemoto, Varit Asawavetvutt, Kazuhiro Kuwabara, and Hung-Hsuan Huang
    • 雑誌名

      Journal of Information and Telecommunication

      巻: 3 ページ: 180-195

    • DOI

      10.1080/24751839.2018.1544818

    • 査読あり / オープンアクセス
  • [学会発表] Detection of Student Teacher's Intention using Multimodal Features in a Virtual Classroom2019

    • 著者名/発表者名
      Masato Fukuda, Hung-Hsuan Huang, and Toyoaki Nishida
    • 学会等名
      11th International Conference on Agents and Artificial Intelligence (ICAART 2019)
    • 国際学会
  • [学会発表] Toward RNN based Micro Non-verbal Behavior Generation for Virtual Listener Agents2019

    • 著者名/発表者名
      Hung-Hsuan Huang, Masato Fukuda, Toyoaki Nishida
    • 学会等名
      HCI International 2019
    • 国際学会
  • [学会発表] Story Envisioning Framework for Visualized Collective Storytelling in Conversation2019

    • 著者名/発表者名
      Qiang Zhang, Maryam Mirzaei, Hung-Hsuan Huang, Toyoaki Nishida
    • 学会等名
      HCI International 2019
    • 国際学会
  • [学会発表] Development of a Platform of RNN Driven Multimodal Interaction for Embodied Conversational Agents2019

    • 著者名/発表者名
      Hung-Hsuan Huang, Masato Fukuda, Toyoaki Nishida
    • 学会等名
      19th ACM International Conference on Intelligent Virtual Agents (IVA 2019)
    • 国際学会
  • [学会発表] Multimodal Assessment on Teaching Skills in a Virtual Rehearsal Environment2019

    • 著者名/発表者名
      Masato Fukuda, Hung-Hsuan Huang, Kazuhiro Kuwabara, and Toyoaki Nishida
    • 学会等名
      19th ACM International Conference on Intelligent Virtual Agents (IVA 2019)
    • 国際学会
  • [学会発表] マルチモーダル特徴量を用いた教員志望者の授業スキル評価モデルの提案2019

    • 著者名/発表者名
      福田匡人,黄 宏軒,桑 原和宏,西田豊明
    • 学会等名
      HAIシンポジウム2018
  • [学会発表] グループディスカッション参加ロボットの頭部動作の印象評価2019

    • 著者名/発表者名
      木村清也,黄 宏軒, 桑原和宏,西田豊明
    • 学会等名
      HAIシンポジウム2018
  • [学会発表] 回帰型ニューラルネットを用いた会話エージェントのアイドリング動作生成の検討2019

    • 著者名/発表者名
      黄 宏軒,福田匡人,西 田豊明
    • 学会等名
      第33回人工知能学会全国大会
  • [学会発表] Conversational Informatics -Virtual Agents and their Applications2019

    • 著者名/発表者名
      Hung-Hsuan Huang
    • 学会等名
      SOCRATES Meeting
    • 国際学会 / 招待講演
  • [学会発表] Proposal of a Multimodal Framework for Generating Robot's Spontaneous Attention Directions and Nods in Group Discussion2018

    • 著者名/発表者名
      Hung-Hsuan Huang, Seiya Kimura, Kazuhiro Kuwabara, Toyoaki Nishida
    • 学会等名
      AI for Multimodal Human Robot Interaction (AI-MHRI) Workshop, IJCAI-ECAI 2018
    • 国際学会
  • [学会発表] Estimating Speaker's Engagement from Non-verbal Features based on an Active Listening Corpus2018

    • 著者名/発表者名
      Lei Zhang, Hung-Hsuan Huang, Kazuhiro Kuwabara
    • 学会等名
      HCI International 2018
    • 国際学会
  • [学会発表] Adopting Functional Roles for Improving Participants' Communication Skill in Group Discussion Conversation2018

    • 著者名/発表者名
      Hung-Hsuan Huang, Qi Zhang, Shogo Okada, Kazuhiro Kuwabara, Toyoaki Nishida
    • 学会等名
      Workshop on Group Interaction Frontiers in Technology (GIFT 2018), 20th ACM International Conference on Multimodal Interaction (ICMI 2018)
    • 国際学会
  • [学会発表] FACSvatar: An Open Source Modular Framework for Real-Time FACS based Facial Animation2018

    • 著者名/発表者名
      Stef van der Struijk, Hung-Hsuan Huang, Maryam Sadat Mirzaei, and Toyoaki Nishida
    • 学会等名
      18th ACM International Conference on Intelligent Virtual Agents (IVA 2018)
    • 国際学会
  • [学会発表] Proposal of a Multi-purpose and Modular Virtual Classroom Framework for Teacher Training2018

    • 著者名/発表者名
      Masato Fukuda, Hung-Hsuan Huang, Kazuhiro Kuwabara, and Toyoaki Nishida
    • 学会等名
      18th ACM International Conference on Intelligent Virtual Agents (IVA 2018)
    • 国際学会
  • [学会発表] Integration of DNN Generated Spontaneous Reactions with a Generic Multimodal Framework for Embodied Conversational Agents2018

    • 著者名/発表者名
      Hung-Hsuan Huang, Masato Fukuda, Stef van der Struijk, and Toyoaki Nishida
    • 学会等名
      6th International Conference on Human-Agent Interaction (HAI 2018)
    • 国際学会
  • [学会発表] Investigation of Class Atmosphere Cognition in a VR Classroom2018

    • 著者名/発表者名
      Masato Fukuda, Hung-Hsuan Huang, Kazuhiro Kuwabara, and Toyoaki Nishida
    • 学会等名
      6th International Conference on Human-Agent Interaction (HAI 2018)
    • 国際学会
  • [学会発表] 仮想学級の雰囲気表現を用いた教員志望者の指導訓練環境の検討2018

    • 著者名/発表者名
      福田 匡人,黄 宏軒, 桑原 和宏
    • 学会等名
      第32回人工知能学会全国大会
  • [学会発表] グループディスカッション参加ロボットの頭部動作決定機構の検討2018

    • 著者名/発表者名
      木村 清也,黄 宏軒, 桑原 和宏
    • 学会等名
      第32回人工知能学会全国大会
  • [学会発表] 仮想学級におけるマルチモーダル特徴量を用いた教員志望者の授業意図の検出2018

    • 著者名/発表者名
      福田 匡人,黄 宏軒, 西田豊明
    • 学会等名
      HCGシンポジウム2018
  • [学会発表] コミュニケーション支援エージェントのための多人数会話マルチモーダル解析2018

    • 著者名/発表者名
      黄 宏軒
    • 学会等名
      電子情報通信学会ヒューマンプローブ研究会(HPB)第19回研究会
    • 招待講演

URL: 

公開日: 2019-12-27  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi