• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2020 Fiscal Year Annual Research Report

モジュール連動に基づく対話システム基盤技術の構築

Planned Research

Project AreaStudies on intelligent systems for dialogue toward the human-machine symbiotic society
Project/Area Number 19H05692
Research InstitutionNagoya University

Principal Investigator

東中 竜一郎  名古屋大学, 情報学研究科, 教授 (90396151)

Co-Investigator(Kenkyū-buntansha) 駒谷 和範  大阪大学, 産業科学研究所, 教授 (40362579)
宮尾 祐介  東京大学, 大学院情報理工学系研究科, 教授 (00343096)
稲葉 通将  電気通信大学, 人工知能先端研究センター, 准教授 (10636202)
港 隆史  株式会社国際電気通信基礎技術研究所, 石黒浩特別研究所, 客員研究員 (50359858)
槇原 靖  大阪大学, 産業科学研究所, 教授 (90403005)
Project Period (FY) 2019-06-28 – 2024-03-31
Keywords対話システム / モジュール連動 / 全体最適化
Outline of Annual Research Achievements

本研究課題は,現状の対話システムの基本構成を見直し,複数のモジュールが連動することでユーザや状況に応じてシステム全体の効用を最大化することを目的とする.具体的には,「課題A. 他モジュールと連動した音声処理・マルチモーダル処理技術の確立」,「課題B. 他モジュールと連動した言語理解・言語生成技術の確立」,「課題C. 対話の効用に基づく複数モジュールのパラメタ最適化技術」,「課題D. 複数モジュール間での連動プロトコルの設計およびシステム構築とその実証」の4つの課題に取り組む.
課題Aについては,遠方から対話ロボットに近づいてくる話者の性別と年齢を,その歩き姿からリアルタイムに推定する技術を開発した.また,システムがマルチモーダル情報から言外の意図や態度,感情を読み取れるようにするためのデータセットとして,Hazumiを構築し,公開した.
課題Bについては,セマンティックパージングを対話システムに応用するためのデータセットの構築を進めた.自然言語の特性にフォーカスし,対話的図形編集,および,コード生成を対象とした課題設計とデータ構築に着手した.
課題Cについては,パラメタ最適化技術を推進するための対話データ収集を行った.旅行代理店課題を対象とし,ユーザや対話状況に適応的に振舞う対話システムの実現のため,子ども,若年層,高齢者を含む多様な話者のデータを大規模に収集した.加えて,モジュール連動に基づく対話システムの実現手法として,システムの内部パラメタをタスク達成率が最大になるように強化学習を行う手法を提案した.
課題Dについては,モジュール連動プラットフォームに基づく対話システムの実装を進めたほか,コンペティション形式での実証実験を進めた.体験者,開発者,ロボットの3拠点を接続して対話実験を可能とするリモートシステムを開発し,コロナ禍にあっても,予備予選会を滞りなく実施した.

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

課題Aについては,音声処理・マルチモーダル処理技術に関する基礎検討を行った.さまざまなユーザに適応するための性別識別・年齢推定技術,ユーザの心象理解のためのデータセットの構築を着実に進めることができた.
課題Bについては,言語理解・言語生成技術に関する基礎検討を行った.対話システムにおけるセマンティックパージング技術を進展させるため,対話的図形編集とコード生成に関する課題設計を行い,データセットの構築に着手することができた.
課題Cについては,コロナ禍の中,リモート環境における対話データ収集手法が確立でき,子ども,若年層,高齢者を含む,多様な話者を含む大規模なマルチモーダル対話データセットを構築することができた.また,モジュール連動に基づく対話システムの実現手法として,強化学習を用いた手法を提案し,ユーザシミュレーションにより,一定の有効性を示すことができた.
課題Dについては,リモートでロボット対話システムの開発を可能とするシステムの構築に成功し,コロナ禍においても,コンペティション形式による実証実験を行う仕組みを整えることができた.また,本システムを用い,対話ロボットコンペティションの予備予選会を滞りなく実施することができた.予備予選会において,参加者は多様な手法を用いてシステム開発を行っており,モジュール連動に基づく対話システムの研究を,コミュニティ全体で問題意識を共有しながら,効率的に進める枠組みを整えることができた.

Strategy for Future Research Activity

来年度は,本計画研究の各研究課題を進める上で根幹を成す要素技術の研究をさらに進める.
課題Aについては,音声処理・マルチモーダル処理を他モジュールと連動させるために,収集した対話データの分析やそのデータを用いた個人属性の抽出に取り組む.話者属性の推定については,不確かさを含めて推定するための視覚情報処理機能を実装する.これらを通じて,モジュール間の連動に有効なパラメタを引き続き探索し,その結果に基づいてモジュール性能の向上に向けた手法の検討を続ける.
課題Bについては,対話的図形編集課題,および,コード生成課題について大規模な対話データを収集し,セマンティックパージング手法を適用して問題点等の分析を行う.また,音声対話における構文・意味解析技術や,対話中の発話から感情認識を行う手法などについても検討を行い,他モジュールと連動するための対話理解・言語生成モジュールの研究開発を進める.
課題Cについては,各モジュールのパラメタの一部を最適化するため,これまでに本課題で収集してきた旅行代理店課題の対話データ,および,雑談に基づく観光地推薦課題の対話データを対象とし,対話からユーザ特性に関する情報を抽出するための技術開発を行う.さらに,抽出した情報をもとに,対話の目的関数に従ってパラメタを最適化する手法の高度化に取り組む.
課題Dについては,モジュール連動プラットフォームに基づく対話システムの実装をさらに推進するほか,対話ロボットコンペティションの枠組みを活用し,予選・本選の実施を通して,モジュール連動に基づく対話システムの方法論の確立を目指す.対話システムと対話ロボットを接続するミドルウェアの開発を進め,また,CGエージェントとも透過的に接続できるシステムへ拡張し,様々な状況下で評価実験ができる環境を構築する.

  • Research Products

    (37 results)

All 2021 2020

All Journal Article (21 results) (of which Int'l Joint Research: 8 results,  Peer Reviewed: 20 results,  Open Access: 13 results) Presentation (14 results) (of which Int'l Joint Research: 3 results,  Invited: 3 results) Book (1 results) Funded Workshop (1 results)

  • [Journal Article] End-to-End Model-Based Gait Recognition2021

    • Author(s)
      Li Xiang、Makihara Yasushi、Xu Chi、Yagi Yasushi、Yu Shiqi、Ren Mingwu
    • Journal Title

      Proceedings of the 1st International Workshop on Human-centric Trustworthy Computer Vision: From Research to Applications

      Volume: - Pages: 3~20

    • DOI

      10.1007/978-3-030-69535-4_1

    • Peer Reviewed / Open Access
  • [Journal Article] Learn to Walk Across Ages: Motion Augmented Multi-Age Group Gait Video Translation2021

    • Author(s)
      Zhang Yiyi、Makihara Yasushi、Muramatsu Daigo、Zhang Jianfu、Niu Li、Zhang Liqing、Yagi Yasushi
    • Journal Title

      IEEE Access

      Volume: 9 Pages: 40550~40559

    • DOI

      10.1109/ACCESS.2021.3061684

    • Peer Reviewed / Open Access / Int'l Joint Research
  • [Journal Article] Female-Type Android’s Drive to Quickly Understand a User’s Concept of Preferences Stimulates Dialogue Satisfaction: Dialogue Strategies for Modeling User’s Concept of Preferences2021

    • Author(s)
      Uchida Takahisa、Minato Takashi、Nakamura Yutaka、Yoshikawa Yuichiro、Ishiguro Hiroshi
    • Journal Title

      International Journal of Social Robotics

      Volume: 13 Pages: 1499~1516

    • DOI

      10.1007/s12369-020-00731-z

    • Peer Reviewed / Open Access
  • [Journal Article] マルチタスク学習による発話対ごとに付与された複数ラベルの推定2021

    • Author(s)
      平野 裕貴、岡田 将吾、西本 遥人、駒谷 和範
    • Journal Title

      電子電子情報通信学会論文誌A 基礎・境界

      Volume: J104-A Pages: 84~94

    • DOI

      10.14923/transfunj.2020HAP0012

    • Peer Reviewed
  • [Journal Article] Methods for Efficiently Constructing Text-dialogue-agent System using Existing Anime Characters2021

    • Author(s)
      Ishii Ryo、Higashinaka Ryuichiro、Mitsuda Koh、Katayama Taichi、Mizukami Masahiro、Tomita Junji、Kawabata Hidetoshi、Yamaguchi Emi、Adachi Noritake、Aono Yushi
    • Journal Title

      Journal of Information Processing

      Volume: 29 Pages: 30~44

    • DOI

      10.2197/ipsjjip.29.30

    • Peer Reviewed / Open Access
  • [Journal Article] 話者継続・交替時における対話行為と視線行動に基づく共感スキルの推定2021

    • Author(s)
      石井亮、大塚和弘、熊野史朗、東中竜一郎、青野裕司
    • Journal Title

      情報処理学会論文誌

      Volume: 62 Pages: 100~114

    • Peer Reviewed
  • [Journal Article] Collection of Meta Information with User-Generated Question Answer Pairs and its Reflection for Improving Expressibility in Response Generation2021

    • Author(s)
      Kodama Takashi、Higashinaka Ryuichiro、Mitsuda Koh、Masumura Ryo、Aono Yushi、Nakamura Ryuta、Adachi Noritake、Kawabata Hidetoshi
    • Journal Title

      Journal of Natural Language Processing

      Volume: 28 Pages: 136~159

    • DOI

      10.5715/jnlp.28.136

    • Peer Reviewed / Open Access
  • [Journal Article] Wearable Sensor-Based Gait Analysis for Age and Gender Estimation2020

    • Author(s)
      Ahad Md Atiqur Rahman、Ngo Thanh Trung、Antar Anindya Das、Ahmed Masud、Hossain Tahera、Muramatsu Daigo、Makihara Yasushi、Inoue Sozo、Yagi Yasushi
    • Journal Title

      Sensors

      Volume: 20 Pages: 2424~2424

    • DOI

      10.3390/s20082424

    • Peer Reviewed / Open Access / Int'l Joint Research
  • [Journal Article] Gait recognition invariant to carried objects using alpha blending generative adversarial networks2020

    • Author(s)
      Li Xiang、Makihara Yasushi、Xu Chi、Yagi Yasushi、Ren Mingwu
    • Journal Title

      Pattern Recognition

      Volume: 105 Pages: 107376~107376

    • DOI

      10.1016/j.patcog.2020.107376

    • Peer Reviewed / Open Access / Int'l Joint Research
  • [Journal Article] Performance Evaluation of Model-Based Gait on Multi-View Very Large Population Database With Pose Sequences2020

    • Author(s)
      An Weizhi、Yu Shiqi、Makihara Yasushi、Wu Xinhui、Xu Chi、Yu Yang、Liao Rijun、Yagi Yasushi
    • Journal Title

      IEEE Transactions on Biometrics, Behavior, and Identity Science

      Volume: 2 Pages: 421~430

    • DOI

      10.1109/TBIOM.2020.3008862

    • Peer Reviewed / Open Access / Int'l Joint Research
  • [Journal Article] Japanese Young Women Did not Discriminate between Robots and Humans as Listeners for Their Self-Disclosure -Pilot Study-2020

    • Author(s)
      Uchida Takahisa、Takahashi Hideyuki、Ban Midori、Shimaya Jiro、Minato Takashi、Ogawa Kohei、Yoshikawa Yuichiro、Ishiguro Hiroshi
    • Journal Title

      Multimodal Technologies and Interaction

      Volume: 4 Pages: 35~35

    • DOI

      10.3390/mti4030035

    • Peer Reviewed / Open Access
  • [Journal Article] Is She Truly Enjoying the Conversation?2020

    • Author(s)
      Katada Shun、Okada Shogo、Hirano Yuki、Komatani Kazunori
    • Journal Title

      Proceedings of the 2020 International Conference on Multimodal Interaction (ICMI)

      Volume: - Pages: 315~323

    • DOI

      10.1145/3382507.3418844

    • Peer Reviewed / Open Access
  • [Journal Article] Gait Recognition via Semi-supervised Disentangled Representation Learning to Identity and Covariate Features2020

    • Author(s)
      Li Xiang、Makihara Yasushi、Xu Chi、Yagi Yasushi、Ren Mingwu
    • Journal Title

      Proceedings of the 33rd IEEE Conference on Computer Vision and Pattern Recognition (CVPR)

      Volume: - Pages: -

    • DOI

      10.1109/CVPR42600.2020.01332

    • Peer Reviewed / Open Access / Int'l Joint Research
  • [Journal Article] Gait Recognition from a Single Image Using a Phase-Aware Gait Cycle Reconstruction Network2020

    • Author(s)
      Xu Chi、Makihara Yasushi、Li Xiang、Yagi Yasushi、Lu Jianfeng
    • Journal Title

      Proceedings of the 16th European Conference on Computer Vision (ECCV)

      Volume: - Pages: 386~403

    • DOI

      10.1007/978-3-030-58529-7_23

    • Peer Reviewed / Open Access / Int'l Joint Research
  • [Journal Article] Detecting Adversarial Attacks In Time-Series Data2020

    • Author(s)
      Abdu-Aguye Mubarak G.、Gomaa Walid、Makihara Yasushi、Yagi Yasushi
    • Journal Title

      Proceedings of the 45th International Conference on Acoustics, Speech, and Signal Processing (ICASSP)

      Volume: - Pages: -

    • DOI

      10.1109/ICASSP40776.2020.9053311

    • Peer Reviewed / Int'l Joint Research
  • [Journal Article] Adaptive Pooling Is All You Need: An Empirical Study on Hyperparameter-insensitive Human Action Recognition Using Wearable Sensors2020

    • Author(s)
      Abdu-Aguye Mubarak G.、Gomaa Walid、Makihara Yasushi、Yagi Yasushi
    • Journal Title

      Proceedings of the 2020 International Joint Conference on Neural Network (IJCNN)

      Volume: - Pages: -

    • DOI

      10.1109/IJCNN48605.2020.9207082

    • Peer Reviewed / Int'l Joint Research
  • [Journal Article] How Confident Are You in Your Estimate of a Human Age? Uncertainty-aware Gait-based Age Estimation by Label Distribution Learning2020

    • Author(s)
      Sakata Atsuya、Makihara Yasushi、Takemura Noriko、Muramatsu Daigo、Yagi Yasushi
    • Journal Title

      Proceedings of the 4th International Joint Conference on Biometrics (IJCB)

      Volume: - Pages: -

    • DOI

      10.1109/IJCB48548.2020.9304914

    • Peer Reviewed
  • [Journal Article] DeformGait: Gait Recognition under Posture Changes using Deformation Patterns between Gait Feature Pairs2020

    • Author(s)
      XU Chi、Adachi Daisuke、Makihara Yasushi、Yagi Yasushi、Lu Jianfeng
    • Journal Title

      Proceedings of the 4th International Joint Conference on Biometrics (IJCB)

      Volume: - Pages: -

    • DOI

      10.1109/IJCB48548.2020.9304902

    • Peer Reviewed
  • [Journal Article] Methods of Efficiently Constructing Text-Dialogue-Agent System Using Existing Anime Character2020

    • Author(s)
      Ishii Ryo、Higashinaka Ryuichiro、Mitsuda Koh、Katayama Taichi、Mizukami Masahiro、Tomita Junji、Kawabata Hidetoshi、Yamaguchi Emi、Adachi Noritake、Aono Yushi
    • Journal Title

      Proceedings of the 22nd International Conference on Human-Computer Interaction (HCII)

      Volume: - Pages: 328~347

    • DOI

      10.1007/978-3-030-60152-2_25

    • Peer Reviewed
  • [Journal Article] Generating Responses that Reflect Meta Information in User-Generated Question Answer Pairs2020

    • Author(s)
      Takashi Kodama, Ryuichiro Higashinaka, Koh Mitsuda, Ryo Masumura, Yushi Aono, Ryuta Nakamura, Noritake Adachi, Hidetoshi Kawabata
    • Journal Title

      Proceedings of the 12th Language Resources and Evaluation Conference (LREC)

      Volume: - Pages: 5433~5441

    • Peer Reviewed / Open Access
  • [Journal Article] 対話システムライブコンペティションから何が得られたか2020

    • Author(s)
      東中竜一郎、船越孝太郎、稲葉通将、角森唯子、高橋哲朗、赤間怜奈、宇佐美まゆみ、川端良子、水上雅博
    • Journal Title

      人工知能

      Volume: 35 Pages: 333~343

  • [Presentation] システム発話間の内容的整合性を用いた強化学習に基づく発話選択2021

    • Author(s)
      黒田 佑樹、武田 龍、駒谷 和範
    • Organizer
      情報処理学会第83回全国大会
  • [Presentation] 『日本語日常会話コーパス』に対する自然会話特有の現象を区別するための係り受け関係ラベルの付与2021

    • Author(s)
      吉田奈央、宮尾祐介
    • Organizer
      言語処理学会第27回年次大会
  • [Presentation] 対話システムライブコンペティションの狙い2021

    • Author(s)
      東中竜一郎
    • Organizer
      対話システム勉強会(第3回)
    • Invited
  • [Presentation] 対話システム研究の現状と日本語教育研究者・実践者に期待すること2021

    • Author(s)
      東中竜一郎
    • Organizer
      国立国語研究所日本語教師セミナー『対話システム研究と日本語教育』
    • Invited
  • [Presentation] 共同図形配置課題における対話の共通基盤構築過程の分析2021

    • Author(s)
      光田航、東中竜一郎、大賀悠平、杵渕哲也
    • Organizer
      言語処理学会第27回年次大会
  • [Presentation] 話したくない話題を対象とした対話データの収集とその分析2021

    • Author(s)
      長尾佳寿美、東中竜一郎、安宅和人
    • Organizer
      情報処理学会第83回全国大会
  • [Presentation] オケージョンを考慮した対話システムの検討2021

    • Author(s)
      莊司健太、長尾佳寿美、東中竜一郎、安宅和人
    • Organizer
      情報処理学会第83回全国大会
  • [Presentation] Video-based Gait Analysis and Its Applications2020

    • Author(s)
      Yasushi Makihara
    • Organizer
      The 3rd International Conference on Multimedia Analysis and Pattern Recognition
    • Int'l Joint Research
  • [Presentation] マルチモーダル対話コーパスHazumi公開と生体信号を含む新規データ収集2020

    • Author(s)
      駒谷 和範、岡田 将吾、堅田 俊
    • Organizer
      第11回対話システムシンポジウム
  • [Presentation] オープンドメイン雑談対話に基づく観光地推薦2020

    • Author(s)
      高橋正樹、稲葉通将
    • Organizer
      第11回対話システムシンポジウム
  • [Presentation] 話者情報を考慮する注意機構を用いた応答生成手法の検討2020

    • Author(s)
      水上雅博、杉山弘晃、成松宏美、有本庸浩、東中竜一郎
    • Organizer
      第34回人工知能学会全国大会
  • [Presentation] Overview of Dialogue Breakdown Detection Challenge 52020

    • Author(s)
      Ryuichiro Higashinaka、Yuiko Tsunomori、Tetsuro Takahashi、Hiroshi Tsukahara、Masahiro Araki、Joao Sedoc、Rafael E. Banchs、Luis F. D’Haro
    • Organizer
      WOCHAT + DBDC5: Workshop on Chatbots and Conversational Agents and Dialogue Breakdown Detection Challenge
    • Int'l Joint Research
  • [Presentation] Integrating understanding and generation modules for adaptive dialogue systems2020

    • Author(s)
      Ryuichiro Higashinaka
    • Organizer
      The 3rd International Symposium on Symbiotic Intelligent Systems
    • Int'l Joint Research / Invited
  • [Presentation] 対話システムライブコンペティション32020

    • Author(s)
      東中竜一郎、船越孝太郎、高橋 哲朗、稲葉通将,角森 唯子、赤間怜奈、宇佐美まゆみ、川端良子、水上雅博、小室允人、ドルサテヨルス
    • Organizer
      第11回対話システムシンポジウム
  • [Book] AIの雑談力2021

    • Author(s)
      東中 竜一郎
    • Total Pages
      272
    • Publisher
      KADOKAWA
    • ISBN
      4040823060
  • [Funded Workshop] WOCHAT + DBDC5: Workshop on Chatbots and Conversational Agents and Dialogue Breakdown Detection Challenge2020

URL: 

Published: 2022-12-28  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi