• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2019 Fiscal Year Annual Research Report

モジュール連動に基づく対話システム基盤技術の構築

Planned Research

Project AreaStudies on intelligent systems for dialogue toward the human-machine symbiotic society
Project/Area Number 19H05692
Research InstitutionNagoya University

Principal Investigator

東中 竜一郎  名古屋大学, 情報学研究科, 教授 (90396151)

Co-Investigator(Kenkyū-buntansha) 駒谷 和範  大阪大学, 産業科学研究所, 教授 (40362579)
宮尾 祐介  東京大学, 大学院情報理工学系研究科, 教授 (00343096)
稲葉 通将  電気通信大学, 人工知能先端研究センター, 准教授 (10636202)
港 隆史  株式会社国際電気通信基礎技術研究所, 石黒浩特別研究所, 客員研究員 (50359858)
槇原 靖  大阪大学, 産業科学研究所, 教授 (90403005)
Project Period (FY) 2019-06-28 – 2024-03-31
Keywords対話システム / モジュール連動 / 全体最適化
Outline of Annual Research Achievements

本研究課題は,現状の対話システムの基本構成を見直し,複数のモジュールが連動することでユーザや状況に応じてシステム全体の効用を最大化することを目的とする.具体的には,「課題A. 他モジュールと連動した音声処理・マルチモーダル処理技術の確立」,「課題B. 他モジュールと連動した言語理解・言語生成技術の確立」,「課題C. 対話の効用に基づく複数モジュールのパラメタ最適化技術」,「課題D. 複数モジュール間での連動プロトコルの設計およびシステム構築とその実証」の4つの課題に取り組む.
課題Aおよび課題Bについては,話者の歩行映像に基づく年齢・性別のオンライン推定技術の研究を進めた.また,文脈依存のセマンティックパージング技術を推進するためのデータ設計を行った.
課題Cについては,パラメタ最適化技術の基礎検討を行うための対話データ収集に着手した.具体的には,観光目的地を決定する旅行代理店課題を設定し,データ収集計画を立案した.そして,旅行代理店オペレータのヒアリングに基づき,観光情報検索インタフェースを作成した上で,旅行代理店オペレータとユーザとの対話収集を開始した.本データは,人間のオペレータと年齢・性別の異なる多様な話者による対話を含み,ユーザや状況に応じてシステムがどのように振舞うべきかについての知見を与える有用なデータとなる.
課題Dについては,複数のモジュールが連動するためのプロトコル設計,モジュール連動プラットフォームの実装,および,プロトタイプシステムの動作検証を行った.また,コンペティション形式での実証実験計画を立てた.ロボットによる対話の標準課題を設定し,参加者が開発した対話ロボットの性能を競うことで,実社会における対話ロボットの問題を発見し,どのようなモジュール連動が有効かを探索できる.実証実験は商業施設で行い,実際のユーザにより評価してもらう設計とした.

Current Status of Research Progress
Current Status of Research Progress

3: Progress in research has been slightly delayed.

Reason

課題Aおよび課題Bについては,音声処理・マルチモーダル処理技術および言語理解・言語生成技術に関する基礎検討を行った.どのような情報があれば他のモジュールに有用かを検討し,年齢・性別推定技術やセマンティックパージング技術を着実に進展させることができた.
課題Cについては,パラメタ最適化技術の基礎検討を行うための対話データ収集に着手したが,新型コロナウイルスの影響により遅れが生じた.具体的には,対面で行う予定であった対話データ収集を,遠隔会議システムを用いた実施に切り替えたが,その際,実験計画を再設計したり被験者を再募集したりする必要が生じた.データ収集実験の実施にあたっても,実験者・被験者ともに,遠隔会議システムを用いたデータ収集のノウハウの蓄積が乏しく,実施に通常以上の時間を要した.現在は試行錯誤を経て,滞りなくデータ収集実験が実施できる状況となっている.
課題Dについては,複数のモジュールが連動するためのプロトコル設計,モジュール連動プラットフォームの実装,および,プロトタイプシステムの動作検証を行った.また,実証実験の場としての,コンペティション形式での実証実験計画を立て,参加者に提供予定である実証実験用対話ロボットシステムの構築にも着手できた.このことから,着実に進展していると言える.

Strategy for Future Research Activity

課題Aについては,収集された対話データ等に基づき,音声やマルチモーダル処理と,後段の言語処理モジュール等の連動に必要なパラメタを明らかにし,それぞれのモジュールの性能を向上させる手法の提案に取り組む.
課題Bについては,収集された対話データ等に基づき,自然言語処理研究におけるセマンティックパージング技術や文章生成技術を音声対話システムに利用するための基盤技術の研究開発を行う.具体的には,音声認識モジュールや対話制御モジュールにおける対話行為認識や文脈・状況理解に基づき,セマンティックパージング・文章生成の精度を向上させる手法を提案する.
課題Cについては,基礎データとしての旅行代理店課題の対話データ収集を継続する.また,書き起こしやラベル付けを行うことで,これらのデータの整備を行う.加えて,各モジュールのパラメタの一部を最適化する手法の検討を行い,対話の効用が明確なタスク指向型対話システムにおいてその有効性を検証する.
課題Dについては,他の課題と連動し,モジュール連動プラットフォームに基づく対話システムの実装を進めるほか,コンペティション形式での実証実験を進める.実証実験用対話ロボットシステムを構築し,ロボット制御について詳しくない参加者であっても,対話ロボットを用いた実証実験に参加できるようにする.また,商業施設における実験を実施する.

  • Research Products

    (38 results)

All 2020 2019

All Journal Article (6 results) (of which Peer Reviewed: 6 results,  Open Access: 5 results) Presentation (31 results) (of which Int'l Joint Research: 14 results,  Invited: 4 results) Book (1 results)

  • [Journal Article] Collection and Analysis of Perceived Information in Chat-oriented Dialogue2020

    • Author(s)
      Mitsuda Koh、Higashinaka Ryuichiro、Tomita Junji
    • Journal Title

      Transactions of the Japanese Society for Artificial Intelligence

      Volume: 35 Pages: DSI~E_1-10

    • DOI

      10.1527/tjsai.DSI-E

    • Peer Reviewed / Open Access
  • [Journal Article] Selection of Evaluation Metrics for Dialogue Breakdown Detection in Dialogue Breakdown Detection Challenge 32020

    • Author(s)
      Tsunomori Yuiko、Higashinaka Ryuichiro、Takahashi Tetsuro、Inaba Michimasa
    • Journal Title

      Transactions of the Japanese Society for Artificial Intelligence

      Volume: 35 Pages: DSI~G_1-10

    • DOI

      10.1527/tjsai.DSI-G

    • Peer Reviewed / Open Access
  • [Journal Article] An Evaluation of a Chat-oriented Dialogue System that Remembers and Uses User Information over Multiple Days2020

    • Author(s)
      Tsunomori Yuiko、Higashinaka Ryuichiro、Yoshimura Takeshi、Isoda Yoshinori
    • Journal Title

      Transactions of the Japanese Society for Artificial Intelligence

      Volume: 35 Pages: DSI~B_1-10

    • DOI

      10.1527/tjsai.DSI-B

    • Peer Reviewed / Open Access
  • [Journal Article] Improvements in the Utterance Database for Enhancing System Utterances in Chat-oriented Dialogue Systems2020

    • Author(s)
      Tsunomori Yuiko、Higashinaka Ryuichiro、Yoshimura Takeshi、Isoda Yoshinori
    • Journal Title

      Journal of Natural Language Processing

      Volume: 27 Pages: 65~88

    • DOI

      10.5715/jnlp.27.65

    • Peer Reviewed / Open Access
  • [Journal Article] A video‐based gait disturbance assessment tool for diagnosing idiopathic normal pressure hydrocephalus2019

    • Author(s)
      Liao Ruochen、Makihara Yasushi、Muramatsu Daigo、Mitsugami Ikuhisa、Yagi Yasushi、Yoshiyama Kenji、Kazui Hiroaki、Takeda Masatoshi
    • Journal Title

      IEEJ Transactions on Electrical and Electronic Engineering

      Volume: 15 Pages: 433~441

    • DOI

      10.1002/tee.23072

    • Peer Reviewed
  • [Journal Article] Prediction of Who Will Be Next Speaker and When Using Mouth-Opening Pattern in Multi-Party Conversation2019

    • Author(s)
      Ishii Ryo、Otsuka Kazuhiro、Kumano Shiro、Higashinaka Ryuichiro、Tomita Junji
    • Journal Title

      Multimodal Technologies and Interaction

      Volume: 3 Pages: 70~70

    • DOI

      10.3390/mti3040070

    • Peer Reviewed / Open Access
  • [Presentation] Does My Gait Look Nice? Human Perception-Based Gait Relative Attribute Estimation Using Dense Trajectory Analysis2020

    • Author(s)
      A. Shehata, Y. Hayashi, Y. Makihara, D. Muramatsu, Y. Yagi
    • Organizer
      The 23rd SANKEN International Symposium
    • Int'l Joint Research
  • [Presentation] OU-ISIR Wearable Sensor-based Gait Challenge: Age and Gender2020

    • Author(s)
      T.T. Ngo, M.A.R. Ahad, A.D. Antar, M. Ahmed, D. Muramatsu, Y. Makihara, Y. Yagi, S. Inoue, T. Hossain, Y. Hattori
    • Organizer
      The 23rd SANKEN International Symposium
    • Int'l Joint Research
  • [Presentation] 人と自然にインタラクションできる対話システムを目指して2020

    • Author(s)
      東中 竜一郎
    • Organizer
      名古屋大学情報学シンポジウム2020
    • Invited
  • [Presentation] 対話システムにおける適応的発話選択のためのユーザ状態の設計と推定2020

    • Author(s)
      奥野 尚己, 武田 龍, 駒谷 和範
    • Organizer
      情報処理学会第82回全国大会
  • [Presentation] 雑談要約技術に向けた取り組み2020

    • Author(s)
      東中 竜一郎, 光田 航, 増村 亮, 斉藤 いつみ, 青野 裕司
    • Organizer
      言語処理学会第 26回年次大会
  • [Presentation] 疲労判定に必要な歩容特徴量に関する検討2020

    • Author(s)
      西川 博文, 青木 工太, 村松 大吾, 槇原 靖, 八木 康史
    • Organizer
      2020年電子情報通信学会総合大会
  • [Presentation] Unsupervised GEI-Based Gait Disorders Detection From Different Views2019

    • Author(s)
      A. Elkholy, Y. Makihara, W. Gomaa, M.A.R. Ahad, Y. Yagi
    • Organizer
      The 41st Engineering in Medicine and Biology Conference
    • Int'l Joint Research
  • [Presentation] On The Feasibility of On-Body Roaming Models in Human Activity Recognition2019

    • Author(s)
      M. Abduaguye, W. Gomaa, Y. Makihara, Y. Yagi
    • Organizer
      The 16th International Conference on Informatics in Control, Automation and Robotics
    • Int'l Joint Research
  • [Presentation] 歩容による疲労判定に向けて:データ収集と基礎解析2019

    • Author(s)
      西川 博文, 青木 工太, 村松 大吾, 槇原 靖, 武村 紀子, 八木 康史
    • Organizer
      第22回 画像の認識・理解シンポジウム
  • [Presentation] マルチタスク学習を用いたユーザの心象とシステムの話題継続可否の予測モデルの構築2019

    • Author(s)
      平野 裕貴, 岡田 将吾, 西本 遥人, 駒谷 和範
    • Organizer
      電子情報通信学会 HCS/VNV研究会
  • [Presentation] 複数の主観評定を付与した人システム間マルチモーダル対話データの収集と分析2019

    • Author(s)
      駒谷 和範, 岡田 将吾
    • Organizer
      電子情報通信学会 HCS/VNV研究会
  • [Presentation] 歩行映像解析による体組成推定に関する一検討2019

    • Author(s)
      廖 若辰, 守脇 幸佑, 槇原 靖, 村松 大吾, 武村 紀子, 八木 康史
    • Organizer
      2019年9月コンピュータビジョンとイメージメディア研究会
  • [Presentation] 相互制約付き動的計画法による歩行位相分割2019

    • Author(s)
      安川 洵, 槇原 靖,細井 利憲,久保 雅洋,八木 康史
    • Organizer
      2019年9月コンピュータビジョンとイメージメディア研究会
  • [Presentation] Make the Bag Disappear: Carrying Status-invariant Gait-based Human Age Estimation using Parallel Generative Adversarial Networks2019

    • Author(s)
      X. Li, Y. Makihara, C. Xu, Y. Yagi, M. Ren
    • Organizer
      The IEEE 10th International Conference on Biometrics: Theory, Applications and Systems
    • Int'l Joint Research
  • [Presentation] 様々な観測視点歩行映像からの人物属性推定2019

    • Author(s)
      阪田 篤哉, ホサイン シャヘラ, 村松 大吾, 槇原 靖, 八木 康史
    • Organizer
      2019年10月バイオメトリクス研究会
  • [Presentation] Multitask Prediction of Exchange-level Annotations for Multimodal Dialogue Systems2019

    • Author(s)
      Y. Hirano, S. Okada, H. Nishimoto, K. Komatani
    • Organizer
      The 21st ACM International Conference on Multimodal Interaction
    • Int'l Joint Research
  • [Presentation] Determining Iconic Gesture Forms Based on Entity Image Representation2019

    • Author(s)
      F. Nihei, Y. Nakano, R. Higashinaka, R. Ishii
    • Organizer
      The 21st ACM International Conference on Multimodal Interaction
    • Int'l Joint Research
  • [Presentation] Online processing for speech-driven gesture motion generation in android robots2019

    • Author(s)
      C. T. Ishi, R. Mikata, T. Minato, H. Ishiguro
    • Organizer
      The 2019 IEEE-RAS International Conference on Humanoid Robots
    • Int'l Joint Research
  • [Presentation] User-aware dialogue systems with adaptive responses2019

    • Author(s)
      Kazunori Komatani
    • Organizer
      The 12th International Conference on Natural Language Generation
    • Int'l Joint Research / Invited
  • [Presentation] 対話システムの文体とキャラクタ性2019

    • Author(s)
      東中竜一郎
    • Organizer
      語彙・辞書研究会
    • Invited
  • [Presentation] Joint Intensity and Spatial Metric Learning for Robust Gait Recognition2019

    • Author(s)
      Y. Makihara
    • Organizer
      The 2019 International workshop on human identification at a distance
    • Int'l Joint Research
  • [Presentation] Does My Gait Look Nice? Human Perception-based Gait Relative Attributes Estimation by Dense Trajectory Analysis2019

    • Author(s)
      A.S. Hassanein, Y. Hayashi, Y. Makihara, D. Muramatsu, Y. Yagi
    • Organizer
      The 5th Asian Conference on Pattern Recognition
    • Int'l Joint Research
  • [Presentation] 雑談対話システムをどう評価すべきか -TripiaBotのライブコンペ予選通過から考える-.2019

    • Author(s)
      稲葉 通将
    • Organizer
      第87回言語・音声理解と対話処理研究会(第10回対話システムシンポジウム)
  • [Presentation] ユーザに上手に説得される人狼知能対話システムの構築2019

    • Author(s)
      稲葉 通将
    • Organizer
      第87回言語・音声理解と対話処理研究会(第10回対話システムシンポジウム)
  • [Presentation] 対話システムライブコンペティション22019

    • Author(s)
      東中 竜一郎, 船越 孝太郎, 稲葉 通将, 角森 唯子, 高橋 哲朗, 赤間 怜奈, 宇佐美 まゆみ, 川端 良子, 水上 雅博
    • Organizer
      第87回言語・音声理解と対話処理研究会(第10回対話システムシンポジウム)
  • [Presentation] おーぷん2ちゃんねる対話コーパスを用いた用例ベース対話システム2019

    • Author(s)
      稲葉 通将
    • Organizer
      第87回言語・音声理解と対話処理研究会(第10回対話システムシンポジウム)
  • [Presentation] 対話コーパスに基づく新たなシステム対話行為の設計の検討2019

    • Author(s)
      西本 遥人, 武田 龍, 駒谷 和範
    • Organizer
      第87回言語・音声理解と対話処理研究会(第10回対話システムシンポジウム)
  • [Presentation] 並列した敵対的生成ネットワークを用いた荷物所持状況変化に頑健な歩容による年齢推定2019

    • Author(s)
      槇原 靖
    • Organizer
      第9回バイオメトリクスと認識・認証シンポジウム
  • [Presentation] Problems in current chat oriented dialogue systems: naturalness and personality2019

    • Author(s)
      R. Higashinaka
    • Organizer
      The third Conversational AI workshop
    • Int'l Joint Research / Invited
  • [Presentation] Improving speech-based end-of-turn detection via cross-modal representation learning with punctuated text data2019

    • Author(s)
      R. Masumura, M. Ihori, T. Tanaka, A. Ando, R. Ishii, T. Oba, R. Higashinaka
    • Organizer
      The IEEE Automatic Speech Recognition and Understanding Workshop
    • Int'l Joint Research
  • [Presentation] On Gait Attributes: Age, Gender, and Attractiveness by Video-based Gait Analysis2019

    • Author(s)
      Y. Makihara
    • Organizer
      The 22nd International Conference on Computer and Information Technology
    • Int'l Joint Research
  • [Book] Pythonでつくる対話システム2020

    • Author(s)
      東中 竜一郎、稲葉 通将、水上 雅博
    • Total Pages
      232
    • Publisher
      オーム社
    • ISBN
      4274224791

URL: 

Published: 2021-12-27  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi