• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2021 Fiscal Year Annual Research Report

モジュール連動に基づく対話システム基盤技術の構築

Planned Research

Project AreaStudies on intelligent systems for dialogue toward the human-machine symbiotic society
Project/Area Number 19H05692
Research InstitutionNagoya University

Principal Investigator

東中 竜一郎  名古屋大学, 情報学研究科, 教授 (90396151)

Co-Investigator(Kenkyū-buntansha) 駒谷 和範  大阪大学, 産業科学研究所, 教授 (40362579)
宮尾 祐介  東京大学, 大学院情報理工学系研究科, 教授 (00343096)
稲葉 通将  電気通信大学, 人工知能先端研究センター, 准教授 (10636202)
港 隆史  株式会社国際電気通信基礎技術研究所, 石黒浩特別研究所, 客員研究員 (50359858)
槇原 靖  大阪大学, 産業科学研究所, 教授 (90403005)
Project Period (FY) 2019-06-28 – 2024-03-31
Keywords対話システム / モジュール連動 / 全体最適化
Outline of Annual Research Achievements

本研究課題は,現状の対話システムの基本構成を見直し,複数のモジュールが連動することでユーザや状況に応じてシステム全体の効用を最大化することを目的とする.具体的には,「課題 A. 他モジュールと連動した音声処理・マルチモーダル処理技術の確立」,「課題 B. 他モジュールと連動した言語理解・言語生成技術の確立」,「課題 C. 対話の効用に基づく複数モジュールのパラメタ最適化技術」,「課題 D. 複数モジュール間での連動プロトコルの設計およびシステム構築とその実証」の 4つの課題に取り組む.
課題 A については,話者の歩行映像に基づく年齢・性別のオンライン推定技術について,人体モデルに基づく手法を開発し,精度と安定性を向上させた.また,マルチモーダル情報を活用し,対話状況に合わせて応答や行動,機能を最適化させるための包括的な対話状況推定手法を実現した.
課題 B については,対話的図形編集とコード生成タスクを題材として,対話システムのためのセマンティックパージング技術を推進した.
課題 C については,あらゆるモジュールを連動させるための手法として,後処理ネットワークを提案し,その有効性を検証した.加えて,話者に合わせて対話の効用を最適化するため,話者の個性・対話行動とタスク達成の関係も明らかにした.
課題 D については,複数のモジュールが連動するためのプロトコル設計,モジュール連動プラットフォームの実装,および,システム構築を,対話ロボットコンペティションの開催を通して行った.本コンペティションは,アンドロイドを用いたコンペティションとしては世界初である.本コンペティションを通して,現時点での有効なモジュール連動の手法やシステム構築方法を明らかにすることができた.

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

課題A については,音声処理・マルチモーダル処理技術に関する基礎検討を進め,マルチモーダル情報を用いた,年齢・性別の推定技術の改善や,対話状況推定技術を実現することができた.
課題Bについては,言語理解・言語生成技術に関する基礎検討を進め,対話的図形編集とコード生成タスクを題材とした,対話システムのためのセマンティックパージング技術の開発を着実に進めることができた.
課題C については,各モジュールのパラメタの一部を最適化するための方法を提案し,その有効性を確認できた.また,モジュール連動の際に考慮すべき,話者の個性・対話行動を特定することができた.
課題D については,複数モジュール間での連動プロトコルの設計およびシステム構築とその実証として,対話ロボットコンペティションを実施し,予選・本選を滞りなく完了することができた.これにより,現時点での有効なモジュール連動の手法やシステム構築方法を明らかにすることができた.

Strategy for Future Research Activity

来年度は,本計画研究の各研究課題を進める上で根幹を成す要素技術およびそれらの連動手法について研究を進める.
課題Aについては,収集した対話データの分析を通じて,マルチモーダル情報を用いた認識性能と個人属性との関係性を明らかにする.特に,認識性能の低下が予想される状況や条件を調査し,モジュール間連動の手がかりとなるパラメタを見出す.これらの結果に基づいてモジュール性能の向上に向けた手法の検討を続ける.また,マルチモーダル情報を用いた話者属性推定のために,属性依存の人体モデルを用いた人物映像解析技術の開発に取り組む.
課題Bについては,対話的図形編集対話データを利用して,マルチモーダル情報を含むセマンティックパージングについて研究を進める.また,対話を含む広範なセマンティックパージングタスクに適用可能な解析技術,発話に暗黙的に含まれる感情認識を行う手法についても検討を行い,他モジュールと連動するための対話理解・言語生成モジュールの研究開発を進める.
課題Cについては,旅行代理店タスク対話データに対する新たなアノテーションを実施するとともに,これまでに収集したデータを用い,各モジュールのパラメタの一部を最適化するための方法のさらなる検討を進める.
課題Dについては,後処理ネットワークをあらゆるモジュールに適用できるように高度化するとともに,ユーザや対話状況から,ユーザ適応するアルゴリズムの検討を進める.また,対話ロボットコンペティションの営みを通して,モジュール連動システムの性能を対話ロボットの上で評価する.

  • Research Products

    (46 results)

All 2022 2021

All Journal Article (23 results) (of which Int'l Joint Research: 1 results,  Open Access: 18 results,  Peer Reviewed: 20 results) Presentation (21 results) (of which Int'l Joint Research: 8 results,  Invited: 8 results) Book (2 results)

  • [Journal Article] 対話ロボットコンペティションにおける音声対話システム構築2021

    • Author(s)
      東中 竜一郎、港 隆史、境 くりま、船山 智、西崎 博光、長井 隆行
    • Journal Title

      日本音響学会誌

      Volume: 77 Pages: 512~520

    • DOI

      10.20697/jasj.77.8_512

    • Open Access
  • [Journal Article] 雑談AIの日本語学習への適用可能性2021

    • Author(s)
      東中竜一郎
    • Journal Title

      日本語学

      Volume: 40 Pages: 28~41

  • [Journal Article] OS-11「人間と共生する対話知能」2021

    • Author(s)
      東中竜一郎、吉川雄一郎、新保史生
    • Journal Title

      人工知能

      Volume: 36 Pages: 739

  • [Journal Article] Integrated taxonomy of errors in chat-oriented dialogue systems2021

    • Author(s)
      Ryuichiro Higashinaka、Masahiro Araki、Hiroshi Tsukahara、Masahiro Mizukami
    • Journal Title

      Proceedings of the 22nd Annual Meeting of the Special Interest Group on Discourse and Dialogue

      Volume: - Pages: 89~98

    • Peer Reviewed / Open Access
  • [Journal Article] Influence of user personality on dialogue task performance: A case study using a rule-based dialogue system2021

    • Author(s)
      Ao Guo、Atsumoto Ohashi、Ryu Hirai、Yuya Chiba、Yuiko Tsunomori、Ryuichiro Higashinaka
    • Journal Title

      Proceedings of the 3rd Workshop on Natural Language Processing for Conversational AI

      Volume: - Pages: 263~270

    • Peer Reviewed / Open Access
  • [Journal Article] Data collection for detecting the unwillingness to answer questions in dialogue2021

    • Author(s)
      Kazumi Nagao、Ryuichiro Higashinaka、Kazuto Ataka
    • Journal Title

      Proceedings of the 12th International Workshop on Spoken Dialogue Systems

      Volume: - Pages: -

    • Peer Reviewed
  • [Journal Article] Dialogue Situation Recognition for Everyday Conversation Using Multimodal Information2021

    • Author(s)
      Chiba Yuya、Higashinaka Ryuichiro
    • Journal Title

      Proceedings of Interspeech 2021

      Volume: - Pages: 241~245

    • DOI

      10.21437/Interspeech.2021-171

    • Peer Reviewed / Open Access
  • [Journal Article] Variation across everyday conversations: Factor analysis of conversations using semantic categories of functional expressions2021

    • Author(s)
      Yuya Chiba、Ryuichiro Higashinaka
    • Journal Title

      Proceedings of the 35th Pacific Asia Conference on Language, Information and Computation

      Volume: - Pages: 479~488

    • Peer Reviewed / Open Access
  • [Journal Article] Detecting Lower MMSE Scores in Older Adults Using Cross-Trial Features From a Dual-Task With Gait and Arithmetic2021

    • Author(s)
      Wu Shuqiong、Matsuura Taku、Okura Fumio、Makihara Yasushi、Zhou Chengju、Aoki Kota、Mitsugami Ikuhisa、Yagi Yasushi
    • Journal Title

      IEEE Access

      Volume: 9 Pages: 150268~150282

    • DOI

      10.1109/ACCESS.2021.3126067

    • Peer Reviewed / Open Access
  • [Journal Article] Physical Fatigue Detection From Gait Cycles via a Multi-Task Recurrent Neural Network2021

    • Author(s)
      Aoki Kota、Nishikawa Hirofumi、Makihara Yasushi、Muramatsu Daigo、Takemura Noriko、Yagi Yasushi
    • Journal Title

      IEEE Access

      Volume: 9 Pages: 127565~127575

    • DOI

      10.1109/ACCESS.2021.3110841

    • Peer Reviewed / Open Access
  • [Journal Article] Gait Phase Partitioning and Footprint Detection Using Mutually Constrained Piecewise Linear Approximation with Dynamic Programming2021

    • Author(s)
      YASUKAWA Makoto、MAKIHARA Yasushi、HOSOI Toshinori、KUBO Masahiro、YAGI Yasushi
    • Journal Title

      IEICE Transactions on Information and Systems

      Volume: E104.D Pages: 1951~1962

    • DOI

      10.1587/transinf.2020ZDP7503

    • Peer Reviewed / Open Access
  • [Journal Article] Health Indicator Estimation by Video-Based Gait Analysis2021

    • Author(s)
      LIAO Ruochen、MORIWAKI Kousuke、MAKIHARA Yasushi、MURAMATSU Daigo、TAKEMURA Noriko、YAGI Yasushi
    • Journal Title

      IEICE Transactions on Information and Systems

      Volume: E104.D Pages: 1678~1690

    • DOI

      10.1587/transinf.2020ZDP7502

    • Peer Reviewed / Open Access
  • [Journal Article] Individuality-Preserving Silhouette Extraction for Gait Recognition and Its Speedup2021

    • Author(s)
      IWAMURA Masakazu、MORI Shunsuke、NAKAMURA Koichiro、TANOUE Takuya、UTSUMI Yuzuko、MAKIHARA Yasushi、MURAMATSU Daigo、KISE Koichi、YAGI Yasushi
    • Journal Title

      IEICE Transactions on Information and Systems

      Volume: E104.D Pages: 992~1001

    • DOI

      10.1587/transinf.2020ZDP7500

    • Peer Reviewed / Open Access
  • [Journal Article] Uncertainty-Aware Gait-Based Age Estimation and its Applications2021

    • Author(s)
      Xu Chi、Sakata Atsuya、Makihara Yasushi、Takemura Noriko、Muramatsu Daigo、Yagi Yasushi、Lu Jianfeng
    • Journal Title

      IEEE Transactions on Biometrics, Behavior, and Identity Science

      Volume: 3 Pages: 479~494

    • DOI

      10.1109/TBIOM.2021.3080300

    • Peer Reviewed / Open Access
  • [Journal Article] Action recognition using kinematics posture feature on 3D skeleton joint locations2021

    • Author(s)
      Ahad Md Atiqur Rahman、Ahmed Masud、Das Antar Anindya、Makihara Yasushi、Yagi Yasushi
    • Journal Title

      Pattern Recognition Letters

      Volume: 145 Pages: 216~224

    • DOI

      10.1016/j.patrec.2021.02.013

    • Peer Reviewed / Open Access / Int'l Joint Research
  • [Journal Article] Early Detection of Low Cognitive Scores from Dual-task Performance Data Using a Spatio-temporal Graph Convolutional Neural Network2021

    • Author(s)
      Wu Shuqiong、Okura Fumio、Makihara Yasushi、Aoki Kota、Niwa Masataka、Yagi Yasushi
    • Journal Title

      Proceedings of the 43rd Annual International Conference of the IEEE Engineering in Medicine and Biology Society

      Volume: - Pages: 1895~1901

    • DOI

      10.1109/EMBC46164.2021.9630304

    • Peer Reviewed / Open Access
  • [Journal Article] End-to-End Model-Based Gait Recognition2021

    • Author(s)
      Li Xiang、Makihara Yasushi、Xu Chi、Yagi Yasushi、Yu Shiqi、Ren Mingwu
    • Journal Title

      Proceedings of the 1st International Workshop on Human-centric Trustworthy Computer Vision: From Research to Applications

      Volume: - Pages: 3~20

    • DOI

      10.1007/978-3-030-69535-4_1

    • Peer Reviewed / Open Access
  • [Journal Article] Estimation of Gait Relative Attribute Distributions using a Differentiable Trade-off Model of Optimal and Uniform Transports2021

    • Author(s)
      Makihara Yasushi、Hayashi Yuta、Shehata Allam、Muramatsu Daigo、Yagi Yasushi
    • Journal Title

      Proceedings of the 5th International Joint Conf. on Biometrics

      Volume: - Pages: 1~8

    • DOI

      10.1109/IJCB52358.2021.9484362

    • Peer Reviewed / Open Access
  • [Journal Article] Age Estimation with Speech-Age Model for Heterogeneous Speech Datasets2021

    • Author(s)
      Takeda Ryu、Komatani Kazunori
    • Journal Title

      Proceedings of Interspeech 2021

      Volume: - Pages: 4164~4168

    • DOI

      10.21437/Interspeech.2021-861

    • Peer Reviewed / Open Access
  • [Journal Article] Multimodal Human-Agent Dialogue Corpus with Annotations at Utterance and Dialogue Levels2021

    • Author(s)
      Komatani Kazunori、Okada Shogo
    • Journal Title

      Proceedings of the 9th International Conference on Affective Computing & Intelligent Interaction

      Volume: - Pages: 1~8

    • DOI

      10.1109/ACII52823.2021.9597447

    • Peer Reviewed
  • [Journal Article] Multimodal User Satisfaction Recognition for Non-task Oriented Dialogue Systems2021

    • Author(s)
      Wei Wenqing、Li Sixia、Okada Shogo、Komatani Kazunori
    • Journal Title

      Proceedings of the 23rd International Conference on Multimodal Interaction

      Volume: - Pages: 586~594

    • DOI

      10.1145/3462244.3479928

    • Peer Reviewed / Open Access
  • [Journal Article] Recognizing Social Signals with Weakly Supervised Multitask Learning for Multimodal Dialogue Systems2021

    • Author(s)
      Hirano Yuki、Okada Shogo、Komatani Kazunori
    • Journal Title

      Proceedings of the 23rd International Conference on Multimodal Interaction

      Volume: - Pages: 141~149

    • DOI

      10.1145/3462244.3479927

    • Peer Reviewed / Open Access
  • [Journal Article] Design guidelines for developing systems for dialogue system competitions2021

    • Author(s)
      Kazunori Komatani、Ryu Takeda、Keisuke Nakashima、Mikio Nakano
    • Journal Title

      Proceedings of the 12th International Workshop on Spoken Dialogue Systems (IWSDS)

      Volume: - Pages: -

    • Peer Reviewed
  • [Presentation] 後処理ネットワークを用いた強化学習によるタスク指向型対話システムの最適化2022

    • Author(s)
      大橋厚元、東中竜一郎
    • Organizer
      言語処理学会 第28回年次大会
  • [Presentation] Minecraftでの人間同士の共同作業における対話の分析2022

    • Author(s)
      市川拓茉、東中竜一郎
    • Organizer
      言語処理学会 第28回年次大会
  • [Presentation] 対話システムライブコンペティションと対話ロボットコンペティションの概要2022

    • Author(s)
      東中竜一郎
    • Organizer
      情報処理学会 第141回音声言語情報処理研究発表会
    • Invited
  • [Presentation] End-to-end Model-based Gait Recognition using Synchronized Multi-view Pose Constraint2022

    • Author(s)
      X. Li、Y. Makihara、C. Xu、Y. Yagi
    • Organizer
      The 25th SANKEN International Symposium
    • Int'l Joint Research
  • [Presentation] Real-Time Gait-Based Age Estimation and Gender Classification from a Single Image2022

    • Author(s)
      C. Xu、Y. Makihara、R. Liao、H. Niitsuma、X. Li、Y. Yagi、J. Lu
    • Organizer
      The 25th SANKEN International Symposium
    • Int'l Joint Research
  • [Presentation] Video-based Gait Analysis and Its Applications2022

    • Author(s)
      Y. Makihara
    • Organizer
      The 11th International Workshop on Image Media Quality and its Applications
    • Int'l Joint Research / Invited
  • [Presentation] 対話システムにおけるマルチモーダル情報を用いた自己開示の可否判断2022

    • Author(s)
      奥野尚己、武田龍、駒谷和範
    • Organizer
      情報処理学会第84回全国大会
  • [Presentation] 対話ロボットとのオンライン対話を遠隔制御するシステムによる実験の取り組み2021

    • Author(s)
      港隆史、境くりま、船山智
    • Organizer
      第12回対話システムシンポジウム
  • [Presentation] 日常対話のユーザ情報取得におけるエラーリカバリ手法の検討2021

    • Author(s)
      大平義輝、内田貴久、港隆史、石黒浩
    • Organizer
      第35回人工知能学会全国大会
  • [Presentation] 強化学習を用いたモジュール連動に基づくタスク指向型対話システムの検討2021

    • Author(s)
      大橋厚元、東中竜一郎
    • Organizer
      人工知能学会全国大会論文集 第35回全国大会
  • [Presentation] 対話システムライブコンペティション42021

    • Author(s)
      東中竜一郎、船越孝太郎、高橋哲朗、稲葉通将、赤間怜奈、佐藤志貴、堀内颯太、ドルサテヨルス、小室允人、西川寛之、宇佐美まゆみ
    • Organizer
      人工知能学会 第93回 言語・音声理解と対話処理研究会
  • [Presentation] Leveraging the wisdom of the crowd to realize a character-like chatbot2021

    • Author(s)
      Ryuichiro Higashinaka
    • Organizer
      The 25th Workshop on the Semantics and Pragmatics of Dialogue
    • Int'l Joint Research / Invited
  • [Presentation] Challenges for chat-oriented dialogue systems---Experience from the dialogue breakdown detection challenge and the dialogue system live competition---2021

    • Author(s)
      Ryuichiro Higashinaka
    • Organizer
      The 7th Linguistic and Cognitive Approaches to Dialog Agents Workshop
    • Int'l Joint Research / Invited
  • [Presentation] 対話システムにおける共通基盤の構築2021

    • Author(s)
      東中竜一郎
    • Organizer
      第83回WIN定例講演会・第38回人間情報学会講演会
    • Invited
  • [Presentation] Estimation of Gait Relative Attribute Distributions using a Differentiable Trade-off Model of Optimal and Uniform Transports2021

    • Author(s)
      Y. Makihara、Y. Hayashi、A. Shehata、D. Muramatsu、Y. Yagi
    • Organizer
      第11回バイオメトリクスと認識・認証シンポジウム
  • [Presentation] 部分欠落および観測視点変化を含む歩容認証の頑健性評価2021

    • Author(s)
      辻 翔吾、槇原 靖、八木 康史
    • Organizer
      情報処理学会研究報告コンピュータビジョンとイメージメディア
  • [Presentation] Video-based Gait Analysis and Its Applications2021

    • Author(s)
      Y. Makihara
    • Organizer
      International Conference on Big Data, IoT and Machine Learning
    • Int'l Joint Research / Invited
  • [Presentation] Video-based Gait Analysis and Its Applications2021

    • Author(s)
      Y. Makihara
    • Organizer
      The 6th International Symposium on Artificial Intelligence and Robotics
    • Int'l Joint Research / Invited
  • [Presentation] On Gait Relative Attributes2021

    • Author(s)
      Y. Makihara
    • Organizer
      The 5th International Workshop on Symbolic-Neural Learning
    • Int'l Joint Research / Invited
  • [Presentation] システム発話間の整合性を重視した発話選択への深層強化学習の適用2021

    • Author(s)
      黒田佑樹、武田龍、駒谷和範
    • Organizer
      第12回対話システムシンポジウム
  • [Presentation] 多様な年代の話者による旅行代理店タスク対話コーパスの収集と分析2021

    • Author(s)
      稲葉通将、東中竜一郎、千葉祐弥、駒谷和範、宮尾祐介、長井隆行
    • Organizer
      第12回対話システムシンポジウム
  • [Book] Modeling Trust and Empathy for Socially Interactive Robots (Chapter 2) in Multimodal Agents for aging and multicultural societies2021

    • Author(s)
      Patrick Gebhard、Ruth Aylett、Ryuichiro Higashinaka、Kristiina Jokinen、Hiroki Tanaka、Koichiro Yoshino
    • Total Pages
      180
    • Publisher
      Springer Singapore
    • ISBN
      978-981-16-3475-8
  • [Book] Gait Recognition: Databases, Representations, and Applications (chapter) in Computer Vision: A Reference Guide 2nd edition2021

    • Author(s)
      Y. Makihara、M.S. Nixon、Y. Yagi
    • Total Pages
      1451
    • Publisher
      Springer
    • ISBN
      978-303-06-3415-5

URL: 

Published: 2023-12-25  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi