• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 前のページに戻る

対話ロボットにおける「社会的表出」の基盤技術の研究開発

公募研究

研究領域人間機械共生社会を目指した対話知能システム学
研究課題/領域番号 20H05576
研究種目

新学術領域研究(研究領域提案型)

配分区分補助金
審査区分 複合領域
研究機関株式会社国際電気通信基礎技術研究所

研究代表者

石井 カルロス寿憲  株式会社国際電気通信基礎技術研究所, 石黒浩特別研究所, グループリーダー (30418529)

研究期間 (年度) 2020-04-01 – 2022-03-31
研究課題ステータス 完了 (2021年度)
配分額 *注記
23,270千円 (直接経費: 17,900千円、間接経費: 5,370千円)
2021年度: 11,700千円 (直接経費: 9,000千円、間接経費: 2,700千円)
2020年度: 11,570千円 (直接経費: 8,900千円、間接経費: 2,670千円)
キーワード音声情報処理 / 非言語情報処理 / パラ言語情報処理 / 人ロボットインタラクション / 音環境知能 / 社会的表出 / 動作生成 / アンドロイド / 人型ロボット / 対話状況認識
研究開始時の研究の概要

従来のロボットやエージェントは、状況に合った適切な表出ができず、話し方もその動作も単調で人間らさが十分でない。本研究では、対話相手や状況に応じて人はどのように表出を変えるのかを表現できる「社会的表出」(Social Expression, SE)の数理モデルを明らかにし、それをロボットやエージェントとのインタラクションに実装する。インタラクションに関連する話し方および振る舞い方のパラメータを重視し、深層学習技術などに基づいたSEモデルの学習とその効果の検証を実施する。この研究により、人はロボットやエージェントとより自然に関われるようになり、ロボットやエージェントの利用範囲が格段に広がる。

研究実績の概要

本研究では、発話に伴う人間らしい自然な話し方と動作を持つ対話ロボット・エージェントの実現を目的とする。特に、対話相手や状況に応じて人はどのように表出を変えるのかを表現できる「社会的表出」の数理モデルを明らかにし、それをロボットやエージェントとのインタラクションに実装することを目指している。
初年度は、アンドロイドの丁寧な表出や怒りの表出について、人らしい振る舞いを実装し、ロボットが人を説得するタスクにおいて、どのような振る舞いが適しているのかについて評価実験を行ってきた。また、状況に合った視線制御のために3者対話に現れる視線および視線逸らしの理由の分析や、対話状況認識の観点から、深層学習による感情音声認識、ロボットに向けた暴言と冗談の識別などの研究にも取り組んできた。
今年度は、視線動作およびジェスチャ生成による個性の表出に取り組んだ。視線制御においては、眼球の動きも考慮し、3者対話データから参与役割を考慮した視線対象および視線逸らしの割合の分布および時間分布、視線を逸らした際の黒目の向きの分布を話者ごとに算出した。これらの分布をもとに、小型ロボットCommUに視線動作を実装し、被験者実験による印象評定を行った。外向性が異なる2人の話者のモデルによって生成した視線動作を評価した結果、同じ音声でも外向性の印象が変わることを確認した。
ジェスチャ生成においては、入力音声から抽出される韻律特徴を条件としたWGANによる手振りジェスチャを生成する深層学習モデルを構築し、人らしい自然な動作を生成できることを確認した。また、このモデルを拡張して、手の動きの大きさ・速さによって分類された3つのカテゴリーのラベルを条件に加えてモデルを再学習した。各カテゴリーを入力した際の動作を印象評定した結果、外向性の印象と相関した動作が生成できることをCGアバターおよび小型ロボットCommUにおいて確認した。

現在までの達成度 (段落)

令和3年度が最終年度であるため、記入しない。

今後の研究の推進方策

令和3年度が最終年度であるため、記入しない。

報告書

(2件)
  • 2021 実績報告書
  • 2020 実績報告書
  • 研究成果

    (26件)

すべて 2021 2020

すべて 雑誌論文 (14件) (うち査読あり 12件、 オープンアクセス 2件) 学会発表 (12件) (うち国際学会 10件)

  • [雑誌論文] 日本語・中国語態度音声の音響分析及び声質分析2021

    • 著者名/発表者名
      李キンゲツ・石井カルロス寿憲・林良子
    • 雑誌名

      日本音響学会誌

      巻: 77 号: 2 ページ: 112-119

    • DOI

      10.20697/jasj.77.2_112

    • NAID

      130007993002

    • ISSN
      0369-4232, 2432-2040
    • 年月日
      2021-02-01
    • 関連する報告書
      2021 実績報告書 2020 実績報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] Advocating Attitudinal Change Through Android Robot's Intention-Based Expressive Behaviors: Toward WHO COVID-19 Guidelines Adherence2021

    • 著者名/発表者名
      Ajibo Chinenye Augustine、Ishi Carlos Toshinori、Ishiguro Hiroshi
    • 雑誌名

      IEEE Robotics and Automation Letters

      巻: 6 号: 4 ページ: 6521-6528

    • DOI

      10.1109/lra.2021.3094783

    • 関連する報告書
      2021 実績報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] Enabling Robots to Distinguish Between Aggressive and Joking Attitudes2021

    • 著者名/発表者名
      Maehama Kota、Even Jani、Ishi Carlos Toshinori、Kanda Takayuki
    • 雑誌名

      IEEE Robotics and Automation Letters

      巻: 6 号: 4 ページ: 8037-8044

    • DOI

      10.1109/lra.2021.3102974

    • 関連する報告書
      2021 実績報告書
    • 査読あり
  • [雑誌論文] 3D skeletal movement-enhanced emotion recognition networks2021

    • 著者名/発表者名
      Shi Jiaqi、Liu Chaoran、Ishi Carlos Toshinori、Ishiguro Hiroshi
    • 雑誌名

      APSIPA Transactions on Signal and Information Processing

      巻: 10 号: 1 ページ: 1-12

    • DOI

      10.1017/atsip.2021.11

    • 関連する報告書
      2021 実績報告書
    • 査読あり
  • [雑誌論文] Modeling the Conditional Distribution of Co-Speech Upper Body Gesture Jointly Using Conditional-GAN and Unrolled-GAN2021

    • 著者名/発表者名
      Wu Bowen、Liu Chaoran、Ishi Carlos Toshinori、Ishiguro Hiroshi
    • 雑誌名

      Electronics

      巻: 10 号: 3 ページ: 228-228

    • DOI

      10.3390/electronics10030228

    • 関連する報告書
      2021 実績報告書 2020 実績報告書
    • 査読あり
  • [雑誌論文] MAEC: Multi-Instance Learning with an Adversarial Auto-Encoder-Based Classifier for Speech Emotion Recognition2021

    • 著者名/発表者名
      Fu Changzeng、Liu Chaoran、Ishi Carlos Toshinori、Ishiguro Hiroshi
    • 雑誌名

      Proc. IEEE International Conference on Acoustics, Speech and Signal Processing (ICASSP)

      巻: - ページ: 6299-6303

    • DOI

      10.1109/icassp39728.2021.9413640

    • 関連する報告書
      2021 実績報告書
    • 査読あり
  • [雑誌論文] Analysis of Eye Gaze Reasons and Gaze Aversions During Three-Party Conversations2021

    • 著者名/発表者名
      Ishi Carlos Toshinori、Shintani Taiken
    • 雑誌名

      Proc. Interspeech2021

      巻: - ページ: 1972-1976

    • DOI

      10.21437/interspeech.2021-2134

    • 関連する報告書
      2021 実績報告書
    • 査読あり
  • [雑誌論文] Probabilistic Human-like Gesture Synthesis from Speech using GRU-based WGAN2021

    • 著者名/発表者名
      Wu Bowen、Liu Chaoran、Ishi Carlos T.、Ishiguro Hiroshi
    • 雑誌名

      Proc. of the 2021 International Conference on Multimodal Interaction (ICMI '21)

      巻: - ページ: 194-201

    • DOI

      10.1145/3461615.3485407

    • 関連する報告書
      2021 実績報告書
  • [雑誌論文] Analysis of Role-Based Gaze Behaviors and Gaze Aversions, and Implementation of Robot’s Gaze Control for Multi-party Dialogue2021

    • 著者名/発表者名
      Shintani Taiken、Ishi Carlos T.、Ishiguro Hiroshi
    • 雑誌名

      Proc. of the 9th International Conference on Human-Agent Interaction (HAI21)

      巻: - ページ: 332-336

    • DOI

      10.1145/3472307.3484653

    • 関連する報告書
      2021 実績報告書
  • [雑誌論文] An End-to-end Multitask Learning Model to Improve Speech Emotion Recognition2021

    • 著者名/発表者名
      Fu Changzeng、Liu Chaoran、Ishi Carlos Toshinori、Ishiguro Hiroshi
    • 雑誌名

      Proc. of 28th European Signal Processing Conference (EUSIPCO 2020)

      巻: 1 ページ: 1-5

    • DOI

      10.23919/eusipco47968.2020.9287484

    • 関連する報告書
      2020 実績報告書
    • 査読あり
  • [雑誌論文] Person-Directed Pointing Gestures and Inter-Personal Relationship: Expression of Politeness to Friendliness by Android Robots2020

    • 著者名/発表者名
      Ishi Carlos T.、Mikata Ryusuke、Ishiguro Hiroshi
    • 雑誌名

      IEEE Robotics and Automation Letters

      巻: 5 号: 4 ページ: 6081-6088

    • DOI

      10.1109/lra.2020.3011354

    • 関連する報告書
      2020 実績報告書
    • 査読あり
  • [雑誌論文] Multi-Modality Emotion Recognition Model with GAT-Based Multi-Head Inter-Modality Attention2020

    • 著者名/発表者名
      Fu Changzeng、Liu Chaoran、Ishi Carlos Toshinori、Ishiguro Hiroshi
    • 雑誌名

      Sensors

      巻: 20 号: 17 ページ: 4894-4894

    • DOI

      10.3390/s20174894

    • 関連する報告書
      2020 実績報告書
    • 査読あり
  • [雑誌論文] Analysis of body gestures in anger expression and evaluation in android robot2020

    • 著者名/発表者名
      Ajibo Chinenye Augustine、Ishi Carlos Toshinori、Mikata Ryusuke、Liu Chaoran、Ishiguro Hiroshi
    • 雑誌名

      Advanced Robotics

      巻: 34 号: 24 ページ: 1581-1590

    • DOI

      10.1080/01691864.2020.1855244

    • 関連する報告書
      2020 実績報告書
    • 査読あり
  • [雑誌論文] Skeleton-Based Emotion Recognition Based on Two-Stream Self-Attention Enhanced Spatial-Temporal Graph Convolutional Network2020

    • 著者名/発表者名
      Shi Jiaqi、Liu Chaoran、Ishi Carlos Toshinori、Ishiguro Hiroshi
    • 雑誌名

      Sensors

      巻: 21 号: 1 ページ: 205-205

    • DOI

      10.3390/s21010205

    • 関連する報告書
      2020 実績報告書
    • 査読あり
  • [学会発表] MAEC: Multi-Instance Learning with an Adversarial Auto-Encoder-Based Classifier for Speech Emotion Recognition2021

    • 著者名/発表者名
      C. Fu, C. Liu, C. T. Ishi and H. Ishiguro
    • 学会等名
      IEEE International Conference on Acoustics, Speech and Signal Processing (ICASSP)
    • 関連する報告書
      2021 実績報告書
    • 国際学会
  • [学会発表] Analysis of Eye Gaze Reasons and Gaze Aversions During Three-Party Conversations Recognition2021

    • 著者名/発表者名
      C. T. Ishi and T.Shintani
    • 学会等名
      Interspeech 2021
    • 関連する報告書
      2021 実績報告書
    • 国際学会
  • [学会発表] Probabilistic Human-like Gesture Synthesis from Speech using GRU-based WGAN2021

    • 著者名/発表者名
      B. Wu, C. Liu, C.T. Ishi, H. Ishiguro
    • 学会等名
      International Conference on Multimodal Interaction (ICMI '21)
    • 関連する報告書
      2021 実績報告書
    • 国際学会
  • [学会発表] Analysis of Role-Based Gaze Behaviors and Gaze Aversions, and Implementation of Robot's Gaze Control for Multi-party Dialogue2021

    • 著者名/発表者名
      T. Shintani, C.T. Ishi, H. Ishiguro
    • 学会等名
      International Conference on Human-Agent Interaction (HAI21)
    • 関連する報告書
      2021 実績報告書
    • 国際学会
  • [学会発表] Advocating Attitudinal Change Through Android Robot's Intention-Based Expressive Behaviors: Toward WHO COVID-19 Guidelines Adherence2021

    • 著者名/発表者名
      C. A. Ajibo, C.T. Ishi and H. Ishiguro
    • 学会等名
      IROS2021
    • 関連する報告書
      2021 実績報告書
    • 国際学会
  • [学会発表] Enabling Robots to Distinguish Between Aggressive and Joking Attitudes2021

    • 著者名/発表者名
      K. Maehama, J. Even, C.T. Ishi, T. Kanda
    • 学会等名
      IROS2021
    • 関連する報告書
      2021 実績報告書
    • 国際学会
  • [学会発表] 3D Skeletal Movement Enhanced Emotion Recognition Network2020

    • 著者名/発表者名
      J. Shi, C. Liu, C.T. Ishi, H. Ishiguro
    • 学会等名
      Asia-Pacific Signal and Information Processing Association (Annual Summit and Conference 2020)
    • 関連する報告書
      2020 実績報告書
    • 国際学会
  • [学会発表] Person-directed pointing gestures and inter-personal relationship: Expression of politeness to friendliness by android robots2020

    • 著者名/発表者名
      C.T. Ishi, R. Mikata, H. Ishiguro
    • 学会等名
      International Conference on Intelligent Robots and Systems (IROS 2020)
    • 関連する報告書
      2020 実績報告書
    • 国際学会
  • [学会発表] AAEC: An Adversarial Autoencoder-based Classifier for Audio Emotion Recognition2020

    • 著者名/発表者名
      C. Fu, J. Shi, C. Liu, C.T. Ishi, H. Ishiguro
    • 学会等名
      MuSe 2020-The Multimodal Sentiment in Real-life Media Challenge (Conference: ACM Multimedia Conference 2020)
    • 関連する報告書
      2020 実績報告書
    • 国際学会
  • [学会発表] An End-to-End Multitask Learning Model to Improve Speech Emotion Recognition2020

    • 著者名/発表者名
      C. Fu, C. Liu, C.T. Ishi and H. Ishiguro
    • 学会等名
      28th European Signal Processing Conference (EUSIPCO 2020)
    • 関連する報告書
      2020 実績報告書
    • 国際学会
  • [学会発表] Improving Conditional-GAN using Unrolled-GAN for the Generation of Co-speech Upper Body Gesture2020

    • 著者名/発表者名
      Bowen Wu, Chaoran Liu, Carlos Ishi, Hiroshi Ishiguro
    • 学会等名
      第57回人工知能学会 AI チャレンジ研究会
    • 関連する報告書
      2020 実績報告書
  • [学会発表] 複数人対話における役割に応じた視線のふるまいの解析とロボットへの実装2020

    • 著者名/発表者名
      新谷 太健, 石井カルロス寿憲, 石黒 浩
    • 学会等名
      第57回人工知能学会 AI チャレンジ研究会
    • 関連する報告書
      2020 実績報告書

URL: 

公開日: 2020-04-28   更新日: 2023-12-25  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi