• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 課題ページに戻る

2020 年度 実績報告書

対話ロボットにおける「社会的表出」の基盤技術の研究開発

公募研究

研究領域人間機械共生社会を目指した対話知能システム学
研究課題/領域番号 20H05576
研究機関株式会社国際電気通信基礎技術研究所

研究代表者

石井 カルロス寿憲  株式会社国際電気通信基礎技術研究所, 石黒浩特別研究所, グループリーダー (30418529)

研究期間 (年度) 2020-04-01 – 2022-03-31
キーワード社会的表出 / 動作生成 / アンドロイド / 人型ロボット / 対話状況認識
研究実績の概要

従来のロボットやエージェントは、状況に合った適切な表出ができず、話し方もその動作も単調で人間らさが十分でない。本研究では、発話に伴う、人間らしい自然な話し方と動作を持つ対話ロボット・エージェントの実現を目的とする。特に、対話相手や状況に応じて人はどのように表出を変えるのかを表現できる「社会的表出」の数理モデルを明らかにし、それをロボットやエージェントとのインタラクションに実装することを目指している。
本研究開発の初年度には、特定の状況において、発話に伴う振る舞いの表出がどのように変わるのかを分析し、ロボットに表出した際に印象がどのように変わるのかを検証してきた。まず、指示ジェスチャの種類と対人関係による使い分けにおいて、手の形、手の向き、言語形式、手の動きの速度などのさまざまなファクタの影響を調べるために、アンドロイドロボット(ERICA)に動作を制御し、振る舞いの丁寧さの印象と、対人関係による適切さについて評価を行った。怒り・不満・不快などのネガティブな感情・態度表出において、テレビドラマを題材に俳優の怒り表現の振る舞いを分析し、代表的な動作をアンドロイドロボットに実装した。印象評価を行った結果、生成した動作により、怒り度合いの印象が上がる効果を検証できた。GANに基づいた上半身・手振り動作の確率モデルの研究においては、バリエーションのある人らしい動作が生成できることを確認した。
マルチモーダル情報による対話状況認識においては、マルチモーダル情報(音声、テキスト、表情、手振りなど)によって、深層学習による感情認識モデルを提案・検証してきた。GATによるアテンションモデルや3次元骨格運動の導入法を提案し、感情クラス(怒り、喜び、悲しみ、平常)の識別率を向上することを確認した。

現在までの達成度 (区分)
現在までの達成度 (区分)

1: 当初の計画以上に進展している

理由

論文誌6件および国際会議発表4件、予定以上の成果が得られたため。
また、そうちの1件は、国際会議APSIPAにてBestPaperAwardを受賞した。

今後の研究の推進方策

今後は以下に記すように、それぞれの課題に対して発展させる予定である。
指示ジェスチャの種類と対人関係による使い分けにおける分析結果は相手や状況によるロボットの適切な振る舞いの生成に今後活用する。
怒り・不満・不快などのネガティブな感情・態度表出においては、この振る舞いにより、マスク着用の強要など、ロボットが怒りながら注意すべき状況における効果を調べている。
GANに基づいた上半身・手振り動作の確率モデルの研究においては、WGANによる学習の方が効果的であることを検証している。今後は、状況依存のconditionについて検討する予定である。対話状況に合わせた複数人対話の視線制御おいては、人同士の3者対話の視線分析により、対話における話者の役割(話し手、メインの聞き手、サブの聞き手)によって、ターンの変更がある時点の前後の視線の動きの分布を分析し、黒目と頭部の動きも考慮して、ロボット(CommU)の視線制御モデルを構築した。今後は、外部刺激(物音や光など)や個人差についてより詳細なモデルに拡張する予定である。
マルチモーダル情報による対話状況認識においては、これらの認識技術を人ロボットインタラクションに応用し、ロボット適切な表出の判断に活かす予定である。

  • 研究成果

    (13件)

すべて 2021 2020

すべて 雑誌論文 (7件) (うち査読あり 7件) 学会発表 (6件) (うち国際学会 4件)

  • [雑誌論文] 日本語・中国語態度音声の音響分析及び声質分析2021

    • 著者名/発表者名
      李 Xinyue、石井 カルロス寿憲、林 良子
    • 雑誌名

      日本音響学会誌

      巻: 77 ページ: 112~119

    • DOI

      10.20697/jasj.77.2_112

    • 査読あり
  • [雑誌論文] Modeling the Conditional Distribution of Co-Speech Upper Body Gesture Jointly Using Conditional-GAN and Unrolled-GAN2021

    • 著者名/発表者名
      Wu Bowen、Liu Chaoran、Ishi Carlos Toshinori、Ishiguro Hiroshi
    • 雑誌名

      Electronics

      巻: 10 ページ: 228~228

    • DOI

      10.3390/electronics10030228

    • 査読あり
  • [雑誌論文] An End-to-end Multitask Learning Model to Improve Speech Emotion Recognition2021

    • 著者名/発表者名
      Fu Changzeng、Liu Chaoran、Ishi Carlos Toshinori、Ishiguro Hiroshi
    • 雑誌名

      Proc. of 28th European Signal Processing Conference (EUSIPCO 2020)

      巻: 1 ページ: 1-5

    • DOI

      10.23919/Eusipco47968.2020.9287484

    • 査読あり
  • [雑誌論文] Person-Directed Pointing Gestures and Inter-Personal Relationship: Expression of Politeness to Friendliness by Android Robots2020

    • 著者名/発表者名
      Ishi Carlos T.、Mikata Ryusuke、Ishiguro Hiroshi
    • 雑誌名

      IEEE Robotics and Automation Letters

      巻: 5 ページ: 6081~6088

    • DOI

      10.1109/LRA.2020.3011354

    • 査読あり
  • [雑誌論文] Multi-Modality Emotion Recognition Model with GAT-Based Multi-Head Inter-Modality Attention2020

    • 著者名/発表者名
      Fu Changzeng、Liu Chaoran、Ishi Carlos Toshinori、Ishiguro Hiroshi
    • 雑誌名

      Sensors

      巻: 20 ページ: 4894~4894

    • DOI

      10.3390/s20174894

    • 査読あり
  • [雑誌論文] Analysis of body gestures in anger expression and evaluation in android robot2020

    • 著者名/発表者名
      Ajibo Chinenye Augustine、Ishi Carlos Toshinori、Mikata Ryusuke、Liu Chaoran、Ishiguro Hiroshi
    • 雑誌名

      Advanced Robotics

      巻: 34 ページ: 1581~1590

    • DOI

      10.1080/01691864.2020.1855244

    • 査読あり
  • [雑誌論文] Skeleton-Based Emotion Recognition Based on Two-Stream Self-Attention Enhanced Spatial-Temporal Graph Convolutional Network2020

    • 著者名/発表者名
      Shi Jiaqi、Liu Chaoran、Ishi Carlos Toshinori、Ishiguro Hiroshi
    • 雑誌名

      Sensors

      巻: 21 ページ: 205~205

    • DOI

      10.3390/s21010205

    • 査読あり
  • [学会発表] 3D Skeletal Movement Enhanced Emotion Recognition Network2020

    • 著者名/発表者名
      J. Shi, C. Liu, C.T. Ishi, H. Ishiguro
    • 学会等名
      Asia-Pacific Signal and Information Processing Association (Annual Summit and Conference 2020)
    • 国際学会
  • [学会発表] Person-directed pointing gestures and inter-personal relationship: Expression of politeness to friendliness by android robots2020

    • 著者名/発表者名
      C.T. Ishi, R. Mikata, H. Ishiguro
    • 学会等名
      International Conference on Intelligent Robots and Systems (IROS 2020)
    • 国際学会
  • [学会発表] AAEC: An Adversarial Autoencoder-based Classifier for Audio Emotion Recognition2020

    • 著者名/発表者名
      C. Fu, J. Shi, C. Liu, C.T. Ishi, H. Ishiguro
    • 学会等名
      MuSe 2020-The Multimodal Sentiment in Real-life Media Challenge (Conference: ACM Multimedia Conference 2020)
    • 国際学会
  • [学会発表] An End-to-End Multitask Learning Model to Improve Speech Emotion Recognition2020

    • 著者名/発表者名
      C. Fu, C. Liu, C.T. Ishi and H. Ishiguro
    • 学会等名
      28th European Signal Processing Conference (EUSIPCO 2020)
    • 国際学会
  • [学会発表] Improving Conditional-GAN using Unrolled-GAN for the Generation of Co-speech Upper Body Gesture2020

    • 著者名/発表者名
      Bowen Wu, Chaoran Liu, Carlos Ishi, Hiroshi Ishiguro
    • 学会等名
      第57回人工知能学会 AI チャレンジ研究会
  • [学会発表] 複数人対話における役割に応じた視線のふるまいの解析とロボットへの実装2020

    • 著者名/発表者名
      新谷 太健, 石井カルロス寿憲, 石黒 浩
    • 学会等名
      第57回人工知能学会 AI チャレンジ研究会

URL: 

公開日: 2022-12-28  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi