• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 前のページに戻る

感情の連続的な変化を推定するリアルタイムマルチモーダル感情認識システムの構築

研究課題

研究課題/領域番号 17K00160
研究種目

基盤研究(C)

配分区分基金
応募区分一般
研究分野 マルチメディア・データベース
研究機関千葉工業大学 (2019-2021)
帝京大学 (2017-2018)

研究代表者

有本 泰子  千葉工業大学, 情報科学部, 准教授 (60586957)

研究期間 (年度) 2017-04-01 – 2022-03-31
研究課題ステータス 完了 (2021年度)
配分額 *注記
4,680千円 (直接経費: 3,600千円、間接経費: 1,080千円)
2020年度: 390千円 (直接経費: 300千円、間接経費: 90千円)
2019年度: 1,170千円 (直接経費: 900千円、間接経費: 270千円)
2018年度: 1,560千円 (直接経費: 1,200千円、間接経費: 360千円)
2017年度: 1,560千円 (直接経費: 1,200千円、間接経費: 360千円)
キーワード感情認識 / マルチモダリティ / 音声 / 表情 / 心拍 / 発汗 / 機械学習 / テキスト / マルチモーダル感情認識 / オンライン対話 / 生理反応 / 自然言語処理 / 生理反応計測 / 音声言語情報処理 / 表情分析 / 自律神経系反応計測 / 表情筋分析 / 音声コーパス / 感情推定 / オンラインチャット / マルチモーダル / 感情 / 音声・表情 / 自律神経系反応
研究成果の概要

マルチモーダルオンライン対話データに含まれる感情3次元の評価値を正解とし,計測した話者の表情・音声・自律神経系反応から3次元の感情(快ー不快,覚醒ー睡眠,支配ー服従)を推定するモデルを構築し,その検証を行った。その結果,テキストチャット場面の感情推定モデルでは,正解となる感情の評価値と推定値との誤差が快-不快で0.32,覚醒-睡眠および支配-服従では0.36となった。また,音声チャット場面のモデルでは,平均二乗誤差(MSE)が快ー不快で0.121,覚醒ー睡眠で0.161,支配ー服従で0.164となった。さらに,リアルタイムに話者の情報を取得し,話者の感情を推定するシステムの実装を行なった。

研究成果の学術的意義や社会的意義

本研究の成果により,オンライン対話場面において,欠落する感情を補完する仕組みを実現することが可能となる。例えば,インターネットを利用した音声チャットやテキストチャットにおける対話場面で,本システムの感情推定技術を用いれば,話者の感情を推定した結果を対話相手に提示することができる。新型コロナウィルスの蔓延により,顧客との打合せや大学の授業などもオンライン環境下で行うようになった。オンライン環境下で感情コミュニケーションに齟齬が生じ,本来の目的を達成することに困難を感じることも多い。本研究課題で構築するシステムは,こうした問題を解決しうる世界初のリアルタイムマルチモーダル感情推定システムとなる。

報告書

(6件)
  • 2021 実績報告書   研究成果報告書 ( PDF )
  • 2020 実施状況報告書
  • 2019 実施状況報告書
  • 2018 実施状況報告書
  • 2017 実施状況報告書
  • 研究成果

    (26件)

すべて 2022 2021 2020 2019 2018 2017

すべて 雑誌論文 (2件) (うち査読あり 2件、 オープンアクセス 2件) 学会発表 (24件) (うち国際学会 5件、 招待講演 3件)

  • [雑誌論文] 自然で表現豊かな笑い声合成に向けた感情情報からの笑い声の構成要素決定法2022

    • 著者名/発表者名
      有本 泰子、今西 利於、森 大毅
    • 雑誌名

      情報処理学会論文誌

      巻: 63 号: 4 ページ: 1159-1169

    • DOI

      10.20729/00217618

    • 年月日
      2022-04-15
    • 関連する報告書
      2021 実績報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] 感情音声コーパス共通化のための新たな感情ラベル推定における既存感情ラベル併用の効果2017

    • 著者名/発表者名
      永岡 篤、森 大毅、有本 泰子
    • 雑誌名

      日本音響学会誌

      巻: 73 号: 11 ページ: 682-693

    • DOI

      10.20697/jasj.73.11_682

    • NAID

      130006729541

    • ISSN
      0369-4232, 2432-2040
    • 関連する報告書
      2017 実施状況報告書
    • 査読あり / オープンアクセス
  • [学会発表] Acoustic discriminability of unconscious laughter and scream during game-play2022

    • 著者名/発表者名
      Takuto Matasuda and Yoshiko Arimoto
    • 学会等名
      Speech Prosody 2022
    • 関連する報告書
      2021 実績報告書
    • 国際学会
  • [学会発表] Speech laugh が発生しやすい調音に関する対話ドメイン依存性の検証2022

    • 著者名/発表者名
      阿部将士, 有本泰子
    • 学会等名
      日本音響学会2022年春季研究発表会講演論文集
    • 関連する報告書
      2021 実績報告書
  • [学会発表] WaveNetによる叫び声合成の実現に向けたコンテキストラベルの検討2022

    • 著者名/発表者名
      土井敦也, 有本泰子
    • 学会等名
      日本音響学会2022年春季研究発表会講演論文集
    • 関連する報告書
      2021 実績報告書
  • [学会発表] CNN-LSTM モデルを使用したゲーム場面の笑い声と叫び声検出モデルの構築2022

    • 著者名/発表者名
      松田匠翔, 有本泰子
    • 学会等名
      日本音響学会2022年春季研究発表会講演論文集
    • 関連する報告書
      2021 実績報告書
  • [学会発表] ゲーム場面の笑い声・叫び声に対する音響的識別可能性の検証2021

    • 著者名/発表者名
      松田匠翔, 有本泰子
    • 学会等名
      日本音響学会2021年秋季研究発表会講演論文集
    • 関連する報告書
      2021 実績報告書
  • [学会発表] プレイヤーの無意識な笑い声に対して生成されるゲームイベントの効果に関する生理心理学的検証2021

    • 著者名/発表者名
      福田樹人, 有本泰子
    • 学会等名
      電子情報通信学会HCGシンポジウム2021論文集
    • 関連する報告書
      2021 実績報告書
  • [学会発表] Speech laughが発生しやすい調音に関する音声学的分析2021

    • 著者名/発表者名
      有本泰子, 阿部将士, 津田逸成
    • 学会等名
      日本音響学会2021年秋季研究発表会講演論文集
    • 関連する報告書
      2021 実績報告書
  • [学会発表] オンライン時代の感情コミュニケーション2021

    • 著者名/発表者名
      有本泰子
    • 学会等名
      第12回産業日本語研究会・シンポジウム パネルディスカッション
    • 関連する報告書
      2020 実施状況報告書
    • 招待講演
  • [学会発表] ゲームプレイ中に表出した社会的な笑い声のラベリングとその音響分析2020

    • 著者名/発表者名
      小山俊樹, 有本泰子
    • 学会等名
      日本音響学会2020年春季研究発表会講演論文集
    • 関連する報告書
      2019 実施状況報告書
  • [学会発表] 音響的特徴量によるゲームプレイ中の叫び声の識別2020

    • 著者名/発表者名
      金子裕亮, 有本泰子
    • 学会等名
      日本音響学会2020年春季研究発表会講演論文集
    • 関連する報告書
      2019 実施状況報告書
  • [学会発表] ゲームプレイ中の笑い声検出モデルの構築2020

    • 著者名/発表者名
      クー ユエン, 有本泰子
    • 学会等名
      日本音響学会2020年春季研究発表会講演論文集
    • 関連する報告書
      2019 実施状況報告書
  • [学会発表] Conversational and Social Laughter Synthesis with WaveNet.2019

    • 著者名/発表者名
      H. Mori, T. Nagata, and Y. Arimoto
    • 学会等名
      Interspeech 2019
    • 関連する報告書
      2019 実施状況報告書
    • 国際学会
  • [学会発表] Affect Burst検出に向けた笑い声および叫び声ラベリングとその音響分析に関する予備的検討2019

    • 著者名/発表者名
      有本泰子, クー ユエン, 小山俊樹, 金子裕亮
    • 学会等名
      電子情報通信学会技術研究報告
    • 関連する報告書
      2019 実施状況報告書
  • [学会発表] 音響的特徴量によるゲームプレイ中の笑い声分類モデルの構築2019

    • 著者名/発表者名
      クー ユエン, 加茂直樹, 有本泰子
    • 学会等名
      日本音響学会2019年秋季研究発表会講演論文集
    • 関連する報告書
      2019 実施状況報告書
  • [学会発表] キャラクターエージェントに対する他者性認知の客観的評価2019

    • 著者名/発表者名
      有本泰子, 野村直人, 加茂直樹
    • 学会等名
      日本音響学会2019年春季研究発表会
    • 関連する報告書
      2018 実施状況報告書
  • [学会発表] WaveNetによる笑い声の合成2018

    • 著者名/発表者名
      森大毅, 永田智洋, 有本泰子
    • 学会等名
      日本音響学会2018年秋季研究発表会
    • 関連する報告書
      2018 実施状況報告書
  • [学会発表] 対話中に表出した笑い声の声質分析2018

    • 著者名/発表者名
      有本泰子, 森大毅
    • 学会等名
      日本音響学会2018年秋季研究発表会
    • 関連する報告書
      2018 実施状況報告書
  • [学会発表] 感情知覚に対するセンシティビティが異なる評価者群による感情評定値の比較2018

    • 著者名/発表者名
      有本泰子
    • 学会等名
      日本音響学会2018年春季研究発表会講演論文集
    • 関連する報告書
      2017 実施状況報告書
  • [学会発表] Challenges of Building an Authentic Emotional Speech Corpus of Spontaneous Japanese Dialog2018

    • 著者名/発表者名
      Y. Arimoto
    • 学会等名
      The International Conference on Language Resources and Evaluation (LREC2018)
    • 関連する報告書
      2017 実施状況報告書
    • 国際学会 / 招待講演
  • [学会発表] Consistency of base frequency labelling for the F0 contour generation model using expressive emotional speech corpora2018

    • 著者名/発表者名
      Y. Arimoto, Y. Horiuchi, and S. Ohno
    • 学会等名
      Speech Prosody 2018
    • 関連する報告書
      2017 実施状況報告書
    • 国際学会
  • [学会発表] 感情音声コーパスの構築と利用:いかにして生の感情を対象に研究を行うか2017

    • 著者名/発表者名
      有本泰子
    • 学会等名
      音声資源活用シンポジウム2017
    • 関連する報告書
      2017 実施状況報告書
    • 招待講演
  • [学会発表] Emotion category mapping to emotional space by cross-corpus emotion labeling2017

    • 著者名/発表者名
      Y. Arimoto and H. Mori
    • 学会等名
      Interspeech 2017,
    • 関連する報告書
      2017 実施状況報告書
    • 国際学会
  • [学会発表] 複数の会話コーパスを対象とした笑い声イベントのアノテーション2017

    • 著者名/発表者名
      森大毅, 有本泰子, 永田智洋
    • 学会等名
      日本音響学会2017年秋季研究発表会講演論文集
    • 関連する報告書
      2017 実施状況報告書
  • [学会発表] 藤崎モデルのパラメータ推定におけるマイクロプロソディ除去による効果の検討2017

    • 著者名/発表者名
      佐久間結,堀内靖雄,有本泰子,大野澄雄,黒岩眞吾
    • 学会等名
      日本音響学会2017年秋季研究発表会講演論文集
    • 関連する報告書
      2017 実施状況報告書

URL: 

公開日: 2017-04-28   更新日: 2023-01-30  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi