• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 課題ページに戻る

2017 年度 実施状況報告書

感情の連続的な変化を推定するリアルタイムマルチモーダル感情認識システムの構築

研究課題

研究課題/領域番号 17K00160
研究機関帝京大学

研究代表者

有本 泰子  帝京大学, 理工学部, 講師 (60586957)

研究期間 (年度) 2017-04-01 – 2021-03-31
キーワード音声コーパス / 感情推定 / オンラインチャット
研究実績の概要

機械学習によって構築するマルチモーダル感情推定モデルの学習・評価用データの整備を進めた。マルチモーダル感情推定モデルの構築には,これまでに収録した100名50組のマルチモーダルオンライン対話データを使用する。本データは,実際にシステムを応用する場面を想定し,友人同士の対話参加者に実際にオンラインチャットをさせ,その場面の話者の情報(表情・音声・自律神経系反応(表情筋・心拍・発汗))を記録している。コミュニケーションに利用可能なモダリティをコントロールし,比較するため,チャットの種類はビデオチャット・音声チャット・テキストチャットの3種類を用意し,参加者にはいずれかひとつのチャット環境で対話をさせている。さらに,対話参加者に自分自身と対話相手の感情3次元(快-不快,覚醒-睡眠,支配-服従)を対話の遷移に沿って,動的に評価をさせている。本対話データに含まれる大規模な情報を,感情推定モデルの入力値として利用する特徴量として計算し,マルチモーダル感情推定モデルの構築に利用可能な形に整備し直した。また,本研究に関連する研究成果として,推定対象とする感情の適切性について分析した結果を,国内の査読付き論文として1件,査読付き国際会議で1件の研究発表を行った。また,感情を推定する際の音声の特徴量に関して分析した結果を査読付き国際会議に採択され,2018年度に発表する予定である。さらに,本内容に関して招待講演を依頼され,国内のシンポジウムで1件,国際会議で1件の講演を行った。それ以外にも,関連する研究内容で3件の発表がある。

現在までの達成度 (区分)
現在までの達成度 (区分)

3: やや遅れている

理由

本対話データに含まれる大規模な情報を,マルチモーダル感情推定モデルの構築に利用可能な形に整備し直しているが,計測した多様な話者の情報(表情・音声・発汗・心拍・表情筋)および,評価実験によって得られた話者の感情情報を統合する作業に時間がかかっている。また,チャット場面もテキストチャット・音声チャット・ビデオチャットと3種類が存在し,その量も膨大であることが,若干の遅れの原因となっている。

今後の研究の推進方策

引き続き,マルチモーダルオンライン対話音声コーパスの整備を進めるとともに,マルチモーダルオンライン対話データに含まれる感情3次元の評価値を正解とし,計測した話者の表情・音声・自律神経系反応から感情を推定するモデルを構築する。本システムに実装する感情推定モデルは,対面コミュニケーション場面の感情推定の研究で,様々な手法を用いて検討を重ねており,表情・音声・心拍・発汗などのマルチモーダル情報を独立変数とした感情推定モデルを構築してきた,これまでの研究成果を参考に検討を重ねる予定である。

次年度使用額が生じた理由

国際会議における発表原稿の英文校閲費として計上した分の納品が4月以降にずれ込んだため,次年度使用額が発生した。
来年度の予算は,引き続きデータ整備を行うための費用・実装に向けたソフトウェアや機器の購入費として使用するとともに,採択されている査読付き国際会議の旅費などに充てる予定である。

  • 研究成果

    (8件)

すべて 2018 2017

すべて 雑誌論文 (1件) (うち査読あり 1件、 オープンアクセス 1件) 学会発表 (7件) (うち国際学会 3件、 招待講演 2件)

  • [雑誌論文] 感情音声コーパス共通化のための新たな感情ラベル推定における既存感情ラベル併用の効果2017

    • 著者名/発表者名
      永岡 篤、森 大毅、有本 泰子
    • 雑誌名

      日本音響学会誌

      巻: 73 ページ: 682~693

    • DOI

      https://doi.org/10.20697/jasj.73.11_682

    • 査読あり / オープンアクセス
  • [学会発表] 感情知覚に対するセンシティビティが異なる評価者群による感情評定値の比較2018

    • 著者名/発表者名
      有本泰子
    • 学会等名
      日本音響学会2018年春季研究発表会講演論文集
  • [学会発表] Challenges of Building an Authentic Emotional Speech Corpus of Spontaneous Japanese Dialog2018

    • 著者名/発表者名
      Y. Arimoto
    • 学会等名
      The International Conference on Language Resources and Evaluation (LREC2018)
    • 国際学会 / 招待講演
  • [学会発表] Consistency of base frequency labelling for the F0 contour generation model using expressive emotional speech corpora2018

    • 著者名/発表者名
      Y. Arimoto, Y. Horiuchi, and S. Ohno
    • 学会等名
      Speech Prosody 2018
    • 国際学会
  • [学会発表] 感情音声コーパスの構築と利用:いかにして生の感情を対象に研究を行うか2017

    • 著者名/発表者名
      有本泰子
    • 学会等名
      音声資源活用シンポジウム2017
    • 招待講演
  • [学会発表] Emotion category mapping to emotional space by cross-corpus emotion labeling2017

    • 著者名/発表者名
      Y. Arimoto and H. Mori
    • 学会等名
      Interspeech 2017,
    • 国際学会
  • [学会発表] 複数の会話コーパスを対象とした笑い声イベントのアノテーション2017

    • 著者名/発表者名
      森大毅, 有本泰子, 永田智洋
    • 学会等名
      日本音響学会2017年秋季研究発表会講演論文集
  • [学会発表] 藤崎モデルのパラメータ推定におけるマイクロプロソディ除去による効果の検討2017

    • 著者名/発表者名
      佐久間結,堀内靖雄,有本泰子,大野澄雄,黒岩眞吾
    • 学会等名
      日本音響学会2017年秋季研究発表会講演論文集

URL: 

公開日: 2018-12-17  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi