• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2021 Fiscal Year Annual Research Report

コミュニケーション支援を目的とした発話時の非接触情報による心情・体調変化の推定

Research Project

Project/Area Number 19K12909
Research InstitutionAkita University

Principal Investigator

景山 陽一  秋田大学, 理工学研究科, 教授 (40292362)

Project Period (FY) 2019-04-01 – 2022-03-31
Keywords非接触情報 / 心情変化 / 体調変化 / コミュニケーション支援 / 口唇の動き / 顔情報 / 熱赤外画像 / 機械学習
Outline of Annual Research Achievements

コミュニケーション支援を目的とし,発話時における非接触情報を用いた心情・体調変化の推定を行うため,以下の内容を実施した。なお,新型コロナウイルス感染症防止対策を十分に施してデータ取得や検討を行った。
①情動喚起映像(自然に感情が生じる映像)等を世代の異なる被験者(60代以上,20代)に提示して,心情変化が発生した条件下における口唇の動き特徴データ,顔の可視データ,並びに骨格座標データなどを取得した。得られたデータを対象として解析を行い,機械学習を用いた情動喚起発生区間検出法を提案しその有用性について検討を加えた。②表情解析において,新たな知識(未学習の表情パターン)を追加学習する際の表情特徴空間の更新処理法について検討を行い,その有用性を評価した。③頬や鼻などにおける顔表面の温度変化と情動喚起の程度との関連について解析を行った。その結果,心情・体調変化の程度と温度変化に関する知見を得た。また,故意表情と自然表情における温度変化解析も行い,その特徴を明らかにした。④口唇の動きと音声情報を用いて,発話者を推定する手法について検討を行った。最適な特徴量に関して検討を加えるとともに,選定した特徴量を用いる提案手法の汎用性を明らかにした。⑤CNN-LSTMを用いた口唇の動き特徴による発話内容の推定に関して検討を行った。発話における時系列的な口唇の動きから,母音を推定する際の有用な特徴量を選定するとともに,母音別の判別精度の傾向を明らかにした。⑥CNN-LSTMを用いた瞬き検出法を開発した。目の特徴を考慮した処理は検出精度の向上に寄与することを明らかにした。⑦情動喚起映像視聴時の骨格座標データを取得し,喜びや退屈を感じた際に生じる動作に関して解析を行った。

  • Research Products

    (24 results)

All 2022 2021

All Journal Article (2 results) (of which Peer Reviewed: 2 results) Presentation (22 results) (of which Int'l Joint Research: 2 results)

  • [Journal Article] LSTM-based Japanese Speaker Identification Using an Omnidirectional Camera and Voice Information2022

    • Author(s)
      E. Nakamura, Y. Kageyama, S. Hirose
    • Journal Title

      IEEJ Transactions on Electrical and Electronic Engineering

      Volume: 17 Pages: 674-684

    • DOI

      10.1002/tee.23555

    • Peer Reviewed
  • [Journal Article] Japanese Syllable Estimation using Lip and Chin Movements2022

    • Author(s)
      E. Nakamura, Y. Honda, Y. Kageyama, S. Hirose
    • Journal Title

      IEEJ Transactions on Electrical and Electronic Engineering

      Volume: 17 Pages: 掲載決定

    • Peer Reviewed
  • [Presentation] Facial Feature Points for Japanese Speech Content Estimation2022

    • Author(s)
      E. Nakamura, Y. Honda, Y. Kageyama, S. Hirose
    • Organizer
      The 2022 IEEE 4th Global Conference on Life Sciences and Technologies (LifeTech 2022)
    • Int'l Joint Research
  • [Presentation] 映像視聴時における情動と骨格座標を用いた体動との関連性に関する基礎検討2022

    • Author(s)
      沢田 玲奈, 景山 陽一, 石沢 千佳子
    • Organizer
      令和3年度日本知能情報ファジィ学会東北支部研究会
  • [Presentation] 非集中(退屈)状態の推定を目的とした皮膚温度の変化に関する基礎検討2022

    • Author(s)
      田中 太郎, 石沢 千佳子, 景山 陽一
    • Organizer
      令和3年度日本知能情報ファジィ学会東北支部研究会
  • [Presentation] 高齢者を対象とするeスポーツ実施時の瞬き検出手法の開発2022

    • Author(s)
      梅北 空良, 景山 陽一, 末廣 健二, 高橋 伸明, 佐竹 久美, 小林 拓也, 渡邉 文人, 佐藤 直子
    • Organizer
      令和3年度日本知能情報ファジィ学会東北支部研究会
  • [Presentation] 故意表情および自然表情を対象とした顔表面温度の比較2022

    • Author(s)
      山田 真奈, 景山 陽一
    • Organizer
      情報処理学会第84回全国大会
  • [Presentation] 高齢者を対象とするeスポーツ実施時の顔面皮膚温度解析2022

    • Author(s)
      三浦 有沙子, 景山 陽一, 白井 光, 石沢 千佳子, 末廣 健二, 高橋 伸明, 佐竹 久美, 小林 拓也, 渡邉 文人, 佐藤 直子
    • Organizer
      情報処理学会第84回全国大会
  • [Presentation] 表情認識の精度向上を目的とした適応学習法に関する検討2022

    • Author(s)
      高松 未佳, 石井 雅樹, 景山 陽一
    • Organizer
      情報処理学会第84回全国大会
  • [Presentation] 高齢者を対象とするeスポーツ実施時の顔色解析2022

    • Author(s)
      菊池 亮太, 景山 陽一, 白井 光, 石沢 千佳子, 末廣 健二, 高橋 伸明, 佐竹 久美, 小林 拓也, 渡邉 文人, 佐藤 直子
    • Organizer
      情報処理学会第84回全国大会
  • [Presentation] CNN-LSTMを用いた顔画像による発話内容推定に関する基礎検討2022

    • Author(s)
      本田 悠将, 中村 悦郎, 景山 陽一, 廣瀬 聡
    • Organizer
      情報処理学会第84回全国大会
  • [Presentation] Application of Speech Section Extraction Method Using Lip and Voice2021

    • Author(s)
      E. Nakamura, Y. Kageyama, S. Hirose
    • Organizer
      The Ninth International Conference on Materials Engineering for Resources
    • Int'l Joint Research
  • [Presentation] 表情認識精度向上のための追加学習処理に関する検討2021

    • Author(s)
      高松 未佳, 石井 雅樹, 景山 陽一
    • Organizer
      映像情報メディア学会 2021年冬季大会
  • [Presentation] CNN-LSTMを用いた発話内容推定に関する基礎検討2021

    • Author(s)
      本田 悠将, 中村 悦郎, 景山 陽一, 廣瀬 聡
    • Organizer
      映像情報メディア学会 2021年冬季大会
  • [Presentation] 発話に伴う口唇特徴点の動きと音素との関連性に関する解析2021

    • Author(s)
      中村 悦郎, 本田 悠将, 景山 陽一, 廣瀬 聡
    • Organizer
      映像情報メディア学会 2021年冬季大会
  • [Presentation] 喜びの表情を対象とした顔表面温度解析2021

    • Author(s)
      山田 真奈, 景山 陽一
    • Organizer
      2021年度 情報処理学会東北支部研究会
  • [Presentation] 口唇の動きおよび色情報を用いた発話内容推定に関する検討2021

    • Author(s)
      本田 悠将, 中村 悦郎, 景山 陽一, 廣瀬 聡
    • Organizer
      第37回 ファジィ システム シンポジウム
  • [Presentation] 発話内容の判別を目的とした口唇の動きの変化解析2021

    • Author(s)
      中村 悦郎, 本田 悠将, 景山 陽一, 廣瀬 聡
    • Organizer
      第37回 ファジィ システム シンポジウム
  • [Presentation] 高齢者を対象とするeスポーツ実施前後の顔熱赤外画像を用いた皮膚温度変化解析2021

    • Author(s)
      三浦 有沙子, 景山 陽一, 白井 光, 石沢 千佳子, 末廣 健二, 高橋 伸明, 佐竹 久美, 小林 拓也, 渡邉 文人, 佐藤 直子, 熊谷 直史
    • Organizer
      第37回 ファジィ システム シンポジウム
  • [Presentation] 高齢者を対象とするeスポーツ実施中における顔色情報の特徴解析2021

    • Author(s)
      菊地 亮太, 景山 陽一, 白井 光, 石沢 千佳子, 末廣 健二, 高橋 伸明, 佐竹 久美, 小林 拓也, 渡邉 文人, 佐藤 直子, 熊谷 直史
    • Organizer
      第37回 ファジィ システム シンポジウム
  • [Presentation] 表情認識の精度向上を目的とした学習データの分析2021

    • Author(s)
      高松 未佳, 石井 雅樹, 景山 陽一
    • Organizer
      第37回 ファジィ システム シンポジウム
  • [Presentation] 故意および自然表情の顔表面温度に関する基礎解析2021

    • Author(s)
      山田 真奈, 景山 陽一
    • Organizer
      2021年度電気関係学会東北支部連合大会
  • [Presentation] 全方位カメラを用いた発話者判別手法における音声特徴量に関する検討2021

    • Author(s)
      中村 悦郎, 景山 陽一, 廣瀬 聡
    • Organizer
      2021年度電気関係学会東北支部連合大会
  • [Presentation] 自然表情を対象とした顔表面温度に関する基礎解析2021

    • Author(s)
      山田 真奈, 景山 陽一
    • Organizer
      日本素材物性学会令和3年度年会

URL: 

Published: 2022-12-28  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi