• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 前のページに戻る

HMD組み込み型光センサを用いた表情認識における生成型学習

研究課題

研究課題/領域番号 21J13664
研究種目

特別研究員奨励費

配分区分補助金
応募区分国内
審査区分 小区分61020:ヒューマンインタフェースおよびインタラクション関連
研究機関慶應義塾大学

研究代表者

中村 文彦  慶應義塾大学, 理工学部(矢上), 特別研究員(PD)

研究期間 (年度) 2021-04-28 – 2023-03-31
研究課題ステータス 完了 (2022年度)
配分額 *注記
1,500千円 (直接経費: 1,500千円)
2022年度: 700千円 (直接経費: 700千円)
2021年度: 800千円 (直接経費: 800千円)
キーワード表情認識 / 顔面形状認識 / 機械学習 / 顔面触覚
研究開始時の研究の概要

頭部装着型ディスプレイ(HMD)に組み込んだ光センサを用いた表情認識における生成型学習の有効性を検証する.HMD組込型光センサによる表情認識では,反射型光センサによって顔面形状の変形を計測し,そのセンサデータを機械学習することで表情を認識する.この機械学習において,人工的に訓練データを生成する生成型学習を適用することで,訓練データの取得の必要性を低減しつつ,表情を学習できるか検証する.また,生成型学習を用いて光センサ情報から表情を再構成する.表情の幾何形状の再構成において,低次元の光センサによる手法と既存の画像処理による手法を比較し,生成型学習の効果を検証する.

研究実績の概要

頭部装着型ディスプレイ(Head-Mounted Display: HMD)が社会に普及するようになり,ユーザがバーチャル環境に没入して様々な体験することが手軽にできるようになった.バーチャル環境において臨場感の高いコミュニケーションのためには,アバターへの身体動作の反映だけでなく,表情も反映することが不可欠である.HMD装着者の表情認識に関する先行研究では,組込型光センサから得られた低次元のデータを機械学習することで,表情を識別している.しかし,良好な識別精度を持った機械学習モデルの構築には,学習に用いる訓練データの量と質の確保が必要である.本研究では,訓練データを人工的に生成するアプローチである生成型学習を組込型光センサによる表情計測に適用することによって,有用性を検証することを目的としている.
研究期間の最終年次にあたる2022年度では,HMDを装着したユーザが目と頭部が多様な方向を向いている時の表情のデータセットを収集し,視線と頭部方向が組込型光センサによる表情識別に与える影響を検証した.この成果は国際学術誌IEEE Transactions on Visualization and Computer Graphicsに掲載された.また,ロボットアームの先端に取り付けた反射型光センサによる顔面形状の計測を基にした顔面への触覚提示による空間誘導手法を提案した.この成果は国際学術誌Frontiers in Computer Scienceに掲載された.さらに,HMD装着者の表情を学習したモデルに対して転移学習の手法であるFine Tuningを適用することで,少ない訓練データでも表情認識の精度が向上することを示した.この成果は国際学会Augmented Humans 2023でポスター発表を行った.

現在までの達成度 (段落)

令和4年度が最終年度であるため、記入しない。

今後の研究の推進方策

令和4年度が最終年度であるため、記入しない。

報告書

(2件)
  • 2022 実績報告書
  • 2021 実績報告書
  • 研究成果

    (6件)

すべて 2023 2022 2021

すべて 雑誌論文 (3件) (うち国際共著 2件、 査読あり 3件、 オープンアクセス 2件) 学会発表 (3件) (うち国際学会 2件)

  • [雑誌論文] Evaluation of Spatial Directional Guidance using Cheek Haptic Stimulation in a Virtual Environment2022

    • 著者名/発表者名
      Fumihiko Nakamura, Adrien Verhulst, Kuniharu Sakurada, Masaaki Fukuoka and Maki Sugimoto
    • 雑誌名

      Frontiers in Computer Science

      巻: - ページ: 1-16

    • DOI

      10.3389/fcomp.2022.733844

    • 関連する報告書
      2022 実績報告書
    • 査読あり / オープンアクセス / 国際共著
  • [雑誌論文] Analyzing the Effect of Diverse Gaze and Head Direction on Facial Expression Recognition with Photo-Reflective Sensors Embedded in a Head-Mounted Display2022

    • 著者名/発表者名
      Nakamura Fumihiko、Murakami Masaaki、Suzuki Katsuhiro、Fukuoka Masaaki、Masai Katsutoshi、Sugimoto Maki
    • 雑誌名

      IEEE Transactions on Visualization and Computer Graphics

      巻: Early Access 号: 10 ページ: 1-17

    • DOI

      10.1109/tvcg.2022.3179766

    • 関連する報告書
      2022 実績報告書
    • 査読あり
  • [雑誌論文] Virtual Whiskers:頬への触覚刺激によるVR環境での方向情報の提示2021

    • 著者名/発表者名
      中村 文彦、Adrien Verhulst、櫻田 国治、福岡 正彬、杉本 麻樹
    • 雑誌名

      日本バーチャルリアリティ学会論文誌

      巻: 26 号: 4 ページ: 298-309

    • DOI

      10.18974/tvrsj.26.4_298

    • NAID

      130008132571

    • ISSN
      1344-011X, 2423-9593
    • 年月日
      2021-12-24
    • 関連する報告書
      2021 実績報告書
    • 査読あり / オープンアクセス / 国際共著
  • [学会発表] Exploring the Effect of Transfer Learning on Facial Expression Recognition using Photo-Reflective Sensors embedded into a Head-Mounted Display2023

    • 著者名/発表者名
      Fumihiko Nakamura, Maki Sugimoto
    • 学会等名
      Augmented Humans International Conference 2023 (AHs '23)
    • 関連する報告書
      2022 実績報告書
    • 国際学会
  • [学会発表] 頬への触覚提示を利用したVR空間における方向誘導手法2021

    • 著者名/発表者名
      中村文彦,Adrien Vehulst,櫻田国治,福岡正彬,杉本麻樹
    • 学会等名
      第26回日本バーチャルリアリティ学会大会
    • 関連する報告書
      2021 実績報告書
  • [学会発表] Virtual Whiskers: Cheek Haptic-Based Spatial Directional Guidance in a Virtual Space2021

    • 著者名/発表者名
      Fumihiko Nakamura, Adrien Verhulst, Kuniharu Sakurada, Masaaki Fukuoka, Maki Sugimoto
    • 学会等名
      SIGGRAPH Asia 2021 XR
    • 関連する報告書
      2021 実績報告書
    • 国際学会

URL: 

公開日: 2021-05-27   更新日: 2024-03-26  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi