• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 課題ページに戻る

2019 年度 実施状況報告書

USBカメラによる顔の動き数値化と数値処理教材の開発

研究課題

研究課題/領域番号 19K03178
研究機関岐阜聖徳学園大学

研究代表者

伊藤 敏  岐阜聖徳学園大学, 経済情報学部, 教授 (80130946)

研究分担者 鷲野 嘉映  岐阜聖徳学園大学, 看護学部, 教授 (90220855)
研究期間 (年度) 2019-04-01 – 2022-03-31
キーワード科学教育 / 可視化 / 顔検出 / 顔の特徴点 / 顔の動き / 慣性センサ
研究実績の概要

学習者が自分自身の行動を数値データとして取得して、数値処理をすることが可能になる教材作成を目的とした。最近のスマートフォンなどは顔認証でログインするなど高度な技術が使われている。一方でそれらの技術はブラックボックスになり、原理や仕組みが見えにくくなっている。高度情報化社会においては、基本的な原理を見失うこと無く技術を利用する力が求められている。
そこで、「顔の動き」を解析対称とした数値処理教材の作成を目的とした。2019年度は機械学習による顔の検出、顔の特徴点の座標抽出を取得する技術的方法の利用を試みた。顔検出および特徴点座標の取得は機械学習済みのモデルdlibライブラリを用いて、普及率が一番高いWindows環境上で、Pythonを利用して実施できるようにした。
USBカメラを前にして顔の基本的動きである a) 左右動 b) 上下動 c) 傾け を行い、取得された動画から顔の検出および顔の特徴点座標を取得した。得られた特徴点座標が顔の動きを正しく反映しているかを確かめるため、慣性センサを用いた。
頭頂部に慣性センサを取り付け、加速度と角速度に加え、四次元量quaternionを取得した。慣性センサは、顔の動きの a) 左右動をyawに b)上下動をpitchに c)傾けをrollに対応づける様に配置をした。USBカメラからの顔特徴点座標取得と同時に顔の動きを計測した。これらにより、dlibでの顔の座標取得が正しく行われ、かつ顔の動きを解析することが可能で事を示した。

現在までの達成度 (区分)
現在までの達成度 (区分)

2: おおむね順調に進展している

理由

2019年度は機械学習による顔の検出、顔の特徴点の座標抽出を取得する技術的方法としてdlibライブラリを用いる方法を試みた。USBカメラを前にして顔の基本的動きである a) 左右動 b) 上下動 c) 傾け を行い、取得された30fpsの動画から顔の検出および顔の特徴点座標を取得した。
頭頂部に慣性センサを取り付け、同時計測により、顔の特徴点座標から、鼻の頂点、両目尻と慣性センサからのyaw, pitch, rollの対応を検討した。その結果、a)左右動は鼻の頂点x座標の変化で示され、b)上下動は鼻の頂点y座標の変化で示され、c)傾けは両目尻のy座標値の差で示されることが確かめられた。これらより、USBカメラによる動画からdlibライブラリを用いた顔の特徴点座標抽出は正しく行えることを確かめられた。この成果は2019年9月開催の教育システム情報学会第44回全国大会で報告をした。さらに、顔の座標から顔の三次元の向き推定が可能であるかの検討を行い、各種制限があるが可能であることを示した。この検討の結果は2019年9月開催の国際コンファレンス(ミャンマーにて、IEEE後援)にて発表をした。さらに慣性センサからの向きデータ取得に関して2019年10月開催のISEE2019(ベトナムで開催)にて発表をした。
これらの実験より、顔の特徴点として鼻の頂点、両目尻の座標は正面画像で取得でき、日常的な動きの範囲内での横向き,上下向きでも正しく検出可能であることが確かめられた。教材としての利用にこれら3点の利用が有効であることが示された。

今後の研究の推進方策

顔の検出と座標の取得の技術的方法は確立をしたので、その方法を実践する環境を幅広く提供する目的で、解析環境をUSBメモリースティックに作成し、Windows PCに挿入するだけで、学習環境の構築が出来るようにする。
鼻の頂点、両目尻の座標は同一人物であれば、固定しているため、3点で形成される三角形の向きや面積から、顔の向きや顔とカメラの距離を推定する教材へと発展させる。また、本教材は題材として「顔」を用いることから、セキュリティの立場で、動画は保存しない仕様にし、解析に用いる画像は座標取得後、線画(境界検出2値画像)として保存する仕様にする。これは、解析経過をたどることが可能なようにするためである。
これらの環境を用いて顔の向きや顔とUSBカメラの距離推定などの課題に関してパイロット実験を行い、教材としてのドキュメント作成などを行う。

次年度使用額が生じた理由

当面の開発の主点を、顔の検出と特徴点の抽出に置き、動画の解析をするのに必要な処理速度の向上を目指さなかった。その為、当初購入予定していた高性能開発用のコンピュータの代わりに既存のコンピュータを用いた。これにより、次年度使用額(B-A)がゼロより大きくなった。しかし、顔検出と特徴点の抽出法は確立させることが出来て、研究はほぼ予定通り進めることが出来た。次年度は、動画解析の速度向上を要するため、高性能コンピュータの購入に本補助金を使用する。

  • 研究成果

    (3件)

すべて 2019

すべて 学会発表 (3件) (うち国際学会 1件)

  • [学会発表] 動画から取得した顔の動き数値化と慣性センサによる検証2019

    • 著者名/発表者名
      伊藤敏
    • 学会等名
      教育システム情報学会学会
  • [学会発表] Three-dimensional measurement of face and face direction estimation to use for education2019

    • 著者名/発表者名
      Satoshi Itou
    • 学会等名
      2019 Joint International Conference on Science, Technology and Innovation, Mandalay by IEEE
  • [学会発表] Respiration detection using Inertial Measurement Unit2019

    • 著者名/発表者名
      Satoshi Itou
    • 学会等名
      The 2019 International Symposium on Electrical and Electronics Engineering (ISEE 2019)
    • 国際学会

URL: 

公開日: 2021-01-27  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi