• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2019 Fiscal Year Research-status Report

System for long-term measurement of rotational eye movement and gaze in the dark environment

Research Project

Project/Area Number 17K01071
Research InstitutionUniversity of Tsukuba

Principal Investigator

星野 聖  筑波大学, システム情報系, 教授 (80251528)

Project Period (FY) 2017-04-01 – 2021-03-31
Keywords眼球運動計測 / 眼球回旋運動推定 / 視線追跡 / 眼球白目領域の血管像 / テンプレートマッチング / 眼球結膜 / 眼球強膜 / 生体計測
Outline of Annual Research Achievements

本研究の目的は,一般的なスマートグラス程度の大きさと重さで,しかも,頭部への強固な装置の固定や,ゴーグルによる背景光遮光なしに,高精度の眼球運動計測メガネを開発することである.実現方法は,微弱な青色光を照射した眼球白目部分の血管像を追跡する技術を基盤とする.そして,夜間や,暗いコンテンツ観視時でも安定して眼球運動計測ができる技術レベルまで至らせることにより,耳鼻咽喉科めまい外来患者にとって負荷の少ない眼振検査や,患者の日常生活での長時間眼振モニタリングを可能にしたり,小型スマートフォン等と一緒に携行使用することで,自動車運転者やHMD立体映像観視者などの体調や心理状態を,装置装着を意識させずに常時モニタリングできるようにすることであった.
上記目標達成のため,次の小研究課題を実施した.第一に,それまでに開発したプロトタイプ機の問題点や過不足を検討しつつ,超コンパクトな試作機の開発を行った.第二に,プロトタイプ機に搭載する画像処理システムの再検討と最適化を試みた.第三に,装着者が誰であっても,どんな環境にいても鮮明な眼球血管像を得られるような最適撮像パラメータを求める実証実験を行った.第四に,計測中にカメラと眼球の位置関係がずれても正確な計測ができるよう,目頭と目尻の画像を用いたビデオスタビライザ(映像ぶれ補正機能)の開発を試みた.
その結果,以降の実験とシステム評価と改良に使用できる小型軽量の試作機開発に成功した.また,幅が広くて色が濃く,特徴的な形状で,眼球表面に外部光源の映り込みがあっても,安定して高精度に特定の眼球白目血管像を追跡するシステムの実装に成功した.

Current Status of Research Progress
Current Status of Research Progress

1: Research has progressed more than it was originally planned.

Reason

当初計画では,装用者に心的負担とならない微弱な青色光を照射した眼球白目部分の血管像を追跡する手法により,安定して高精度な眼球運動計測を実現する計画であった.しかし,ユーザ(被験者)ごとに,幅が広くて色が濃く,特徴的な形状で,眼球表面に外部光源の映り込みがない眼球白目血管像自動決定アルゴリズムを考案し,システムに組み込むことで,微弱な青色補助光照射がなくても,安定して高精度に特定の眼球白目血管像を追跡することに成功した.
さらに,計測前のキャリブレーション凝視点の提示の仕方を工夫することで,従来システムが,眼球撮像用カメラを概ね光軸上に置き,9点を凝視させるのに対して,本システムは,撮像用カメラが眼球のほぼ横にあっても,最小6点の凝視で,視線推定のためのキャリブレーションを完了できる仕組みを見出した.
また,眼球の上方から,すなわち上眼瞼や睫毛で眼球の一部が遮蔽される映像であっても,焦点調節と被写界深度を上手く利用することで,比較的正確な眼球計測ができる緒も見出した.

Strategy for Future Research Activity

本研究の卓越した成果は,眼球撮影用カメラの設置場所の制約をほぼ取り除くことができたことである.すなわち,狭い光学スペースに,しかも,目の横で,目に近い位置に小型カメラを設置したとしても,広い有効視野角で比較的高精度に眼球運動計測ができることである.しかも,視線と眼球回旋運動の両方を計測することができる.こういった利点は,ヘッドマウンドディスプレイや医用目的のみならず,たとえば剣道の面防具のような狭い光学空間への本システムの実装を可能にするし,スポーツ運動中の競技者の姿勢変動により視線に回旋成分が混入しても,一つの仕組みにより,視線と眼球回旋運動とが分離計測できることを意味している.それゆえ今後は,武道やスポーツ競技中の眼球運動計測によるスポーツパフォーマンス向上や,装用者に動作拘束や生理心理的負担があってはならない,たとえば高速道路運転中のドライバーの生体情報センシングに,本システムを社会実装していきたいと考えている.

Causes of Carryover

当初計画では,短波長補助光で高精度推定を実現するための消耗品購入を主に想定していたが,もっと優れた解決の方法論が見つかったため,実証実験のための消耗品購入の必要性が低くなったため.
次年度使用可能な助成金は,国際会議,論文や著書などの研究成果発表のために活用する計画である.

  • Research Products

    (15 results)

All 2020 2019 2017

All Presentation (10 results) (of which Int'l Joint Research: 10 results,  Invited: 6 results) Book (2 results) Patent(Industrial Property Rights) (3 results) (of which Overseas: 2 results)

  • [Presentation] [Keynote Speech] Eye Tracking and Measurement of Eye Rotation by a Small Camera Installed almost by the Side of the Eye2020

    • Author(s)
      Kiyoshi Hoshino
    • Organizer
      International Conference on Computing and Artificial Intelligence (ICCAI 2020)
    • Int'l Joint Research / Invited
  • [Presentation] [Keynote Speech] Eye Tracking and Measurement of Eye Rotation2020

    • Author(s)
      Kiyoshi Hoshino
    • Organizer
      International Conference on Image, Video and Signal Processing (IVSP 2020)
    • Int'l Joint Research / Invited
  • [Presentation] Gaze Estimation with Easy Calibration Method2020

    • Author(s)
      Kiyoshi Hoshino, Yuki Noguchi, Yuya Nakai
    • Organizer
      International Conference on Intelligent Information Technology (ICIIT 2020)
    • Int'l Joint Research
  • [Presentation] Estimation of rotational eye movement based on intensity gradients in the eye images2020

    • Author(s)
      Kiyoshi Hoshino, Yuya Nakai, Yuki Noguchi, Nnayuta Ono
    • Organizer
      International Conference on Intelligent Information Technology (ICIIT 2020)
    • Int'l Joint Research
  • [Presentation] Estimation of the Line of Sight from Eye Images with Eyelashes2020

    • Author(s)
      Kiyoshi Hoshino, Satoshi Shimanoe, Yuya Nakai, Yuki Noguchi, Maki Nakamura
    • Organizer
      International Conference on Intelligent Information Technology (ICIIT 2020)
    • Int'l Joint Research
  • [Presentation] [Keynote Speech] Simultaneous Estimation of the Line-of-Sight and Rotational Eye Movement by Tracking of Blood Vessel Images of the Eye2019

    • Author(s)
      Kiyoshi Hoshino
    • Organizer
      International Conference on Machine Learning and Intelligent Systems (MLIS 2019)
    • Int'l Joint Research / Invited
  • [Presentation] [Keynote Speech] Eye Movement Estimation Based on the Intensity Gradients of Blood Vessels in the Eye2019

    • Author(s)
      Kiyoshi Hoshino
    • Organizer
      International Conference on Biomedical and Bioinformatics Engineering (ICBBE 2019)
    • Int'l Joint Research / Invited
  • [Presentation] [Keynote Speech] Measurement of Eye Movement Using a Small Camera Installed Roughly next to the Human Eye2019

    • Author(s)
      Kiyoshi Hoshino
    • Organizer
      International Conference on Computing and Artificial Intelligence (ICCAI 2019)
    • Int'l Joint Research / Invited
  • [Presentation] [Keynote Speech] Measurement of line-of-sight and eye rotation using a small camera installed roughly next to the eye2019

    • Author(s)
      Kiyoshi Hoshino
    • Organizer
      International Conference on Image, Video and Signal Processing (IVSP 2019)
    • Int'l Joint Research / Invited
  • [Presentation] A Compact Wearable Eye Movement Measurement System for Support of Safe Driving2019

    • Author(s)
      Kiyoshi Hoshino, Nayuta Ono
    • Organizer
      2019 IEEE International Conference on Mechatronics (ICM)
    • Int'l Joint Research
  • [Book] 生体情報センシングと人の状態推定への応用:眼のほぼ横に設置した小型カメラによる視線推定と眼球回旋運動計測,” 生体情報センシングと人の状態推定への応用2020

    • Author(s)
      星野 聖
    • Total Pages
      11
    • Publisher
      技術情報協会
  • [Book] 生体情報センシングと人の状態推定への応用:短剣道の動作計測と技予測2020

    • Author(s)
      星野 聖
    • Total Pages
      12
    • Publisher
      技術情報協会
  • [Patent(Industrial Property Rights)] 眼球運動測定装置、キャリブレーションシステム、眼球運動測定方法及び眼球運動測定プログラム2020

    • Inventor(s)
      星野聖, 野口勇気
    • Industrial Property Rights Holder
      筑波大学
    • Industrial Property Rights Type
      特許
    • Industrial Property Number
      特願2020-025640
  • [Patent(Industrial Property Rights)] 眼球運動測定装置、眼球運動測定方法及び眼球運動測定プログラム2019

    • Inventor(s)
      星野 聖, 小野那由他
    • Industrial Property Rights Holder
      筑波大学
    • Industrial Property Rights Type
      特許
    • Industrial Property Number
      PCT/JP2019/23226
    • Overseas
  • [Patent(Industrial Property Rights)] 眼球回旋測定装置、眼球回旋測定方法、及び眼球回旋測定プログラム2017

    • Inventor(s)
      星野 聖, 中込広幸
    • Industrial Property Rights Holder
      筑波大学
    • Industrial Property Rights Type
      特許
    • Industrial Property Number
      EPC特許 第2818099号
    • Overseas

URL: 

Published: 2021-03-11  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi