• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2016 Fiscal Year Annual Research Report

角膜フィードバックARの実現

Research Project

Project/Area Number 15H02738
Research InstitutionOsaka University

Principal Investigator

清川 清  大阪大学, サイバーメディアセンター, 准教授 (60358869)

Co-Investigator(Kenkyū-buntansha) 間下 以大  大阪大学, サイバーメディアセンター, 講師 (00467606)
中澤 篤志  京都大学, 情報学研究科, 准教授 (20362593)
Project Period (FY) 2015-04-01 – 2018-03-31
Keywords拡張現実 / 角膜反射 / 視線推定 / ユーザインタフェース
Outline of Annual Research Achievements

光学シースルーHMDを用いたARにおいて,角膜イメージングによりユーザ体験を自動的に最適化する,新しいARの構成法「角膜フィードバックAR」の実現に向けて,今年度は下記の進捗があった.
1)【自動校正】について,アイカメラがHMDと分離着脱可能な場合の,アイカメラ・HMD・眼球の3者の位置関係の自動校正法を検討した.アイカメラとHMDにそれぞれ複数の赤外LEDを配置し,それらの角膜反射像から3者の位置関係を求める.本手法は角膜フィードバックARの実用化に向けた重要な成果と言える.また,角膜反射像から眼球の焦点位置を推定する手法についても検討した. 第3プルキニエ像の画像上の位置と実際の焦点距離の対応から回帰モデルを学習する.焦点距離を推定できれば被写界深度を再現したより写実的なARシーンをレンダリング可能であり,重要な成果と言える.また,角膜反射像からディスプレイ輝度を自動調整する基礎検討を開始した.
2)【視線方向の物体認識】について,今年度は角膜反射像と外界を直接撮影するシーンカメラの対応付をより頑健に行う手法を検討した.従来3.37度程度の対応付け精度を1.05度程度に改善した.また,角膜反射像から虹彩パターンを分離する手法について基礎検討を開始した.
3)【適応的情報提示】について,視線や眼のジェスチャを用いた適応的情報提示手法について引き続き検討した.また,視線の振舞いを自動解析する研究から派生して,HMDに提示した画像指標を追跡する眼球運動を解析することで,パーキンソン病の可能性を自動的に診断するシステムを構築した.本システムはVRに関する最難関の国際会議に採択され高い評価を得た.また,適応的情報提示の一環として,頭部運動からHMDに表示されるビデオ映像の視野角を自動的に調節する,視覚拡張システムを構築した.

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

1)【自動校正】について,これまでは眼球位置の自動校正にのみ着目していたが,今年度は当初の予定から発展して,眼球の焦点距離や網膜が受光する光量などの校正についても検討した.その意味において,眼球位置の自動校正については大きな進展がなかったが,それ以外の方向で予想以上の成果が得られたと言える.
2)【視線方向の物体認識】について,視線方向の物体認識を行う直接的な研究に関しては大きな進展がなかったが,そのベースとなるより高精細なシーンカメラとの高精度の対応付けを実現した.位置合わせ手法としてRANRESAC(Random Resample Consensus)というノイズに頑健な手法を提案し,対応付け誤差を従来の3分の1以下に低減した.また,角膜像・注視行動データベースを作成した.360度の屋外環境画像と角膜像のデータセットを取得し,校正なしの対応付け精度で3から4度を達成した.また,角膜反射像のみを用いる物体認識については環境中の物体認識ではなく虹彩パターンの分離・認識という新しい方向性に踏み込み,有力な手ごたえを得た.虹彩パターンからユーザ認証できれば,個人に合わせた情報提示が可能になり有用性が高い.
3)【適応的情報提示】について,視線の振る舞いからの関心度の推定やそれを利用した情報粒度の段階的詳細化などについては進展がなかった.一方,視線の振舞いからパーキンソン病を自動診断するシステムを構築することができ,極めて意義の大きい成果が得られた.
これらのことから,当初予定から少しずつ異なる方向性に進んだ結果,当初想定していた方向性に関する研究成果は比較的進展が少なかったものの,それを上回るような興味深い,あるいは重要な研究成果を得ることができた.従って,全体として研究はおおむね順調に進展していると言える.

Strategy for Future Research Activity

平成29年度は本研究課題の最終年度であるため,これまでの研究成果を統合することに注力する.
1)【自動校正】について,眼球位置・焦点距離などの推定手法,さらには瞳孔経の実時間計測からのディスプレイ輝度の動的最適化などの手法を統合し,角膜反射像を用いてARシーンの品質を向上する様々なパラメータの自動調整フレームワークを完成させる.
2)【視線方向の物体認識】について,角膜像・注視行動データベースを活用して行動認識などの応用システムの開発を進める.また,虹彩パターンの分離・認識手法を進展させ,ユーザの同定に利用できることを確認する.
3)【適応的情報提示】について,前年度に進展のなかった,視線の振る舞いからの関心度の推定やそれを利用した情報粒度の段階的詳細化などについて改めて実施し,自動校正・物体認識・ユーザ同定などの他の研究成果と統合する.

  • Research Products

    (34 results)

All 2017 2016 Other

All Int'l Joint Research (3 results) Journal Article (6 results) (of which Int'l Joint Research: 2 results,  Peer Reviewed: 3 results,  Open Access: 1 results,  Acknowledgement Compliant: 2 results) Presentation (25 results) (of which Int'l Joint Research: 14 results,  Invited: 15 results)

  • [Int'l Joint Research] IFSTTAR(フランス)

    • Country Name
      FRANCE
    • Counterpart Institution
      IFSTTAR
  • [Int'l Joint Research] Augusta University/University of Kansas Medical Center(米国)

    • Country Name
      U.S.A.
    • Counterpart Institution
      Augusta University/University of Kansas Medical Center
  • [Int'l Joint Research] Technical University of Munich(ドイツ)

    • Country Name
      GERMANY
    • Counterpart Institution
      Technical University of Munich
  • [Journal Article] Eye gaze tracking using corneal imaging and active illumination devices2017

    • Author(s)
      Nakazawa Atsushi、Kato Hiroaki、Nitschke Christian、Nishida Toyoaki
    • Journal Title

      Advanced Robotics

      Volume: 31 Pages: 413~427

    • DOI

      10.1080/01691864.2016.1277552

    • Peer Reviewed / Open Access
  • [Journal Article] Emulation of Physician Tasks in Eye-tracked Virtual Reality for Remote Diagnosis of Neurodegenerative Disease2017

    • Author(s)
      Jason Orlosky, Yuta Itoh, M Ranchet, Kiyoshi Kiyokawa, J Morgan, and H. Devos
    • Journal Title

      EEE Transactions on Visualization and Computer Graphics

      Volume: 23 Pages: 1302-1311

    • DOI

      10.1109/TVCG.2017.2657018

    • Peer Reviewed / Int'l Joint Research / Acknowledgement Compliant
  • [Journal Article] 立体映像技術の研究開発動向2017

    • Author(s)
      清川 清
    • Journal Title

      映像情報メディア学会誌

      Volume: 71 Pages: 68-73

  • [Journal Article] ヘッドマウントディスプレイの研究動向2016

    • Author(s)
      清川 清
    • Journal Title

      画像ラボ

      Volume: 27 Pages: 1-5

  • [Journal Article] Research Trends in Head Worn Displays for VR and AR2016

    • Author(s)
      Kiyoshi Kiyokawa
    • Journal Title

      SID Japan Chapter Newsletter

      Volume: 62 Pages: 1-2

  • [Journal Article] Registration of eye reflection and scene images using an aspheric eye model2016

    • Author(s)
      Atsushi Nakazawa, Christian Nitschke, Toyoaki Nishida
    • Journal Title

      Journal of the Optical Society of America

      Volume: 33 Pages: 2264-2276

    • DOI

      10.1080/01691864.2016.1277552

    • Peer Reviewed / Int'l Joint Research / Acknowledgement Compliant
  • [Presentation] Evaluation of Care Skills using First Person Video (FPV)2017

    • Author(s)
      Atsushi Nakazawa
    • Organizer
      AAAI 2017 Spring Symposium, Wellbeing AI: From Machine Learning to Subjectively Oriented Computing
    • Place of Presentation
      Palo Alto
    • Year and Date
      2017-03-27 – 2017-03-29
    • Int'l Joint Research / Invited
  • [Presentation] Monocular Focus Estimation Method for a Freely-Orienting Eye using Purkinje-Sanson Images2017

    • Author(s)
      Yuta Itoh, Jason Orlosky, Kiyoshi Kiyokawa, Toshiyuki Amano, and Maki Sugimoto
    • Organizer
      Proceedings of IEEE Virtual Reality 2017
    • Place of Presentation
      Los Angeles
    • Year and Date
      2017-03-18 – 2017-03-22
    • Int'l Joint Research
  • [Presentation] Non-Calibrated and Real-Time Human View Estimation Using a Mobile Corneal Imaging Camera2017

    • Author(s)
      Atsushi Nakazawa
    • Organizer
      2017 International Symposium toward the Future of Advanced Researches in Shizuoka University
    • Place of Presentation
      Hamamatsu
    • Year and Date
      2017-03-08 – 2017-03-08
    • Int'l Joint Research / Invited
  • [Presentation] 拡張現実向けヘッドマウントディスプレイの研究動向2017

    • Author(s)
      清川 清
    • Organizer
      技術情報協会セミナー
    • Place of Presentation
      技術情報協会
    • Year and Date
      2017-02-28
    • Invited
  • [Presentation] MR(AR/VR)の最新技術動向とソニーに期待する事2017

    • Author(s)
      清川 清
    • Organizer
      ソニー先端技術セミナー
    • Place of Presentation
      ソニー厚木テクノロジーセンター
    • Year and Date
      2017-02-24
    • Invited
  • [Presentation] 拡張現実向けヘッドマウントディスプレイの研究動向2017

    • Author(s)
      清川 清
    • Organizer
      AndTechセミナー
    • Place of Presentation
      東京中央区立産業会館
    • Year and Date
      2017-01-31
    • Invited
  • [Presentation] HMD研究の最新動向2016

    • Author(s)
      清川 清
    • Organizer
      ウェアラブルコンピュータ研究開発機構 HMDミーティング
    • Place of Presentation
      グランフロント大阪
    • Year and Date
      2016-12-21
    • Invited
  • [Presentation] 我々はまだ何もみえていない-PRMU第二期グランドチャレンジ-2016

    • Author(s)
      中澤篤志
    • Organizer
      パターン認識・メディア理解研究会(PRMU)
    • Place of Presentation
      鳥取
    • Year and Date
      2016-12-15 – 2016-12-16
    • Invited
  • [Presentation] Dynamic View Expansion for Improving Visual Search in Video See-through AR2016

    • Author(s)
      Yuki Yano, Jason Orlosky, Kiyoshi Kiyokawa, Haruo Takemura
    • Organizer
      Proc. of the 26th International Conference on Artificial Reality and Telexistence and the 21st Eurographics Workshop on Virtual Environments (ICAT-EGVE 2016)
    • Place of Presentation
      Little Rock
    • Year and Date
      2016-12-07 – 2016-12-09
    • Int'l Joint Research
  • [Presentation] Evaluation of face-to-face communication skills for people with dementia using a head-mounted system2016

    • Author(s)
      Atsushi Nakazawa
    • Organizer
      International Workshop on Pattern Recognition for Healthcare Analytics
    • Place of Presentation
      Cancun
    • Year and Date
      2016-12-04 – 2016-12-09
    • Int'l Joint Research
  • [Presentation] Noise stable image registration using RANdom RESAmple Consensus2016

    • Author(s)
      Atsushi Nakazawa
    • Organizer
      ICPR 2016
    • Place of Presentation
      Cancun
    • Year and Date
      2016-12-04 – 2016-12-08
    • Int'l Joint Research
  • [Presentation] Estimation of Task Difficulty and Habituation Effect While Visual Manipulation Using Pupillary Response2016

    • Author(s)
      Asami Matsumoto, Yuta Tange, Atsushi Nakazawa, Toyoaki Nishida
    • Organizer
      VAAM/FFER 2016
    • Place of Presentation
      Cancun
    • Year and Date
      2016-12-04 – 2016-12-08
    • Int'l Joint Research
  • [Presentation] 角膜イメージング法の基礎と応用2016

    • Author(s)
      中澤篤志
    • Organizer
      日本生体医工学MEとバイオサイバネティクス研究会; IEEE EMBS Japan Chapter
    • Place of Presentation
      大阪
    • Year and Date
      2016-10-22 – 2016-10-23
    • Invited
  • [Presentation] Automated Spatial Calibration of HMD Systems with Unconstrained Eye-cameras2016

    • Author(s)
      Alexander Plopski, Yuta Itoh, Jason Orlosky, Christian Nitschke, Kiyoshi Kiyokawa, Gudrun Klinker
    • Organizer
      Proc. of the IEEE International Symposium on Mixed and Augmented Reality (ISMAR)
    • Place of Presentation
      Merida
    • Year and Date
      2016-09-19 – 2016-09-23
    • Int'l Joint Research
  • [Presentation] AR Displays2016

    • Author(s)
      Kiyoshi Kiyokawa
    • Organizer
      The First Augmented Reality School AR101
    • Place of Presentation
      Merida
    • Year and Date
      2016-09-19 – 2016-09-23
    • Int'l Joint Research / Invited
  • [Presentation] 光学シースルーHMDのバックライト自動調光のための視認性評価における個人差の検証2016

    • Author(s)
      劉 暢, プロプスキ アレクサンダー, 間下 以大, 黒田 嘉宏, 清川 清, 竹村 治雄
    • Organizer
      第21回 バーチャルリアリティ学会大会
    • Place of Presentation
      つくば
    • Year and Date
      2016-09-14 – 2016-09-16
  • [Presentation] Evaluation of Care Skills using First Person Video (FPV)2016

    • Author(s)
      Atsushi Nakazawa
    • Organizer
      2016 Korea-Japan Workshop on Robotics and Information Technology for Better Quality of Life
    • Place of Presentation
      Seoul
    • Year and Date
      2016-09-10 – 2016-09-11
    • Int'l Joint Research / Invited
  • [Presentation] Redesigning Vision: Achieving Super Human Eyesight by Head Mounted Displays2016

    • Author(s)
      Kiyoshi Kiyokawa
    • Organizer
      The 16th International Meeting on Information Display (IMID)
    • Place of Presentation
      Jeju
    • Year and Date
      2016-08-23 – 2016-08-26
    • Int'l Joint Research / Invited
  • [Presentation] Redesigning Vision by Head Worn Displays2016

    • Author(s)
      Kiyoshi Kiyokawa
    • Organizer
      Imaging and Applied Optics Congress (IMAGING)
    • Place of Presentation
      Heidelberg
    • Year and Date
      2016-07-25 – 2016-07-28
    • Int'l Joint Research / Invited
  • [Presentation] 認知症ケアの視覚化2016

    • Author(s)
      中澤篤志
    • Organizer
      第1回高齢社会デザインシンポジウム
    • Place of Presentation
      東京
    • Year and Date
      2016-07-10 – 2016-07-10
    • Invited
  • [Presentation] A Wide Field of View Head Mounted Display and Its Effects on Search Performance in Augmented Reality2016

    • Author(s)
      Kiyoshi Kiyokawa
    • Organizer
      Society for Information Display's Display Week (SID) 2016
    • Place of Presentation
      San Francisco
    • Year and Date
      2016-05-22 – 2016-05-27
    • Int'l Joint Research / Invited
  • [Presentation] シンポジウム:これからの認証ケアとデータ活用2016

    • Author(s)
      中澤篤志
    • Organizer
      ITヘルスケア学会第10回記念学術大会
    • Place of Presentation
      東京
    • Year and Date
      2016-05-21 – 2016-05-22
    • Invited
  • [Presentation] マルチスライス画像における視線データの視覚化手法2016

    • Author(s)
      ラーラー ディベッシュ, 中澤篤志
    • Organizer
      パターン認識・メディア理解研究会(PRMU)
    • Place of Presentation
      名古屋
    • Year and Date
      2016-05-19 – 2016-05-20
  • [Presentation] 頭部装着型カメラを用いた介護スキル評価2016

    • Author(s)
      沖野祐介, 中澤篤志, 本田美和子, 石川翔吾, 竹林洋一, 西田豊明
    • Organizer
      パターン認識・メディア理解研究会(PRMU)
    • Place of Presentation
      名古屋
    • Year and Date
      2016-05-19 – 2016-05-20
  • [Presentation] Automated Backlight Adjustment of Optical See-through HMDs for Improved Visibility2016

    • Author(s)
      Chang Liu, Alexander Plopski, Tomohiro Mashita, Yoshihiro Kuroda, Kiyoshi Kiyokawa and Haruo Takemura
    • Organizer
      Proc. 8th Asia-Pacific Workshop on Mixed Reality (APMR)
    • Place of Presentation
      安東市, 韓国
    • Year and Date
      2016-04-22 – 2016-04-24
    • Int'l Joint Research

URL: 

Published: 2018-01-16   Modified: 2022-08-22  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi