• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to previous page

Calibration-free Input Interface Using Eye-gaze and blink

Research Project

Project/Area Number 21K12801
Research Category

Grant-in-Aid for Scientific Research (C)

Allocation TypeMulti-year Fund
Section一般
Review Section Basic Section 90150:Medical assistive technology-related
Research InstitutionTokyo Denki University

Principal Investigator

Abe Kiyohiko  東京電機大学, システムデザイン工学部, 教授 (40408646)

Co-Investigator(Kenkyū-buntansha) 佐藤 寛修  関東学院大学, 理工学部, 助手 (90813741)
松野 省吾  群馬大学, 情報学部, 助教 (60836245)
Project Period (FY) 2021-04-01 – 2024-03-31
Project Status Completed (Fiscal Year 2023)
Budget Amount *help
¥3,770,000 (Direct Cost: ¥2,900,000、Indirect Cost: ¥870,000)
Fiscal Year 2023: ¥1,170,000 (Direct Cost: ¥900,000、Indirect Cost: ¥270,000)
Fiscal Year 2022: ¥1,040,000 (Direct Cost: ¥800,000、Indirect Cost: ¥240,000)
Fiscal Year 2021: ¥1,560,000 (Direct Cost: ¥1,200,000、Indirect Cost: ¥360,000)
Keywords視線入力 / キャリブレーションフリー / 畳み込みニューラルネットワーク / 視線計測 / 瞬目計測 / コミュニケーション支援 / 畳込みニューラルネットワーク / Vision Transformer / 3次元畳込みニューラルネットワーク / 視線 / 瞬目 / 入力インタフェース / 3D-CNN / 瞬目入力 / 再帰型ニューラルネットワーク
Outline of Research at the Start

視線入力は眼球やまぶた以外の運動を必要としないので、運動機能を著しく制限されている人たちも使用が可能であり、これを利用したコミュニケーション支援システムが多く提案されている。本研究では、ディープラーニングを活用しノートパソコン1台から構成される視線入力システムを開発する。このシステムは従来のシステムとは異なり、システム使用前にキャリブレーション(較正、調整)の必要がなく、専門的な知識や技術がないユーザでも利用できるように工夫されている。

Outline of Final Research Achievements

Eye-gaze input interface is able to operate a PC using information from the user's gaze or blinking of the eye. Therefore, it is used to support communication for people who have difficulty using general input interfaces, such as people with severe physical disabilities.
Most conventional eye-gaze input interfaces require calibration for each user before use, which is cumbersome. In this research, by using a convolutional neural network (CNN), which is a method of image identification, we have developed a new method to input text into a PC and operate a Web browser by capturing information on eye gaze and eye blinks in real time from a user's near-eye image captured by an in-camera camera of a notebook PC. A new calibration-free gaze input interface has been developed.

Academic Significance and Societal Importance of the Research Achievements

本研究課題で開発した新しい視線入力インタフェースは、キャリブレーションフリーであり、利用に際してユーザごとの較正を一切必要としないため、使用したいときにすぐに使うことができる。またこの視線入力インタフェースは、廉価なノートパソコンのみで使用が可能であり、視線と瞬目の情報のみで文字入力を行ったりWebブラウザを操作するなど、重度肢体不自由者のコミュニケーション支援に利用できる。

Report

(4 results)
  • 2023 Annual Research Report   Final Research Report ( PDF )
  • 2022 Research-status Report
  • 2021 Research-status Report
  • Research Products

    (16 results)

All 2024 2023 2022 2021

All Journal Article (2 results) (of which Peer Reviewed: 2 results) Presentation (14 results) (of which Int'l Joint Research: 4 results)

  • [Journal Article] Performance Improvement of 3D-CNN for Blink Types Classification by Data Augmentation2024

    • Author(s)
      佐藤 寛修, 阿部 清彦, 松野 省吾, 大山 実
    • Journal Title

      IEEJ Transactions on Electronics, Information and Systems

      Volume: 144 Issue: 4 Pages: 328-329

    • DOI

      10.1541/ieejeiss.144.328

    • ISSN
      0385-4221, 1348-8155
    • Year and Date
      2024-04-01
    • Related Report
      2023 Annual Research Report
    • Peer Reviewed
  • [Journal Article] Detailed Analysis of Blink Types Classification Using a 3D Convolutional Neural Network2023

    • Author(s)
      佐藤 寛修, 阿部 清彦, 松野 省吾, 大山 実
    • Journal Title

      IEEJ Transactions on Electronics, Information and Systems

      Volume: 143 Issue: 9 Pages: 971-978

    • DOI

      10.1541/ieejeiss.143.971

    • ISSN
      0385-4221, 1348-8155
    • Year and Date
      2023-09-01
    • Related Report
      2023 Annual Research Report
    • Peer Reviewed
  • [Presentation] Gaze Direction Classification Using Vision Transforme2023

    • Author(s)
      Shogo Matsuno,Daiki Niikura, Kiyohiko Abe
    • Organizer
      2023 15th International Congress on Advanced Applied Informatics Winter (IIAI-AAI-Winter)
    • Related Report
      2023 Annual Research Report
    • Int'l Joint Research
  • [Presentation] 最頻値をもちいた3D CNN瞬目種類識別の出力補正法の検討2023

    • Author(s)
      佐藤 寛修, 阿部 清彦, 松野 省吾, 大山 実
    • Organizer
      電気学会電子・情報・システム部門大会
    • Related Report
      2023 Annual Research Report
  • [Presentation] Vision Transformerによる視線方向識別2023

    • Author(s)
      新倉 大希, 阿部 清彦
    • Organizer
      電気学会電子・情報・システム部門大会
    • Related Report
      2023 Annual Research Report
  • [Presentation] 視線方向識別による文字入力とウェブ検索システム2023

    • Author(s)
      新倉 大希, 阿部 清彦
    • Organizer
      電子情報通信学会総合大会
    • Related Report
      2023 Annual Research Report
  • [Presentation] Eye-gaze Detection based on 3D Convolutional Neural Network2023

    • Author(s)
      Chaofan Zhang, Kiyohiko Abe
    • Organizer
      The Twenty-Eighth International Symposium on Artificial Life and Robotics 2023
    • Related Report
      2022 Research-status Report
    • Int'l Joint Research
  • [Presentation] `Performance Improvement of 3D-CNN for Blink Types Classification by Data Augmentation2023

    • Author(s)
      Hironobu Sato, Kiyohiko Abe, Shogo Matsuno, Minoru Ohyama
    • Organizer
      The Twenty-Eighth International Symposium on Artificial Life and Robotics 2023
    • Related Report
      2022 Research-status Report
    • Int'l Joint Research
  • [Presentation] 視線方向識別による文字入力とウェブ検索システム2023

    • Author(s)
      新倉大希,阿部清彦
    • Organizer
      2023年電子情報通信学会総合大会
    • Related Report
      2022 Research-status Report
  • [Presentation] 3D-CNNによる視線方向の識別2022

    • Author(s)
      張 超凡,阿部清彦
    • Organizer
      2022年電気学会電子・情報・システム部門大会
    • Related Report
      2022 Research-status Report
  • [Presentation] 視線方向推定による文字入力とウェブ検索システム2022

    • Author(s)
      新倉大希,阿部清彦
    • Organizer
      2022年電気学会電子・情報・システム部門大会
    • Related Report
      2022 Research-status Report
  • [Presentation] 瞬目種類識別のための3次元畳み込みニューラルネットワーク向けデータ拡張の検討2022

    • Author(s)
      佐藤寛修,阿部清彦,松野省吾,大山 実
    • Organizer
      2022年電気学会電子・情報・システム部門大会
    • Related Report
      2022 Research-status Report
  • [Presentation] Blink State Classification Using 3D Convolutional Neural Network2022

    • Author(s)
      Hironobu Sato, Kiyohiko Abe, Shogo Matsuno, and Minoru Ohyama
    • Organizer
      The Twenty-Seventh International Symposium on Artificial Life and Robotics 2022
    • Related Report
      2021 Research-status Report
    • Int'l Joint Research
  • [Presentation] 畳み込みニューラルネットワークによる 視線方向の推定2022

    • Author(s)
      張超凡,阿部清彦
    • Organizer
      電子情報通信学会 情報・システムソサイエティ特別企画 ジュニア&学生ポスターセッション
    • Related Report
      2021 Research-status Report
  • [Presentation] 視線入力インタフェース向け遠隔実験システム2021

    • Author(s)
      阿部清彦,佐藤寛修,松野省吾,大山実
    • Organizer
      2021年電気学会電子・情報・システム部門大会
    • Related Report
      2021 Research-status Report
  • [Presentation] 3次元畳み込みニューラルネットワークによる瞬目種類識別の検討2021

    • Author(s)
      佐藤寛修,阿部清彦,松野省吾,大山実
    • Organizer
      2021年電気学会電子・情報・システム部門大会
    • Related Report
      2021 Research-status Report

URL: 

Published: 2021-04-28   Modified: 2025-01-30  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi