• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to previous page

Study on linguistic representation and identification of phones from speech imagery EEG.

Research Project

Project/Area Number 20K11910
Research Category

Grant-in-Aid for Scientific Research (C)

Allocation TypeMulti-year Fund
Section一般
Review Section Basic Section 61020:Human interface and interaction-related
Research InstitutionToyohashi University of Technology

Principal Investigator

Nitta Tsuneo  豊橋技術科学大学, 工学(系)研究科(研究院), シニア研究員 (70314101)

Co-Investigator(Kenkyū-buntansha) 入部 百合絵  愛知県立大学, 情報科学部, 准教授 (40397500)
田口 亮  名古屋工業大学, 工学(系)研究科(研究院), 准教授 (70508415)
桂田 浩一  東京理科大学, 理工学部情報科学科, 教授 (80324490)
Project Period (FY) 2020-04-01 – 2023-03-31
Project Status Completed (Fiscal Year 2022)
Budget Amount *help
¥4,420,000 (Direct Cost: ¥3,400,000、Indirect Cost: ¥1,020,000)
Fiscal Year 2022: ¥1,040,000 (Direct Cost: ¥800,000、Indirect Cost: ¥240,000)
Fiscal Year 2021: ¥1,690,000 (Direct Cost: ¥1,300,000、Indirect Cost: ¥390,000)
Fiscal Year 2020: ¥1,690,000 (Direct Cost: ¥1,300,000、Indirect Cost: ¥390,000)
Keywords脳波 / 音声想起 / 線形予測分析 / 音節ラベリング / 音素認識 / 母音認識 / 音節ラベリングツール / 分節情報抽出 / 超分節情報抽出 / 想起音節の認識 / 脳コンピュータインターフェース / 音声言語認識 / 脳センサー
Outline of Research at the Start

ALS(筋委縮性側索硬化症)等の疾病により,コミュニケーション手段を持たない患者が増えている(国内で1万人,世界では35万人).脳のブローカ野は,発話に必要な音声言語情報を運動野へ伝える機能を持つが,発音器官を動かすことなく音声を想起する際も,この音声言語情報は観測される.本研究では,音声想起を利用する脳コンピュータインタフェース(BCI)が実現可能なことを実証する.注力テーマは次の三つである.(1)脳波から想起内容の特徴(言語表象)を抽出する,(2)想起内容が既知の脳波に対して,音素/音節のラベル付けを支援するツールを開発する,(3)想起単語/文に対する認識実験から,音声想起BCIの可能性を示す.

Outline of Final Research Achievements

Speech imagery recognition from electroencephalograms (EEGs) could potentially become a strong contender among non-invasive brain-computer interfaces Is). We extract language representations as the difference of line-spectra of phones by analyzing many EEG signals from the Broca area. Then we extract vowels by using iterative search from hand-labelled short-syllable data. The iterative search process consists of principal component analysis (PCA) that visualizes linguistic representation of vowels through eigen-vectors φ(m), and subspace method (SM) that searches an optimum line-spectrum for redesigning φ(m). The extracted linguistic representation of Japanese vowels /i/ /e/ /a/ /o/ /u/ shows 2 distinguished spectral peaks (P1, P2) in the upper frequency range. The 5 vowels are aligned on the P1-P2 chart. The experiment of 5-vowel recognition is conducted using a data set of 5 subjects and the classifier based on convolutional neural network (CNN) shows 72.6% in average.

Academic Significance and Societal Importance of the Research Achievements

BCI研究は運動制御等の分野に限られてきたが,今回,音声言語を利用することが初めて可能になった.今回は5母音に限られているが,子音の言語表象が見出されると,脳波によるタイプライターを実現できる.この技術は ,近い将来,ALS患者ほかの方達にとって,生活の質(QoL)を格段に向上するものと期待している.

Report

(4 results)
  • 2022 Annual Research Report   Final Research Report ( PDF )
  • 2021 Research-status Report
  • 2020 Research-status Report
  • Research Products

    (13 results)

All 2023 2022 2021 2020

All Journal Article (1 results) (of which Peer Reviewed: 1 results,  Open Access: 1 results) Presentation (12 results)

  • [Journal Article] Linguistic representation of vowels in speech imagery EEG2023

    • Author(s)
      T. Nitta, J. Horikawa, Y. Iribe, R. Taguchi, K. Katsurada, S. Shinohara, and G. Kawai
    • Journal Title

      Frontiers in Human Neuroscience

      Volume: 17 Pages: 1-8

    • DOI

      10.3389/fnhum.2023.1163578

    • Related Report
      2022 Annual Research Report
    • Peer Reviewed / Open Access
  • [Presentation] 音声想起時EEG信号から言語表象を抽出する2023

    • Author(s)
      新田恒雄,堀川順正,福田拓朗,桂田浩一,鈴木大裕,入部百合絵,田口亮,篠原修二,河合剛
    • Organizer
      人工知能学会第37回全国大会
    • Related Report
      2022 Annual Research Report
  • [Presentation] 日本語音声想起時EEGを用いた音節のアクセント識別2023

    • Author(s)
      福田拓朗,澤田隼,大村英史,桂田浩一,入部百合絵,田口亮,新田恒雄
    • Organizer
      人工知能学会第37回全国大会
    • Related Report
      2022 Annual Research Report
  • [Presentation] 単音節音声想起時脳波からの不特定被検者母音認識2022

    • Author(s)
      山尾 元陽,入部 百合絵,桂田 浩一,田口 亮,新田 恒雄
    • Organizer
      日本音響学会2022年春季研究発表会
    • Related Report
      2021 Research-status Report
  • [Presentation] 脳波(EEG)信号を言語空間へ写像する- ロゼッタストーンを読み解く2022

    • Author(s)
      新田 恒雄,桂田 浩一,入部 百合絵,田口 亮,篠原 修二,河合 剛
    • Organizer
      人工知能学会第36回全国大会
    • Related Report
      2021 Research-status Report
  • [Presentation] 脳波データ用音節ラベリングツールの改良2022

    • Author(s)
      田口 亮,新田 恒雄
    • Organizer
      人工知能学会第36回全国大会
    • Related Report
      2021 Research-status Report
  • [Presentation] 音声想起時脳波(EEG)の音素認識に関する検討2022

    • Author(s)
      山尾 元陽,入部 百合絵,田口 亮,桂田 浩一,新田 恒雄
    • Organizer
      人工知能学会第36回全国大会
    • Related Report
      2021 Research-status Report
  • [Presentation] 脳波(EEG)における音声想起区間と無想起区間の分類2022

    • Author(s)
      鈴木 大祐,山尾 元陽,入部 百合絵,田口 亮,桂田 浩一,新田 恒雄
    • Organizer
      人工知能学会第36回全国大会
    • Related Report
      2021 Research-status Report
  • [Presentation] 音節列想起時EEGを用いた音節の高低アクセント識別2022

    • Author(s)
      福田 拓朗,澤田 隼,木村 英史,桂田 浩一,山尾 元陽,入部 百合絵,田口 亮,新田 恒雄
    • Organizer
      人工知能学会第36回全国大会
    • Related Report
      2021 Research-status Report
  • [Presentation] 共通空間パターンを用いた音声想起時EEGの識別2021

    • Author(s)
      細川 晃樹,山尾 元陽,入部 百合絵,田口 亮,新田 恒雄
    • Organizer
      情報処理学会第83回全国大会
    • Related Report
      2020 Research-status Report
  • [Presentation] 音声想起時脳波からの音節情報の抽出2020

    • Author(s)
      深井 健大郎,大村 英史,桂田 浩一,平田 里佳,入部 百合絵,新田 恒雄
    • Organizer
      人工知能学会第34回全国大会
    • Related Report
      2020 Research-status Report
  • [Presentation] 脳波信号を用いた音声想起時単語の認識2020

    • Author(s)
      山尾 元陽,平田 里佳,入部 百合絵, 深井 健大郎, 桂田 浩一, 新田 恒雄
    • Organizer
      人工知能学会第34回全国大会
    • Related Report
      2020 Research-status Report
  • [Presentation] 音声想起脳波データラべリング効率化のための半自動音節アライメント2020

    • Author(s)
      田口 亮,付 明川,新田 恒雄
    • Organizer
      人工知能学会第34回全国大会
    • Related Report
      2020 Research-status Report

URL: 

Published: 2020-04-28   Modified: 2024-01-30  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi