2022 Fiscal Year Research-status Report
High-quality reconstruction of images and sounds from EEG signals
| Project/Area Number |
22K19807
|
|---|
| Research Institution | The University of Tokyo |
|---|
Principal Investigator |
本吉 勇 東京大学, 大学院総合文化研究科, 教授 (60447034)
|
|---|
| Project Period (FY) |
2022-06-30 – 2024-03-31
|
| Keywords | 脳波 / ＢＭＩ / 画像 / 音声 |
|---|
| Outline of Annual Research Achievements |
(1) 20の異なる材質カテゴリからなる約200の物体表面画像に対する視覚誘発電位を計測し，SVMなどの機械学習やEEGNetなどの深層モデルを用いて脳波から材質カテゴリや光沢などの材質特性知覚の判別を試みた結果，いずれも200 ms程度の潜時で十分に判別が可能であることを見出した．さらに，MVAEを用いて画像の深層特徴を脳波から逆推定し，表面のカラー画像そのものを写真レベルの精細さで再構成することに成功した．これらの知見を国内外の学会で発表し，発表賞を得た． (2) 13の異なるカテゴリからなる約200の自然情景画像に対する視覚誘発電位を計測し，EEGNetを用いて抽出した脳波の深層特徴に基づいて情景のカテゴリや人工性・開放性などのプロパティを判別可能であることを見出した．さらに，gradCAMを適用して，どの電極のどの時刻の脳波が判別に寄与したかを示すマップを形成した．その結果，異なるプロパティの判別では異なる時空間マップが得られることがわかった．これらの知見をプリプリントとして公開後，国際学術誌に投稿した．また，(2)と同様の手法で情景画像を復元し，その画像から情景カテゴリの認識が可能であるかどうかを調べる心理実験研究を開始した．(3) 約200の多彩な自然音について聴覚誘発電位を計測し，別の研究で得ていた音響テクスチャ知覚の二段階スペクトル空間を利用した逆相関分析を適用した．その結果，種々の一次・二次周波数帯域と相関する電位成分を抽出することに成功した．この知見を基礎として，深層モデルを用いた分析を開始した．
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
視覚については，当初の目的である脳波からの高品質の画像復元に成功しつつある．また，復元や判別の性能を決定づけている情報を同定するための技術開発も進展した．聴覚については，画像と異なり音声そのものが動的に変動するため，脳波との関係を解析するには別の方途が必要となることがはっきりした．
|
| Strategy for Future Research Activity |
脳波から音声を復元する技術の開発を本格化するとともに，(現時点では困難だと想像される)位置関係の情報を含む情景や物体の画像の復元を可能にする技術の開発に挑戦する．
|
| Causes of Carryover |
今年度は開発のためのプログラミングのみに集中したが，そのための実験データなどのリソースは既存のものを使用すれば十分であることが判明した．また，データが無駄にならないよう刺激選定を慎重にしたため，新たな実験データの取得は保留とせざるをえなかった．次年度は，研究員を雇用し大規模なデータ取得と国内外での成果発表を進める予定である．
|
