• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2016 Fiscal Year Annual Research Report

Brain decoding of impressions on visual images

Research Project

Project/Area Number 26870935
Research InstitutionAdvanced Telecommunications Research Institute International

Principal Investigator

堀川 友慈  株式会社国際電気通信基礎技術研究所, 脳情報通信総合研究所, 主任研究員 (60721876)

Project Period (FY) 2014-04-01 – 2017-03-31
Keywords脳情報デコーディング / fMRI / 深層ニューラルネットワーク / 印象
Outline of Annual Research Achievements

本研究は、ヒトが画像に対して抱く印象の情報を、脳活動から解読する技術の開発を目的とし、画像観察時の脳活動から、脳情報デコーディング技術を利用することで、脳活動パターンに表現されている多様な脳内情報の解読を試みたものである。この目的を達成するためのアプローチとして、解読したい情報が多数の分解可能な要素の組み合わせで表現されているとみなし、各要素の脳情報デコーディング結果の組み合わせから、任意の情報の解読を行う「モジュラ・デコーディング」を採用した。従来の研究では、提示画像の低次視覚特徴を介したモジュラ・デコーディングの有用性が示されていたが、本研究では、同様のアプローチを、深層ニューラルネットワークで表現される多様な複雑さを有する特徴量に応用することで、物体画像を見ている時、想像している時、さらには夢で見ている時の脳活動から、任意の物体カテゴリの解読を行うことに成功した。また、深層ニューラルネットワーク上の視覚特徴の複雑さのレベルに応じて、高い成績で予測できる視覚野の階層が異なっていたことから、本アプローチを利用して、各脳部位にどのような情報が表現されているかを調べることが可能であることも示唆された。これらの結果によって、高次の視覚情報に対するモジュラ・デコーディングの有用性を確認するとともに、さらに高次の印象情報への適用の土台を構築することができた。以上の結果に関して、学会や論文を通して対外的に発表を行うとともに、解析に使用したデータやコードを専用のウェブサイトで公開した。また,画像の表面特性に対する視覚的印象や、好き嫌いの印象、さらに印象の強さ、などを評定したスコアを脳活動から解読することに成功し、それぞれの印象情報が、脳の広範な部位から解読可能であることを確認することができた。この結果は、脳から印象を読み出す新たな印象評定手段の実現可能性を示唆するものである。

  • Research Products

    (8 results)

All 2017 2016 Other

All Journal Article (3 results) (of which Peer Reviewed: 3 results,  Open Access: 3 results,  Acknowledgement Compliant: 2 results) Presentation (3 results) (of which Int'l Joint Research: 3 results,  Invited: 2 results) Book (1 results) Remarks (1 results)

  • [Journal Article] Generic decoding of seen and imagined objects using hierarchical visual features2017

    • Author(s)
      Tomoyasu Horikawa, and Yukiyasu Kamitani
    • Journal Title

      Nature Communications

      Volume: 印刷中 Pages: 印刷中

    • Peer Reviewed / Open Access / Acknowledgement Compliant
  • [Journal Article] Hierarchical Neural Representation of Dreamed Objects Revealed by Brain Decoding with Deep Neural Network Features2017

    • Author(s)
      Tomoyasu Horikawa, and Yukiyasu Kamitani
    • Journal Title

      Frontiers in computational neuroscience

      Volume: - Pages: -

    • DOI

      10.3389/fncom.2017.00004

    • Peer Reviewed / Open Access / Acknowledgement Compliant
  • [Journal Article] Position Information Encoded by Population Activity in Hierarchical Visual Areas2017

    • Author(s)
      Kei Majima, Paul Sukhanov, Tomoyasu Horikawa, and Yukiyasu Kamitani
    • Journal Title

      eNeuro

      Volume: - Pages: -

    • DOI

      10.1523/ENEURO.0268-16.2017

    • Peer Reviewed / Open Access
  • [Presentation] Shared hierarchical neural representation for perception, imagery, and dreaming2017

    • Author(s)
      Tomoyasu Horikawa
    • Organizer
      NSF-NICT Collaborative Workshop on Computational Neuroscience
    • Place of Presentation
      Osaka, Japan
    • Year and Date
      2017-01-17 – 2017-01-18
    • Int'l Joint Research / Invited
  • [Presentation] Brain decoding via deep neural network feature representation"2016

    • Author(s)
      Tomoyasu Horikawa
    • Organizer
      第39回日本神経科学大会
    • Place of Presentation
      Chiba, Japan
    • Year and Date
      2016-07-20 – 2016-07-22
    • Int'l Joint Research / Invited
  • [Presentation] Generic decoding of seen and imagined objects using features of deep neural networks2016

    • Author(s)
      Tomoyasu Horikawa, and Yukiyasu Kamitani
    • Organizer
      Vision science society
    • Place of Presentation
      Florida, USA
    • Year and Date
      2016-05-13 – 2016-05-18
    • Int'l Joint Research
  • [Book] DOUJIN BIOSCIENCE 睡眠科学2017

    • Author(s)
      堀川友慈, 神谷之康
    • Total Pages
      344
    • Publisher
      化学同人
  • [Remarks] Codes and data for the Generic decoding study

    • URL

      https://github.com/KamitaniLab/GenericObjectDecoding

URL: 

Published: 2018-01-16  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi