• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2021 Fiscal Year Annual Research Report

Visualizing neural represeantation of mental imagery

Research Project

Project/Area Number 20H05705
Research InstitutionKyoto University

Principal Investigator

神谷 之康  京都大学, 情報学研究科, 教授 (50418513)

Co-Investigator(Kenkyū-buntansha) 塚本 光昭  株式会社国際電気通信基礎技術研究所, 脳情報通信総合研究所, 研究技術員 (00514481)
阿部 修士  京都大学, こころの未来研究センター, 准教授 (90507922)
柳澤 琢史  大阪大学, 高等共創研究院, 教授 (90533802)
Project Period (FY) 2020-08-31 – 2025-03-31
Keywords認知科学 / 神経科学 / イメージ
Outline of Annual Research Achievements

本研究課題では、脳デコーディング技術を拡張するによって、心的イメージを客観的に可視化することを目指している。これまでの研究で、ヒトの脳活動パターンを、同じイメージ内容に対応する階層的DNN特徴量に変換(デコード)することが可能になった。また、画像を知覚しているときと想起しているときで共通の脳活動パターンが見られることも確認している。これらの知見にもとづき、画像知覚時の脳活動データで訓練したデコーダを用いて、主観的なイメージを経験しているときの脳活動を、階層的DNN特徴量に変換(デコード)する。さらに、デコードされたDNN特徴量にもとづいて画素値を最適化することで、再構成画像を得る技術を開発している。これらの手法を用いて、2つの画像を重ね合わせ、そのうちの1つを注視しているときのfMRI活動から画像を生成したところ、再構成画像は、注意を向けた画像により類似していることが示された。また、表現される画像情報を保持しながら脳活動パターンを被験者間で変換する「脳コード変換器」を構築し、再構成モデルが異なる被験者間で汎化することを示した。さらに、ヒト視覚野の階層的領域とDNN階層の対応度の指標としてBrain hierarchy (BH) scoreを提案した。広く用いられている29の事前学習済みDNNのBHスコアは、画像認識性能と負の相関があり、最近開発された高性能DNNは必ずしも「脳的」でないことがわかった。脳に類似した表現を獲得するためのアーキテクチャが示唆され、心的イメージ可視化に適したDNNモデルを構築するための指針が得られた。夢見の研究のために計測したデータから、睡眠から覚醒する際、皮質と皮質下の一連の脳活動を含む2段階プロセスが進行することを見出した。また、本研究課題で開発した解析手法を、ECoG計測や異なる生物種に適用した成果を発表した。

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

コロナ感染防止のため一般の被験者を用いた実験は行っていないが、研究室メンバーを被験者として実験および予備実験をすすめることができた。

Strategy for Future Research Activity

概ね当初の計画通り研究は進んでいる。 大規模データによる事前学習済みDNNモデルを脳情報表現に適応させる研究とMEG装置を用いて高時間解像度の脳活動データを取得する研究を加速させる。

  • Research Products

    (20 results)

All 2022 2021 Other

All Journal Article (10 results) (of which Int'l Joint Research: 3 results,  Peer Reviewed: 8 results,  Open Access: 8 results) Presentation (7 results) (of which Int'l Joint Research: 4 results,  Invited: 5 results) Remarks (3 results)

  • [Journal Article] Attention modulates neural representation to render reconstructions according to subjective appearance2022

    • Author(s)
      Horikawa Tomoyasu、Kamitani Yukiyasu
    • Journal Title

      Communications Biology

      Volume: 5 Pages: 34~34

    • DOI

      10.1038/s42003-021-02975-5

    • Peer Reviewed / Open Access
  • [Journal Article] Voluntary control of semantic neural representations by imagery with conflicting visual stimulation2022

    • Author(s)
      Fukuma Ryohei、Yanagisawa Takufumi、Nishimoto Shinji、Sugano Hidenori、Tamura Kentaro、Yamamoto Shota、Iimura Yasushi、Fujita Yuya、Oshino Satoru、Tani Naoki、Koide?Majima Naoko、Kamitani Yukiyasu、Kishima Haruhiko
    • Journal Title

      Communications Biology

      Volume: 5 Pages: 214

    • DOI

      10.1038/s42003-022-03137-x

    • Peer Reviewed / Open Access
  • [Journal Article] Decoding Oscillatory Representations of Memory-Recalled Color in Macaque Prefrontal Cortex2022

    • Author(s)
      Tanigawa, H., Majima, K., Takei, R., Kawasaki, K., Sawahata, H., Nakahara, K., Iijima, A., Suzuki, T., Kamitani, Y. & *Hasegawa, I.
    • Journal Title

      Cell Reports

      Volume: - Pages: -

    • Peer Reviewed / Open Access
  • [Journal Article] Inter-individual deep image reconstruction2022

    • Author(s)
      Ho Jun Kai、Horikawa Tomoyasu、Majima Kei、Kamitani Yukiyasu
    • Journal Title

      bioRxiv

      Volume: - Pages: 56

    • DOI

      10.1101/2021.12.31.474501

    • Open Access
  • [Journal Article] ヒト脳機能研究におけるfMRIの役割2021

    • Author(s)
      阿部 修士
    • Journal Title

      Journal of the Society of Biomechanisms

      Volume: 45 Pages: 21~29

    • DOI

      10.3951/sobim.45.1_21

    • Peer Reviewed
  • [Journal Article] Data-driven electrophysiological feature based on deep learning to detect epileptic seizures2021

    • Author(s)
      Yamamoto Shota、Yanagisawa Takufumi、Fukuma Ryohei、Oshino Satoru、Tani Naoki、Khoo Hui Ming、Edakawa Kohtaroh、Kobayashi Maki、Tanaka Masataka、Fujita Yuya、Kishima Haruhiko
    • Journal Title

      Journal of Neural Engineering

      Volume: 18 Pages: 056040~056040

    • DOI

      10.1088/1741-2552/ac23bf

    • Peer Reviewed / Open Access
  • [Journal Article] Brain hierarchy score: Which deep neural networks are hierarchically brain-like?2021

    • Author(s)
      Nonaka Soma、Majima Kei、Aoki Shuntaro C.、Kamitani Yukiyasu
    • Journal Title

      iScience

      Volume: 24 Pages: 103013~103013

    • DOI

      10.1016/j.isci.2021.103013

    • Peer Reviewed / Open Access
  • [Journal Article] Natural and Artificial Intelligence: A brief introduction to the interplay between AI and neuroscience research2021

    • Author(s)
      Macpherson Tom、Churchland Anne、Sejnowski Terry、DiCarlo James、Kamitani Yukiyasu、Takahashi Hidehiko、Hikida Takatoshi
    • Journal Title

      Neural Networks

      Volume: 144 Pages: 603~613

    • DOI

      10.1016/j.neunet.2021.09.018

    • Peer Reviewed / Open Access / Int'l Joint Research
  • [Journal Article] fMRI lag structure during waking up from early sleep stages2021

    • Author(s)
      Alcaide Santiago、Sitt Jacobo、Horikawa Tomoyasu、Romano Alvaro、Maldonado Ana Carolina、Ibanez Agust?n、Sigman Mariano、Kamitani Yukiyasu、Barttfeld Pablo
    • Journal Title

      Cortex

      Volume: 142 Pages: 94~103

    • DOI

      10.1016/j.cortex.2021.06.005

    • Peer Reviewed / Open Access / Int'l Joint Research
  • [Journal Article] How emotion is experienced and expressed in multiple cultures: a large-scale experiment2021

    • Author(s)
      Cowen Alan S.、Prasad Gautam、Tanaka Misato、Kamitani Yukiyasu、Kirilyuk Vladimir、Somandepalli Krishna、Jou Brendan、Schroff Florian、Hartwig Adam、Brooks Jeffrey A、Keltner Dacher
    • Journal Title

      PsyArXiv

      Volume: - Pages: -

    • DOI

      10.31234/osf.io/gbqtc

    • Int'l Joint Research
  • [Presentation] Communication BCI using visual system2022

    • Author(s)
      Yanagisawa, T.
    • Organizer
      SISReC International Symposium Osaka-Monash University
    • Int'l Joint Research / Invited
  • [Presentation] High-performance DNNs are not brain-like2021

    • Author(s)
      Kamitani Y.
    • Organizer
      NeurIPS
    • Int'l Joint Research / Invited
  • [Presentation] Externalizing and sharing the neuroverse2021

    • Author(s)
      Kamitani, Y.
    • Organizer
      Neuromatch
    • Int'l Joint Research / Invited
  • [Presentation] Inter-individual deep image reconstruction2021

    • Author(s)
      Ho, J.K. & Kamitani, Y.
    • Organizer
      Neuromatch
    • Int'l Joint Research
  • [Presentation] 皮質脳波ビッグデータとAIによるBrain-Computer Interfaceの開発2021

    • Author(s)
      栁澤琢史、福間良平、西本伸志、菅野秀宣、田村健太郎、飯村康司、山本祥太、押野悟、谷直樹、神谷之康、貴島晴彦
    • Organizer
      日本臨床脳神経外科学会
  • [Presentation] 脳AI融合の臨床応用に向けた取り組み2021

    • Author(s)
      栁澤琢史
    • Organizer
      第8回BMI研究会
    • Invited
  • [Presentation] 皮質脳波ビッグデータとAIの医療応用2021

    • Author(s)
      栁澤琢史
    • Organizer
      関東機能的脳神経外科カンファレンス
    • Invited
  • [Remarks] Squid. Squid, Bright Green Field

    • URL

      https://brightgreenfield.squidband.uk

  • [Remarks] ライゾマティクス_マルティプレックス

    • URL

      https://www.mot-art-museum.jp/exhibitions/rhizomatiks/

  • [Remarks] Huyghe, P. Of Ideal

    • URL

      http://vip-hauserwirth.com/online-exhibitions/pierre-huyghe-of-ideal/

URL: 

Published: 2022-12-28  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi