• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 前のページに戻る

脳情報空間を介してマルチモーダル認識問題を解く脳融合型AIの開発

研究課題

研究課題/領域番号 21H03535
研究種目

基盤研究(B)

配分区分補助金
応募区分一般
審査区分 小区分61060:感性情報学関連
研究機関国立研究開発法人情報通信研究機構

研究代表者

西田 知史  国立研究開発法人情報通信研究機構, 未来ICT研究所脳情報通信融合研究センター, 主任研究員 (90751933)

研究期間 (年度) 2021-04-01 – 2024-03-31
研究課題ステータス 完了 (2023年度)
配分額 *注記
17,420千円 (直接経費: 13,400千円、間接経費: 4,020千円)
2023年度: 5,070千円 (直接経費: 3,900千円、間接経費: 1,170千円)
2022年度: 5,850千円 (直接経費: 4,500千円、間接経費: 1,350千円)
2021年度: 6,500千円 (直接経費: 5,000千円、間接経費: 1,500千円)
キーワードマルチモーダル認識 / 視覚 / 聴覚 / 言語 / 脳融合 / 脳情報空間 / AI / fMRI / 脳 / 深層学習 / Masked autoencoder / 人工知能 / 音声
研究開始時の研究の概要

昨今のAI技術の発展は著しいが、脳の方が得意とする認識問題もまだ多く存在する。複数モダリティ(視覚、聴覚、言語)の情報統合が必要なパターン認識(マルチモーダル認識)もその一つに挙げられる。そこで本研究では、脳計測データからモデル化した脳情報空間を介してマルチモーダル情報を統合し、パターン認識へ利用する脳融合型AIの技術を開発する。これにより、既存AIにおけるマルチモーダル認識性能の大幅な向上を試みる。この技術が実現すれば、マルチモーダル情報があふれる実世界においてAIの適用範囲がさらに広まり、AIの社会実装が促進される。

研究成果の概要

近年著しい発展を遂げたAI技術だが、脳を模倣または利用したAI技術の開発が重要だというのは多くの研究者の共通認識である。本研究では、研究代表者の開発したAIへの脳融合手法を拡張し、脳計測データを基に構築した数理モデルを介して、各モダリティ(視覚、聴覚、言語)に対応するAIの内部表現を脳情報へ変換したうえで情報統合し、認識へ利用するための手法を開発した。この手法を用いることで、視聴覚入力と言語入力において、AIの推定性能が向上することを示した。また、視聴覚入力を統合した認識問題においてもAIの推定性能の向上が確認でき、開発手法がマルチモーダル認識に有効であることが示唆された。

研究成果の学術的意義や社会的意義

最新鋭のAI技術では、視覚情報を扱う大規模言語モデルのように、マルチモーダル認識を得意とするモデルが登場するようになってきた。ただし、脳はそれらと比べても極めてマルチモーダル認識を得意とする認識システムであり、マルチモーダル認識に脳情報を活用する手法はこれ以降も有効に利用されると期待する。特に、人間の複雑な認知が関わるような認識問題では、脳情報の利用が最適な解法となりうる。したがって、人間の認知を理解し、それに沿ってAIが振る舞うような、人間中心のAI社会を実現する基盤技術として、本研究で開発した脳情報を利用したマルチモーダル認識のための手法が大いに活用されると期待する。

報告書

(4件)
  • 2023 実績報告書   研究成果報告書 ( PDF )
  • 2022 実績報告書
  • 2021 実績報告書
  • 研究成果

    (57件)

すべて 2024 2023 2022 2021

すべて 雑誌論文 (9件) (うち国際共著 2件、 査読あり 4件、 オープンアクセス 6件) 学会発表 (47件) (うち国際学会 11件、 招待講演 12件) 産業財産権 (1件)

  • [雑誌論文] Asymmetric representation of symmetric semantic information in the human brain2024

    • 著者名/発表者名
      Wang Jiaxin、Kawahata Kiichi、Blanc Antoine、Maeda Naoya、Nishimoto Shinji、Nishida Satoshi
    • 雑誌名

      bioRxiv

      巻: -

    • DOI

      10.1101/2024.02.09.579613

    • 関連する報告書
      2023 実績報告書
    • オープンアクセス
  • [雑誌論文] Exploring Hierarchical Changes in Functional Brain Network Hubs Through Brain-Activity Prediction with Convolutional Neural Networks2023

    • 著者名/発表者名
      Kawasaki Haruka、Nishida Satoshi、Kobayashi Ichiro
    • 雑誌名

      Proceedings of 2023 IEEE International Conference on Systems, Man, and Cybernetics (SMC)

      巻: - ページ: 4740-4745

    • DOI

      10.1109/smc53992.2023.10394163

    • 関連する報告書
      2023 実績報告書
    • 査読あり
  • [雑誌論文] Disorganization of semantic brain networks in schizophrenia revealed by fMRI.2023

    • 著者名/発表者名
      Matsumoto Y, Nishida S, Hayashi R, Son S, Murakami A, Yoshikawa N, Ito H, Oishi N, Masuda N, Murai T, Friston K, Nishimoto S, *Takahashi H.
    • 雑誌名

      Schizophrenia Bulletin.

      巻: 49 号: 2 ページ: 498-506

    • DOI

      10.1093/schbul/sbac157

    • 関連する報告書
      2022 実績報告書
    • 査読あり / オープンアクセス / 国際共著
  • [雑誌論文] Behavioral and neural evidence for the underestimated attractiveness of faces synthesized using an artificial neural network2023

    • 著者名/発表者名
      Nishida Satoshi
    • 雑誌名

      bioRxiv

      巻: -

    • DOI

      10.1101/2023.02.07.527403

    • 関連する報告書
      2022 実績報告書
    • オープンアクセス
  • [雑誌論文] Reduction of Information Collection Cost for Inferring Brain Model Relations From Profile Information Using Machine Learning2022

    • 著者名/発表者名
      Shinkuma Ryoichi、Nishida Satoshi、Maeda Naoya、Kado Masataka、Nishimoto Shinji
    • 雑誌名

      IEEE Transactions on Systems, Man, and Cybernetics: Systems

      巻: 52 号: 7 ページ: 4057-4068

    • DOI

      10.1109/tsmc.2021.3074069

    • 関連する報告書
      2022 実績報告書
    • 査読あり
  • [雑誌論文] Hierarchical Processing of Visual and Language Information in the Brain2022

    • 著者名/発表者名
      Haruka Kawasaki, Satoshi Nishida, Ichiro Kobayashi
    • 雑誌名

      Findings of the Association for Computational Linguistics: AACL-IJCNLP 2022

      巻: - ページ: 405-410

    • 関連する報告書
      2022 実績報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] 日常的な認知に関わる脳情報処理のモデル化と人工脳への応用2022

    • 著者名/発表者名
      西田知史
    • 雑誌名

      情報通信研究機構研究報告

      巻: 68 ページ: 11-19

    • 関連する報告書
      2022 実績報告書
    • オープンアクセス
  • [雑誌論文] Decoding Individual Differences in Mental Information from Human Brain Response Predicted by Convolutional Neural Networks2022

    • 著者名/発表者名
      Kawahata Kiichi、Wang Jiaxin、Blanc Antoine、Maeda Naoya、Nishimoto Shinji、Nishida Satoshi
    • 雑誌名

      bioRxiv

      巻: -

    • DOI

      10.1101/2022.05.16.492029

    • 関連する報告書
      2022 実績報告書
  • [雑誌論文] Genetic influences on brain representations of natural audiovisual experiences2021

    • 著者名/発表者名
      Satoshi Nishida, Shunsuke Toyoda, Chika Honda, Mikio Watanabe, Miina Ollikainen, Eero Vuoksimaa, Jaakko Kaprio, Shinji Nishimoto
    • 雑誌名

      Research Square

      巻: -

    • DOI

      10.21203/rs.3.rs-902535/v2

    • 関連する報告書
      2021 実績報告書
    • オープンアクセス / 国際共著
  • [学会発表] コーヒーを学問する2024

    • 著者名/発表者名
      八木俊匡, 西田知史
    • 学会等名
      神戸大学 V.Schoolサロン
    • 関連する報告書
      2023 実績報告書
    • 招待講演
  • [学会発表] fMRI signals in the superior temporal cortex separately reflect inter- and intra-individual variations in music preferences2024

    • 著者名/発表者名
      Maeda C, Nishida S
    • 学会等名
      The 9th CiNet Conference: Cutting Edges of Cognitive and Action Information Processing
    • 関連する報告書
      2023 実績報告書
    • 国際学会
  • [学会発表] 脳情報の可視化とAIへの応用2024

    • 著者名/発表者名
      西田知史
    • 学会等名
      超異分野学会2024東京・関東大会
    • 関連する報告書
      2023 実績報告書
  • [学会発表] Masked Auto Encoder と対照学習を用いたfMRI データの次元圧縮法と脳媒介パターン認識への応用2024

    • 著者名/発表者名
      阿部武, 西田知史
    • 学会等名
      ニューロコンピューティング研究会
    • 関連する報告書
      2023 実績報告書
  • [学会発表] Variations in Personal Music Tastes are Reflected in the Synchronization of fMRI Signals across Individuals2024

    • 著者名/発表者名
      Maeda C, Nishida S
    • 学会等名
      脳と心のメカニズム第23回冬のワークショップ
    • 関連する報告書
      2023 実績報告書
  • [学会発表] 意味・感性に関わる脳内情報の可視化とその応用2023

    • 著者名/発表者名
      西田知史
    • 学会等名
      JEITA感性のセンシング・インタラクション技術分科会
    • 関連する報告書
      2023 実績報告書
    • 招待講演
  • [学会発表] 脳科学が拓く新たなビジネス領域:NeuroAIの開発~活用事例まで2023

    • 著者名/発表者名
      大山翔, 西田知史
    • 学会等名
      第5回 使えるセンサ・シンポジウム2023
    • 関連する報告書
      2023 実績報告書
    • 招待講演
  • [学会発表] 脳情報に基づいたAIの信頼性評価技術の開発2023

    • 著者名/発表者名
      西田知史
    • 学会等名
      2023年人工知能学会全国大会
    • 関連する報告書
      2023 実績報告書
    • 招待講演
  • [学会発表] 自然言語処理を用いた脳内意味情報の可視化とその応用2023

    • 著者名/発表者名
      西田知史
    • 学会等名
      Computational Psycholinguistics Tokyo
    • 関連する報告書
      2023 実績報告書
    • 招待講演
  • [学会発表] Localization and Representation of Visual and Language Information in the Human Brain2023

    • 著者名/発表者名
      Kawasaki H, Nishida S, Kobayashi I
    • 学会等名
      International Symposium on Advanced Intelligent Systems (ISIS) 2023
    • 関連する報告書
      2023 実績報告書
    • 国際学会
  • [学会発表] Individual variability in AI anxiety reflected in intersubject synchronization of movie-evoked fMRI signals2023

    • 著者名/発表者名
      Wang J, Nishida S
    • 学会等名
      IBRO 2023
    • 関連する報告書
      2023 実績報告書
    • 国際学会
  • [学会発表] Diversity of music preferences is reflected in intersubject synchronization of fMRI signals2023

    • 著者名/発表者名
      Maeda C, Nishida S
    • 学会等名
      IBRO 2023
    • 関連する報告書
      2023 実績報告書
    • 国際学会
  • [学会発表] ヒト脳内における視覚・意味情報の局在と表現の調査2023

    • 著者名/発表者名
      川﨑春佳, 西田知史, 小林一郎
    • 学会等名
      第39回ファジィシステムシンポジウム
    • 関連する報告書
      2023 実績報告書
  • [学会発表] A Fusion of Image Captioning Techniques Based on Ontologies and Semantic Networks Toward Human-Like Comprehension2023

    • 著者名/発表者名
      Oshiumi W, Ariyoshi M, Nishida S, Wagatsuma H
    • 学会等名
      第33回日本神経回路学会全国大会
    • 関連する報告書
      2023 実績報告書
  • [学会発表] Homogeneous concept connections across multiple scales in word representation space of schizophrenia patients revealed by topological analysis of functional magnetic resonance imaging2023

    • 著者名/発表者名
      Hayashi R, Kaji S, Matsumoto Y, Nishida S, Nishimoto S, Takahashi H
    • 学会等名
      第33回日本神経回路学会全国大会
    • 関連する報告書
      2023 実績報告書
  • [学会発表] Intersubject synchronization of music-evoked fMRI signals reflects individual diversity in music preference2023

    • 著者名/発表者名
      Maeda C, Nishida S
    • 学会等名
      第46回日本神経科学大会
    • 関連する報告書
      2023 実績報告書
  • [学会発表] The Music LP Dataset:受動的・能動的音楽刺激下のヒト脳活動に対する脳波計測2023

    • 著者名/発表者名
      羅桜, 西田知史, 小林一郎
    • 学会等名
      2023年度人工知能学会全国大会
    • 関連する報告書
      2023 実績報告書
  • [学会発表] 音楽刺激下のヒト脳内における性差の調査2023

    • 著者名/発表者名
      川﨑春佳, 茂木比奈, 西田知史, 小林一郎
    • 学会等名
      2023年度人工知能学会全国大会
    • 関連する報告書
      2023 実績報告書
  • [学会発表] 脳融合BERT:脳活動予測を介してBERTの振る舞いを脳に近づける2023

    • 著者名/発表者名
      川畑輝一, 王佳新, Blanc Antoine, 西本伸志, 西田知史
    • 学会等名
      2023年度人工知能学会全国大会
    • 関連する報告書
      2023 実績報告書
  • [学会発表] AIに対する潜在的な不安感の個人差をもたらす脳内メカニズム2023

    • 著者名/発表者名
      西田知史
    • 学会等名
      2023年度人工知能学会全国大会
    • 関連する報告書
      2023 実績報告書
  • [学会発表] 自然知覚に関わる脳情報の数理モデリングとその応用2023

    • 著者名/発表者名
      西田知史
    • 学会等名
      Spring School for Theoretical Biology 2023
    • 関連する報告書
      2022 実績報告書
    • 招待講演
  • [学会発表] 音楽刺激下の脳内情報処理における男女差の分析2023

    • 著者名/発表者名
      茂木比奈, 川﨑春佳, 羅桜, 西田知史, 小林一郎
    • 学会等名
      情報処理学会第85回全国大会
    • 関連する報告書
      2022 実績報告書
  • [学会発表] 注意機構を導入した特徴量抽出に基づく画像刺激下の脳内状態推定2023

    • 著者名/発表者名
      田口遥香, 西田知史, 西本伸志, 小林一郎
    • 学会等名
      情報処理学会第85回全国大会
    • 関連する報告書
      2022 実績報告書
  • [学会発表] Information transformation via brain-response prediction endows deep neural networks with more brain-like internal representations2023

    • 著者名/発表者名
      Kawahata K, Wang J, Blanc A, Nishimoto S, Nishida S
    • 学会等名
      脳と心のメカニズム冬のワークショップ2023
    • 関連する報告書
      2022 実績報告書
  • [学会発表] 人工脳の構築へ向けた脳情報のモデル化2022

    • 著者名/発表者名
      西田知史
    • 学会等名
      応用脳科学アカデミー&ワークショップ
    • 関連する報告書
      2022 実績報告書
    • 招待講演
  • [学会発表] 言語や五感情報を統合できる脳情報空間モデルの作成技術2022

    • 著者名/発表者名
      西田知史
    • 学会等名
      JST新技術説明会
    • 関連する報告書
      2022 実績報告書
    • 招待講演
  • [学会発表] AIを「人間らしく」する脳情報融合2022

    • 著者名/発表者名
      西田知史
    • 学会等名
      大阪大学FBSコロキウム
    • 関連する報告書
      2022 実績報告書
    • 招待講演
  • [学会発表] Validation of the Role of Attention Mechanism in Predicting Brain Activity2022

    • 著者名/発表者名
      Taguchi H, Nishida S, Nishimoto S, Kobayashi I
    • 学会等名
      SCIS&ISIS2022
    • 関連する報告書
      2022 実績報告書
    • 国際学会
  • [学会発表] Asymmetry in Representations of Semantic Symmetry in the Human Brain2022

    • 著者名/発表者名
      Wang J, Kawahata K, Blanc A, Nishimoto S, Nishida S
    • 学会等名
      International Symposium on Artificial Intelligence and Brain Science 2022
    • 関連する報告書
      2022 実績報告書
    • 国際学会
  • [学会発表] Making information representations of deep neural networks more brain-like via models for brain-response prediction2022

    • 著者名/発表者名
      Kawahata K, Wang J, Blanc A, Nishimoto S, Nishida S
    • 学会等名
      International Symposium on Artificial Intelligence and Brain Science 2022
    • 関連する報告書
      2022 実績報告書
    • 国際学会
  • [学会発表] Symmetric pairs of semantic information are represented with little overlap in the human brain2022

    • 著者名/発表者名
      Wang J, Blanc A, Nishimoto S, Nishida S
    • 学会等名
      2022 Organization for Human Brain Mapping Annual Meeting
    • 関連する報告書
      2022 実績報告書
    • 国際学会
  • [学会発表] 脳内状態推定における注意機構の役割の検証2022

    • 著者名/発表者名
      田口遥香, 西田知史, 西本伸志, 小林一郎
    • 学会等名
      第38回ファジィシステムシンポジウム (FSS2022)
    • 関連する報告書
      2022 実績報告書
  • [学会発表] Distributed, heterogeneous representations of semantically symmetric information in the human brain2022

    • 著者名/発表者名
      Wang J, Blanc A, Nishimoto S, Nishida S
    • 学会等名
      Neuro2022
    • 関連する報告書
      2022 実績報告書
  • [学会発表] Transforming information representations of deep neural networks to brain-like representations via models for brain-response prediction2022

    • 著者名/発表者名
      Kawahata K, Wang J, Blanc A, Nishimoto S, Nishida S
    • 学会等名
      Neuro2022
    • 関連する報告書
      2022 実績報告書
  • [学会発表] Randomization of semantic network in the brain of schizophrenia revealed by fMRI2022

    • 著者名/発表者名
      Matsumoto Y, Nishida S, Hayashi R, Son S, Murakami A, Yoshikawa N, Ito H, Oishi N, Masuda N, Murai T, Friston K, Nishimoto S, Takahashi H
    • 学会等名
      Neuro2022
    • 関連する報告書
      2022 実績報告書
  • [学会発表] ヒト脳内における視覚・言語情報の階層的処理の解明への取り組み2022

    • 著者名/発表者名
      川﨑春佳, 西田知史, 小林一郎
    • 学会等名
      第36回人工知能学会全国大会
    • 関連する報告書
      2022 実績報告書
  • [学会発表] 畳み込みニューラルネットワークによる脳活動予測を介した映像に対する嗜好の個人差推定2022

    • 著者名/発表者名
      川畑輝一, BLANC Antoine, 西本伸志, 西田知史
    • 学会等名
      第36回人工知能学会全国大会
    • 関連する報告書
      2022 実績報告書
  • [学会発表] Relational model for video-content grouping based on brain-activity information2022

    • 著者名/発表者名
      Oishi T, Sugano R, Shinkuma R, Maeda N, Nishida S
    • 学会等名
      センサネットワークとモバイルインテリジェンス研究会
    • 関連する報告書
      2022 実績報告書
  • [学会発表] 畳み込みニューラルネットワークによる脳活動予測を介して脳内知覚情報の個人差を推定するシステム2022

    • 著者名/発表者名
      川畑輝一, BLANC Antoine, 前田直哉, 西本伸志, 西田知史
    • 学会等名
      ニューロコンピューティング研究会
    • 関連する報告書
      2021 実績報告書
  • [学会発表] 深層学習を用いた脳内における視覚・意味情報の階層的処理の解明へ向けた取り組み2022

    • 著者名/発表者名
      川﨑春佳, 西田知史, 小林一郎
    • 学会等名
      ニューロコンピューティングけ研究会
    • 関連する報告書
      2021 実績報告書
  • [学会発表] Individual differences of natural perceptual content in the human brain can be estimated via brain response prediction using deep neural networks2022

    • 著者名/発表者名
      Kawahata K, Blanc A, Nishimoto S, Nishida S
    • 学会等名
      The 7th CiNet Conference: New horizons in brain mapping
    • 関連する報告書
      2021 実績報告書
    • 国際学会
  • [学会発表] Decoding individual differences of perceptual experiences from human brain response predicted by deep neural networks2021

    • 著者名/発表者名
      Kawahata K, Blanc A, Nishimoto S, Nishida S.
    • 学会等名
      第5回ヒト脳イメージング研究会
    • 関連する報告書
      2021 実績報告書
  • [学会発表] Genetic effects on individual differences of natural audiovisual representations in the brain2021

    • 著者名/発表者名
      Toyoda S, Nishida S, Honda C, Watanabe M, Ollikainen M, Vuoksimaa E, Kaprio J, Osaka Twin Research Group, Nishimoto S
    • 学会等名
      The 80th Fujihara Seminar: Molecular and cellular mechanisms of brain systems generating individuality
    • 関連する報告書
      2021 実績報告書
    • 国際学会
  • [学会発表] A Deep Generative Model imitating Predictive Coding in the Human Brain2021

    • 著者名/発表者名
      Kuroda E, Nishimoto S, Nishida S, Kobayashi I
    • 学会等名
      The 22nd International Symposium on Advanced Intelligent Systems
    • 関連する報告書
      2021 実績報告書
    • 国際学会
  • [学会発表] 脳科学と人工知能の融合2021

    • 著者名/発表者名
      西田知史
    • 学会等名
      応用脳科学アカデミー&ワークショップ, アドバンスコース「CiNet」第2回
    • 関連する報告書
      2021 実績報告書
    • 招待講演
  • [学会発表] 自然知覚に関わる脳情報の定量化とAIへの応用2021

    • 著者名/発表者名
      西田知史
    • 学会等名
      北陸先端科学技術大学院大学 知識科学系セミナー
    • 関連する報告書
      2021 実績報告書
    • 招待講演
  • [学会発表] 脳科学とAIの融合2021

    • 著者名/発表者名
      西田知史
    • 学会等名
      第21期金曜サイエンスサロン第1回
    • 関連する報告書
      2021 実績報告書
    • 招待講演
  • [産業財産権] 脳応答空間生成装置2022

    • 発明者名
      西田知史
    • 権利者名
      西田知史
    • 産業財産権種類
      特許
    • 産業財産権番号
      2022-122642
    • 出願年月日
      2022
    • 関連する報告書
      2022 実績報告書

URL: 

公開日: 2021-04-28   更新日: 2025-01-30  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi