• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 前のページに戻る

自然言語処理と神経生理計測を融合した言語の神経計算モデルの構築と検証

公募研究

研究領域人工知能と脳科学の対照と融合
研究課題/領域番号 19H04990
研究種目

新学術領域研究(研究領域提案型)

配分区分補助金
審査区分 複合領域
研究機関東京大学 (2020)
早稲田大学 (2019)

研究代表者

大関 洋平  東京大学, 大学院総合文化研究科, 講師 (10821994)

研究期間 (年度) 2019-04-01 – 2021-03-31
研究課題ステータス 完了 (2020年度)
配分額 *注記
9,620千円 (直接経費: 7,400千円、間接経費: 2,220千円)
2020年度: 4,940千円 (直接経費: 3,800千円、間接経費: 1,140千円)
2019年度: 4,680千円 (直接経費: 3,600千円、間接経費: 1,080千円)
キーワード記号的生成モデル / 深層ニューラルネットワーク / 眼球運動 / 再帰的ニューラルネットワーク文法 / トランスフォーマー文法 / 言語 / 神経計算モデル / 人工知能 / 脳科学 / 認知科学 / 言語処理 / 計算認知神経科学 / 神経計算モデリング / 脳磁図 / 脳波 / 皮質脳波 / 確率オートマトン / 人工ニューラルネットワーク / オートマトン / ニューラルネットワーク
研究開始時の研究の概要

言語を対象とする人工知能研究である自然言語処理と言語を対象とする脳科学研究である言語神経生物学の間には乖離が指摘されてきた。しかしながら、これら計算・神経基盤は独立して発展してきたにも関わらず、モジュールから成るネットワークを形成しているという点で酷似しており、両者の融合が望まれる。そこで、本研究では、オートマトンおよびニューラルネットワークに基づく神経計算モデルを構築し、「脳磁図」(MEG)および「皮質脳波」(ECoG)を組み合わせた神経活動データで検証することで、言語の計算・神経基盤を解明することを目的とする。

研究実績の概要

本研究では、記号的生成モデルおよび深層ニューラルネットワークに基づく神経計算モデルを構築し、脳情報処理データで検証することで、自然言語の計算システムを解明することを目的としています。新型コロナウイルス感染症の影響により、脳磁場および皮質脳波による新規の脳情報処理データこそ完成しませんでしたが、眼球運動による既存の認知処理データを用いて、記号的生成モデルと再帰的ニューラルネットワークを融合した深層生成モデルである再帰的ニューラルネットワーク文法(Recurrent Neural Network Grammar)が、純粋な再帰的ニューラルネットワークと比べて人間らしいことを示し、更に並列処理による高速化を実現しました。また、アテンション機構を備えた大規模な深層ニューラルネットワークであるトランスフォーマー(Transformer)が、工学的には世界最高性能を達成しているにも関わらず、強力すぎる作業記憶を持つため人間らしくないことを示し、加えて記号的生成モデルとトランスフォーマーを融合した深層生成モデルであるトランスフォーマー文法(Transformer Grammar)を開発しています。以上の研究成果は、自然言語処理のトップカンファレンスであるACLおよびEMNLPにて、3本の論文として発表・出版しています。
なお、本研究課題は、JSTさきがけ「信頼されるAIの基盤技術」領域「認知・脳情報処理による人間らしい言語処理モデルの開発」へと発展しています。

現在までの達成度 (段落)

令和2年度が最終年度であるため、記入しない。

今後の研究の推進方策

令和2年度が最終年度であるため、記入しない。

報告書

(2件)
  • 2020 実績報告書
  • 2019 実績報告書
  • 研究成果

    (24件)

すべて 2022 2021 2020 2019 その他

すべて 国際共同研究 (1件) 雑誌論文 (9件) (うち国際共著 3件、 査読あり 9件、 オープンアクセス 9件) 学会発表 (4件) (うち国際学会 3件、 招待講演 4件) 備考 (9件) 学会・シンポジウム開催 (1件)

  • [国際共同研究] New York University/University of Georgia(米国)

    • 関連する報告書
      2019 実績報告書
  • [雑誌論文] Learning Argument Structures with Recurrent Neural Network Grammars2022

    • 著者名/発表者名
      Yoshida Ryo、Oseki Yohei
    • 雑誌名

      Proceedings of the Society for Computation in Linguistics 2022

      巻: - ページ: 101-111

    • 関連する報告書
      2020 実績報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] What is the role of the next generation of cognitive robotics?2021

    • 著者名/発表者名
      Shimoda Shingo、Jamone Lorenzo、Ognibene Dimitri、Nagai Takayuki、Sciutti Alessandra、Costa-Garcia Alvaro、Oseki Yohei、Taniguchi Tadahiro
    • 雑誌名

      Advanced Robotics

      巻: 36 号: 1-2 ページ: 3-16

    • DOI

      10.1080/01691864.2021.2011780

    • 関連する報告書
      2020 実績報告書
    • 査読あり / オープンアクセス / 国際共著
  • [雑誌論文] Modeling Human Sentence Processing with Left-Corner Recurrent Neural Network Grammars2021

    • 著者名/発表者名
      Yoshida Ryo、Noji Hiroshi、Oseki Yohei
    • 雑誌名

      Proceedings of the 2021 Conference on Empirical Methods in Natural Language Processing

      巻: - ページ: 2964-2973

    • DOI

      10.18653/v1/2021.emnlp-main.235

    • 関連する報告書
      2020 実績報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] Lower Perplexity is Not Always Human-Like2021

    • 著者名/発表者名
      Kuribayashi Tatsuki、Oseki Yohei、Ito Takumi、Yoshida Ryo、Asahara Masayuki、Inui Kentaro
    • 雑誌名

      Proceedings of the 59th Annual Meeting of the Association for Computational Linguistics and the 11th International Joint Conference on Natural Language Processing (Volume 1: Long Papers)

      巻: - ページ: 5203-5217

    • DOI

      10.18653/v1/2021.acl-long.405

    • 関連する報告書
      2020 実績報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] Effective Batching for Recurrent Neural Network Grammars2021

    • 著者名/発表者名
      Noji Hiroshi、Oseki Yohei
    • 雑誌名

      Findings of the Association for Computational Linguistics: ACL-IJCNLP 2021

      巻: 1 ページ: 4340-4352

    • DOI

      10.18653/v1/2021.findings-acl.380

    • 関連する報告書
      2020 実績報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] Towards the fusion of artificial intelligence and brain science of natural language2021

    • 著者名/発表者名
      Yohei Oseki, Tadahiro Taniguchi
    • 雑誌名

      Neuroscience Research

      巻: -

    • 関連する報告書
      2019 実績報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] Modeling Morphological Processing in Human Magnetoencephalography2020

    • 著者名/発表者名
      Yohei Oseki, Alec Marantz
    • 雑誌名

      Proceedings of the Society for Computation in Linguistics (SCiL)

      巻: - ページ: 209-219

    • 関連する報告書
      2019 実績報告書
    • 査読あり / オープンアクセス / 国際共著
  • [雑誌論文] Design of BCCWJ-EEG: Balanced Corpus with Human Electroencephalography2020

    • 著者名/発表者名
      Yohei Oseki, Masayuki Asahara
    • 雑誌名

      Proceedings of the International Conference on Language Resources and Evaluation (LREC)

      巻: - ページ: 189-194

    • 関連する報告書
      2019 実績報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] Modeling Human Morphological Competence2020

    • 著者名/発表者名
      Yohei Oseki, Alec Marantz
    • 雑誌名

      Frontiers in Psychology

      巻: -

    • 関連する報告書
      2019 実績報告書
    • 査読あり / オープンアクセス / 国際共著
  • [学会発表] Cognitive computational neuroscience of language processing2021

    • 著者名/発表者名
      Yohei Oseki
    • 学会等名
      Workshop on Mechanism of Brain and Mind
    • 関連する報告書
      2019 実績報告書
    • 国際学会 / 招待講演
  • [学会発表] Construction and evaluation of neurocomputational models of natural language2019

    • 著者名/発表者名
      Yohei Oseki
    • 学会等名
      RIKEN CBS Workshop: Theory towards Brains, Machines and Minds
    • 関連する報告書
      2019 実績報告書
    • 国際学会 / 招待講演
  • [学会発表] Construction and evaluation of neurocomputational models of natural language2019

    • 著者名/発表者名
      Yohei Oseki
    • 学会等名
      NII Shonan Meeting: Language as Goal-Directed Sequential Behavior
    • 関連する報告書
      2019 実績報告書
    • 国際学会 / 招待講演
  • [学会発表] 言語の神経計算モデルの構築と検証2019

    • 著者名/発表者名
      大関洋平
    • 学会等名
      生体医工学会マルチモーダル脳情報応用技術研究会
    • 関連する報告書
      2019 実績報告書
    • 招待講演
  • [備考] 人工知能と脳科学の対照と融合

    • URL

      http://www.brain-ai.jp/jp/

    • 関連する報告書
      2020 実績報告書
  • [備考] 東京大学 大学院総合文化研究科 大関研究室

    • URL

      http://phiz.c.u-tokyo.ac.jp/~oseki/

    • 関連する報告書
      2020 実績報告書
  • [備考] 東京大学 未来社会協創推進本部 AIイニシアティブ

    • URL

      https://www.u-tokyo.ac.jp/adm/fsi/ja/projects/ai/

    • 関連する報告書
      2020 実績報告書
  • [備考] 言葉を処理するAIは人のように「読み滞る」か?

    • URL

      https://www.tohoku.ac.jp/japanese/2021/08/press20210819-03-ai.html

    • 関連する報告書
      2020 実績報告書
  • [備考] 機械に人間らしく言葉を使わせるためには?

    • URL

      https://yumenavi.info/vue/lecture.html?GNKCD=g011513

    • 関連する報告書
      2020 実績報告書
  • [備考] 大関洋平

    • URL

      https://researchmap.jp/oseki

    • 関連する報告書
      2019 実績報告書
  • [備考] 大関研究室

    • URL

      http://phiz.c.u-tokyo.ac.jp/~oseki/index.html

    • 関連する報告書
      2019 実績報告書
  • [備考] 東京大学

    • URL

      https://www.u-tokyo.ac.jp/focus/ja/people/k0001_03173.html

    • 関連する報告書
      2019 実績報告書
  • [備考] 東京大学総合文化研究科

    • URL

      https://www.c.u-tokyo.ac.jp/info/research/faculty/list/lis/f024863.html

    • 関連する報告書
      2019 実績報告書
  • [学会・シンポジウム開催] Computational Psycholinguistics Tokyo (CPT)2019

    • 関連する報告書
      2019 実績報告書

URL: 

公開日: 2019-04-18   更新日: 2022-12-28  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi