• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 課題ページに戻る

2023 年度 実績報告書

脳科学・認知科学による人間に近いモデルに基づく日本語話し言葉解析器の構築と検証

研究課題

研究課題/領域番号 21K18115
研究機関静岡大学

研究代表者

狩野 芳伸  静岡大学, 情報学部, 准教授 (20506729)

研究分担者 酒井 邦嘉  東京大学, 大学院総合文化研究科, 教授 (10251216)
福井 直樹  上智大学, 言語科学研究科, 教授 (60208931)
研究期間 (年度) 2021-07-09 – 2024-03-31
キーワード自然言語処理 / 脳科学 / 認知科学 / 言語学
研究実績の概要

本研究の目標は、脳科学の知見を導入したより人間に近い言語処理モデルを構築することである。
言語野には「文法・読解・音韻・単語」から成る4つの言語中枢が同定されている。また、分担者(酒井)らの研究で文法関連ネットワークは少なくとも3つあることが明らかとなっている。機能的MRI(fMRI)などによる脳機能計測と機能結合(functional connectivity)の解析により、これら3つの脳内ネットワークがどのように融合されているかを明らかにする。fMRI実験の課題は、分担者(福井)を中心に、理論言語学の知見に基づきデザインし、代表者が構文や語順を題材に実験の素材となるデータを提供して実行した。
自然言語処理分野では、ほとんどすべての生成AIがそうであるように、多くのシステムでTransformerとその亜種が用いられているが、Transformerアーキテクチャがその内部で個別の情報をどのように処理しているかは定かでないため、様々な実験設定で言語学的な機能との対応を分析した。
Transformerには明示的なメモリ(記憶)がなく、必要とする学習データ量も人間に比べ桁違いに大きく冗長な可能性があること、またその内部表現の解釈が困難なことから、リカレントネットワークの記憶に明示的な解釈を強制したモデルを構築し実験を行った。
さらに、文字情報に明示的に現れない読解時の間(ポーズ)の予測を行い、話し言葉が基盤である人間の言語処理とのギャップ解消を試みた。

  • 研究成果

    (47件)

すべて 2024 2023

すべて 雑誌論文 (11件) (うち国際共著 3件、 査読あり 9件、 オープンアクセス 10件) 学会発表 (32件) (うち国際学会 7件、 招待講演 1件) 図書 (4件)

  • [雑誌論文] (forthcoming) The notion of “subject” and CED under symmetrizing syntax.2024

    • 著者名/発表者名
      Fukui, N. and Narita, H
    • 雑誌名

      To appear in New Insights into Theoretical Syntax from Asian Languages (ed. by A. Simpson).

      巻: - ページ: -

    • 査読あり
  • [雑誌論文] Enhanced activations in the dorsal inferior frontal gyrus specifying the who, when, and what for successful building of sentence structures in a new language2024

    • 著者名/発表者名
      Umejima Keita、Flynn Suzanne、Sakai Kuniyoshi L.
    • 雑誌名

      Scientific Reports

      巻: 14 ページ: 14~54

    • DOI

      10.1038/s41598-023-50896-6

    • 査読あり / オープンアクセス
  • [雑誌論文] ゼロ照応解析に基づく項省略補完による対話応答生成2024

    • 著者名/発表者名
      上山彩夏, 狩野芳伸
    • 雑誌名

      人工知能学会誌

      巻: 39 ページ: -

    • オープンアクセス
  • [雑誌論文] 生成モデルによる傾聴応答タイミングの推定と動的Prompt-Tuneを用いた応答詳細性のパラメーター制御2024

    • 著者名/発表者名
      室町俊貴, 狩野芳伸
    • 雑誌名

      人工知能学会誌

      巻: 39 ページ: -

    • オープンアクセス
  • [雑誌論文] Contribution Analysis of Large Language Models and Data Augmentations for Person Names in Solving Legal Bar Examination at COLIEE 20232024

    • 著者名/発表者名
      Onaga Takaaki、Fujita Masaki、Kano Yoshinobu
    • 雑誌名

      The Review of Socionetwork Strategies

      巻: 18 ページ: 123~143

    • DOI

      10.1007/s12626-024-00155-5

    • 査読あり / オープンアクセス
  • [雑誌論文] Overview and Discussion of the Competition on Legal Information, Extraction/Entailment (COLIEE) 20232024

    • 著者名/発表者名
      Goebel Randy、Kano Yoshinobu、Kim Mi-Young、Rabelo Juliano、Satoh Ken、Yoshioka Masaharu
    • 雑誌名

      The Review of Socionetwork Strategies

      巻: 18 ページ: 27~47

    • DOI

      10.1007/s12626-023-00152-0

    • 査読あり / オープンアクセス / 国際共著
  • [雑誌論文] Differential networks for processing structural dependencies in human language: linguistic capacity vs. memory-based ordering2023

    • 著者名/発表者名
      Umejima Keita、Nakamura Isso、Fukui Naoki、Zushi Mihoko、Narita Hiroki、Sakai Kuniyoshi L.
    • 雑誌名

      Frontiers in Psychology

      巻: 14 ページ: 1~17

    • DOI

      10.3389/fpsyg.2023.1153871

    • 査読あり / オープンアクセス
  • [雑誌論文] Diffuse glioma-induced structural reorganization in close association with preexisting syntax-related networks2023

    • 著者名/発表者名
      Kinno Ryuta、Muragaki Yoshihiro、Maruyama Takashi、Tamura Manabu、Ono Kenjiro、Tanaka Kyohei、Sakai Kuniyoshi L.
    • 雑誌名

      Cortex

      巻: 167 ページ: 283~302

    • DOI

      10.1016/j.cortex.2023.07.005

    • 査読あり / オープンアクセス / 国際共著
  • [雑誌論文] “Comparative syntax and the theory of parameters: On certain differences and similarities between Fukui and Kuroda systems.2023

    • 著者名/発表者名
      Fukui, N
    • 雑誌名

      Gengo Kenkyu Anthology

      巻: 3 ページ: 1~34

    • 査読あり / オープンアクセス
  • [雑誌論文] COLIEE 2022 Summary: Methods for Legal Document Retrieval and Entailment2023

    • 著者名/発表者名
      Kim Mi-Young、Rabelo Juliano、Goebel Randy、Yoshioka Masaharu、Kano Yoshinobu、Satoh Ken
    • 雑誌名

      Lecture Notes in Computer Science (LNAI)

      巻: 13859 ページ: 51~67

    • DOI

      10.1007/978-3-031-29168-5_4

    • 査読あり / オープンアクセス / 国際共著
  • [雑誌論文] Legal Textual Entailment Using Ensemble of Rule-Based and BERT-Based Method with Data Augmentation by Related Article Generation2023

    • 著者名/発表者名
      Fujita Masaki、Onaga Takaaki、Ueyama Ayaka、Kano Yoshinobu
    • 雑誌名

      Lecture Notes in Computer Science (LNAI)

      巻: 13859 ページ: 138~153

    • DOI

      10.1007/978-3-031-29168-5_10

    • 査読あり / オープンアクセス
  • [学会発表] 精神疾患会話コーパスを用いた笑い自動検出器構築と疾患分類2024

    • 著者名/発表者名
      香月 祥, 中村 啓伸, 岸本 泰士郎, 狩野 芳伸.
    • 学会等名
      2024年度人工知能学会全国大会(JSAI2024)
  • [学会発表] プレイヤー間の論理的情報を与えた生成AIの対話による人狼ゲームエージェントの構築2024

    • 著者名/発表者名
      渡邉 嶺王, 狩野 芳伸
    • 学会等名
      2024年度人工知能学会全国大会(JSAI2024)
  • [学会発表] 10の発言例で構成するFew-Shot Promptingによる人格の再現2024

    • 著者名/発表者名
      坪田 侑華, 狩野 芳伸
    • 学会等名
      2024年度人工知能学会全国大会(JSAI2024)
  • [学会発表] 記号と分散表現の統合のための記憶に制約を課したRNNの次単語予測による事前学習2024

    • 著者名/発表者名
      小川 麻美, 狩野 芳伸
    • 学会等名
      2024年度人工知能学会全国大会(JSAI2024)
  • [学会発表] キャラクターを設定したLLM対話生成におけるfine-tuneおよびfew shot promptの効果2024

    • 著者名/発表者名
      小澤 菜々美, 狩野 芳伸
    • 学会等名
      2024年度人工知能学会全国大会(JSAI2024)
  • [学会発表] 日本語事前学習済みBERTの言語学的機能による差分入力を用いたAttentionヘッド別機能分析2024

    • 著者名/発表者名
      馬場 海好, 狩野 芳伸
    • 学会等名
      2024年度人工知能学会全国大会(JSAI2024)
  • [学会発表] 異なる語彙とトークナイザを用いた言語モデルの事前学習と医療ドメインへの適応2024

    • 著者名/発表者名
      坂根 亜美, 村松 俊平, 堀口 裕正, 狩野 芳伸
    • 学会等名
      2024年度人工知能学会全国大会(JSAI2024)
  • [学会発表] 日本語表現での嘘つき検出器構築と汎用性検証2024

    • 著者名/発表者名
      青木 洋繁, 狩野 芳伸
    • 学会等名
      2024年度人工知能学会全国大会(JSAI2024)
  • [学会発表] 日本語GPTの蒸留における損失関数の比較2024

    • 著者名/発表者名
      鈴木就斗, 狩野芳伸
    • 学会等名
      言語処理学会第30回年次大会(NLP2024)
  • [学会発表] 日本語GPTの蒸留における損失関数の比較2024

    • 著者名/発表者名
      西村稜真, 狩野芳伸
    • 学会等名
      言語処理学会第30回年次大会(NLP2024)
  • [学会発表] Chain-of-Thought過程の誘導によるLLMの性能改善と推論過程および性能の説明性向上2024

    • 著者名/発表者名
      藤田真伎, 狩野芳伸
    • 学会等名
      言語処理学会第30回年次大会(NLP2024)
  • [学会発表] 生成 AI は含意関係認識ができるのか2024

    • 著者名/発表者名
      荒沢康平, 狩野芳伸
    • 学会等名
      言語処理学会第30回年次大会(NLP2024)
  • [学会発表] tyle SimSCE: SNSユーザ同一性に基づく対照学習によるスタイル類似性を捉えた文ベクトルの獲得.2024

    • 著者名/発表者名
      仲田明良, 狩野芳伸
    • 学会等名
      言語処理学会第30回年次大会(NLP2024)
  • [学会発表] TweetRoBERTa: 大規模SNS投稿テキストによる事前学習と各種タスクによる性能検証2024

    • 著者名/発表者名
      高須遼, 狩野芳伸
    • 学会等名
      言語処理学会第30回年次大会(NLP2024)
  • [学会発表] STaMP: 個人の性格や政治的立場等の多面的特性と紐づくSNS データの構築及び文章スタイルによる個人特性予測2024

    • 著者名/発表者名
      福畠汐音, 仲田明良, 佐橋優人, 増川哲太, 三輪洋文, 野中尚人, 木下翔太郎, 岸本泰士郎, 五十嵐彰, 岡久太郎, 狩野芳伸
    • 学会等名
      言語処理学会第30回年次大会(NLP2024)
  • [学会発表] 読解時の視線認識情報と音声発話コーパスを用いたポーズの予測とその比較2024

    • 著者名/発表者名
      林小春, 狩野芳伸
    • 学会等名
      言語処理学会第30回年次大会(NLP2024)
  • [学会発表] Better Brain Use by Writing on Paper than on Tablet or Smartphone2023

    • 著者名/発表者名
      Sakai, K. L.
    • 学会等名
      UWA Conference 2023
    • 国際学会 / 招待講演
  • [学会発表] Dialogue Response Generation Using Completion of Omitted Predicate Arguments Based on Zero Anaphora Resolution2023

    • 著者名/発表者名
      Ayaka Ueyama, Yoshinobu Kano
    • 学会等名
      24th Meeting of the Special Interest Group on Discourse and Dialogue (SIGDIAL2023)
    • 国際学会
  • [学会発表] Estimation of Listening Response Timing by Generative Model and Parameter Control of Response Substantialness Using Dynamic-Prompt-Tune2023

    • 著者名/発表者名
      Toshiki Muromachi, Yoshinobu Kano
    • 学会等名
      24th INTERSPEECH Conference
    • 国際学会
  • [学会発表] Japanese Legal Bar Problem Solver Focusing on Person Names2023

    • 著者名/発表者名
      Takaaki Onaga, Masaki Fujita and Yoshinobu Kano
    • 学会等名
      COLIEE-2023 Workshop on International Conference on Artificial Intelligence and Law (ICAIL 2023)
    • 国際学会
  • [学会発表] Summary of the Competition on Legal Information, Extraction/Entailment (COLIEE) 20232023

    • 著者名/発表者名
      Randy Goebel, Yoshinobu Kano
    • 学会等名
      COLIEE-2023 Workshop on International Conference on Artificial Intelligence and Law (ICAIL 2023)
    • 国際学会
  • [学会発表] KIS's Stance Classfication Model at the NTCIR-17 QA Lab-PoliInfo-42023

    • 著者名/発表者名
      Akira Nakada and Yoshinobu Kano
    • 学会等名
      In proceedings of NTCIR-17 conference
    • 国際学会
  • [学会発表] AIWolfDial 2023: Summary of Natural Language Division of 5th International AIWolf Contest2023

    • 著者名/発表者名
      Yoshinobu Kano, Neo Watanabe, Kaito Kagaminuma, Claus Aranha, Jaewon Lee, Benedek Hauer, Hisaichi Shibata, Soichiro Miki, Yuta Nakamura, Takuya Okubo, Soga Shigemura, Rei Ito, Kazuki Takashima, et al
    • 学会等名
      The 16th International Natural Language Generation Conference (INLG 2023)
    • 国際学会
  • [学会発表] 生成AIの可能性と限界.2023

    • 著者名/発表者名
      狩野芳伸
    • 学会等名
      立命館シンポジウム「AI技術の応用と法的課題」
  • [学会発表] 打ち言葉に特化させた学習手法を用いた親密度推定モデル2023

    • 著者名/発表者名
      仲田明良, 狩野芳伸
    • 学会等名
      NLP若手の会 (YANS) 第18回シンポジウム (2023)
  • [学会発表] 機械学習モデルを用いた構造化文書からの情報抽出2023

    • 著者名/発表者名
      竹下虎太朗, 安立健人, 狩野芳伸.
    • 学会等名
      NLP若手の会 (YANS) 第18回シンポジウム (2023)
  • [学会発表] text embeddingを用いたデータ作成支援の検討2023

    • 著者名/発表者名
      満石風斗, 安立健人, 狩野芳伸
    • 学会等名
      NLP若手の会 (YANS) 第18回シンポジウム (2023)
  • [学会発表] 診断付き精神疾患会話コーパスを用いたうつ病の重症度自動分類と特徴量分析2023

    • 著者名/発表者名
      香月 祥、田中 宏和、中村 啓信、岸本 泰士郎、狩野 芳伸
    • 学会等名
      2023年度人工知能学会全国大会(JSAI2023)
  • [学会発表] 見出し階層性を考慮したウェブ記事目次テキストの自動生成2023

    • 著者名/発表者名
      鈴木 就斗、狩野 芳伸
    • 学会等名
      2023年度人工知能学会全国大会(JSAI2023)
  • [学会発表] 機械学習による精神疾患の分類と有効的な特徴量についての検討2023

    • 著者名/発表者名
      田中 宏和、香月 祥、中村 啓伸、岸本 泰士郎、狩野 芳伸
    • 学会等名
      2023年度人工知能学会全国大会(JSAI2023)
  • [学会発表] 大規模電子カルテデータによるがん治療効果予測のための大腸がん患者の腫瘍マーカー値増減推測と重要特徴量分析2023

    • 著者名/発表者名
      村松 俊平、渡辺 結香、平川 聡史、山本 圭祐、柏原 道志、澤 昇平、福本 拓也、堀口 裕正、五十嵐 正尚、奥村 貴史、狩野 芳伸
    • 学会等名
      2023年度人工知能学会全国大会(JSAI2023)
  • [学会発表] 新型コロナ感染症発生届の分析-記載における非効率と自然言語処理による解決への課題と展望-2023

    • 著者名/発表者名
      福本 拓也、坂根 亜美、村松 俊平、五十嵐 正尚、狩野 芳伸、荒牧 英治、堀口 裕正、奥村 貴史
    • 学会等名
      2023年度人工知能学会全国大会(JSAI2023)
  • [図書] (forthcoming) Parametric Syntax. Elements in Generative Grammar (ed. by R. Freidin),2024

    • 著者名/発表者名
      Fukui, N. and H. Narita
    • 総ページ数
      -
    • 出版者
      Cambridge University Press (reviewed and contracted)
  • [図書] (近刊) 「言語の構造:統辞法」 畑博代(編)『言語聴覚障害学』,2024

    • 著者名/発表者名
      福井直樹
    • 総ページ数
      -
    • 出版者
      文光堂
  • [図書] いま、なぜ「紙」の教科書なのか.2023

    • 著者名/発表者名
      山口寿一,酒井邦嘉
    • 総ページ数
      2
    • 出版者
      かもがわ出版
    • ISBN
      978-4-7803-1281-2
  • [図書] 『我々はどのような生き物なのか --- 言語と政治を めぐる二講演』2023

    • 著者名/発表者名
      チョムスキー, ノーム 著, 福井直樹・辻子美保子編訳
    • 総ページ数
      -
    • 出版者
      岩波現代文庫
    • ISBN
      978-4-00-600465-1

URL: 

公開日: 2024-12-25  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi