• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 前のページに戻る

言語解析における目標テキストへの特化技術に関する研究

研究課題

研究課題/領域番号 19K20351
研究種目

若手研究

配分区分基金
審査区分 小区分61030:知能情報学関連
研究機関奈良先端科学技術大学院大学 (2021-2022)
国立研究開発法人理化学研究所 (2019-2020)

研究代表者

大内 啓樹  奈良先端科学技術大学院大学, 先端科学技術研究科, 助教 (70825463)

研究期間 (年度) 2019-04-01 – 2023-03-31
研究課題ステータス 完了 (2022年度)
配分額 *注記
3,510千円 (直接経費: 2,700千円、間接経費: 810千円)
2021年度: 1,040千円 (直接経費: 800千円、間接経費: 240千円)
2020年度: 1,040千円 (直接経費: 800千円、間接経費: 240千円)
2019年度: 1,430千円 (直接経費: 1,100千円、間接経費: 330千円)
キーワード事例ベース学習 / 表現学習 / 構造予測 / 文法獲得 / トランズダクティブ学習 / Transductive Learning / Transfer Learning / Domain Adaptation / Syntactic Parsing / Semantic Parsing / Language Models / 言語解析 / ニューラルネットワーク
研究開始時の研究の概要

自然言語処理における「トランズダクティブ学習」は,もっとも実用的重要性の高い技術の一つであるにも関わらず,未だ実用化に至っていない.本応募課題では,深層学習を用いたトランズダクティブ言語解析の実用化をめざす.トランズダクティブ学習の枠組みでは,解析対象の目標テキストが学習時に所与であり,目標テキストに特化した高精度な解析モデルの構築が目的となる.そのようなモデル構築手法を確立するため,本応募課題では,(1) 目標テキストに特化した分散表現学習手法の開発,および,(2) 目標テキスト内の全事例を考慮した特徴量空間デザイン,という2 つの側面から研究を進める.

研究成果の概要

本研究では2つの研究目的を掲げた。
一つ目が「分散表現を目標テキストに特化させる手法の開発とその効果の検証」である。これは2019年度に順調に遂行することができた。
2020年度以降は、二つ目の研究目的である「同一ラベルを持つ事例が特徴ベクトル空間上で近くに位置するように学習する手法の開発とその効果の検証」に取り組んだ。各事例を特徴ベクトル空間に写像する深層ニューラルネットワークに距離学習を適用することによって、同一ラベルを持つ事例同士が特徴ベクトル空間上で近づくような学習を実現した。その結果として、学習事例との類似度に基づいてテスト事例を分類することが可能となった。

研究成果の学術的意義や社会的意義

一つ目の研究目的遂行によって、目標テキストが所与の場合はそのテキストに単語分散表現(言語モデル)を特化させることが効果的であることを示された。実応用の文脈で言い換えると、解析したい(目標)テキスト集合を手元に保有している一般企業やユーザーは、本提案手法のように目標テキストにモデルを特化させることによってより効果的に解析可能であることが示唆された。
二つ目の研究目的遂行によって、従来の深層ニューラルネットが抱える解釈性の問題への緩和策を提示した。例えば、「この学習事例と類似しているため、このテスト事例はこのように分類します」といったように、根拠を提示しながら予測を行えるようになった。

報告書

(5件)
  • 2022 実績報告書   研究成果報告書 ( PDF )
  • 2021 実施状況報告書
  • 2020 実施状況報告書
  • 2019 実施状況報告書
  • 研究成果

    (19件)

すべて 2023 2022 2021 2020 2019

すべて 雑誌論文 (2件) (うち査読あり 2件、 オープンアクセス 2件) 学会発表 (17件) (うち国際学会 8件、 招待講演 1件)

  • [雑誌論文] Enhancing Semantic Correlation between Instances and Relations for Zero-Shot Relation Extraction2023

    • 著者名/発表者名
      Van-Hien Tran, Hiroki Ouchi, Hiroyuki Shindo, Yuji Matsumoto, Taro Watanabe
    • 雑誌名

      Journal of Natural Language Processing

      巻: 30

    • 関連する報告書
      2022 実績報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] Instance-Based Neural Dependency Parsing2021

    • 著者名/発表者名
      Ouchi Hiroki、Suzuki Jun、Kobayashi Sosuke、Yokoi Sho、Kuribayashi Tatsuki、Yoshikawa Masashi、Inui Kentaro
    • 雑誌名

      Transactions of the Association for Computational Linguistics

      巻: 9 ページ: 1493-1507

    • DOI

      10.1162/tacl_a_00439

    • 関連する報告書
      2021 実施状況報告書
    • 査読あり / オープンアクセス
  • [学会発表] Improving Discriminative Learning for Zero-Shot Relation Extraction2022

    • 著者名/発表者名
      Van-Hien Tran, Hiroki Ouchi, Taro Watanabe, Yuji Matsumoto
    • 学会等名
      1st Workshop on Semiparametric Methods in NLP: Decoupling Logic from Knowledge
    • 関連する報告書
      2022 実績報告書
    • 国際学会
  • [学会発表] Law Retrieval with Supervised Contrastive Learning Using the Hierarchical Structure of Law2022

    • 著者名/発表者名
      Jungmin Choi, Ukyo Honda, Taro Watanabe, Hiroki Ouchi, Kentaro Inui
    • 学会等名
      36th Pacific Asia Conference on Language, Information and Computation
    • 関連する報告書
      2022 実績報告書
    • 国際学会
  • [学会発表] JADES: New Text Simplification Dataset in Japanese Targeted at Non-Native Speakers2022

    • 著者名/発表者名
      Akio Hayakawa, Tomoyuki Kajiwara, Hiroki Ouchi, Taro Watanabe
    • 学会等名
      Workshop on Text Simplification, Accessibility, and Readability (TSAR-2022)
    • 関連する報告書
      2022 実績報告書
    • 国際学会
  • [学会発表] Iterative Span Selection: Self-Emergence of Resolving Orders in Semantic Role Labeling2022

    • 著者名/発表者名
      Shuhei Kurita, Hiroki Ouchi, Kentaro Inui, Satoshi Sekine
    • 学会等名
      29th International Conference on Computational Linguistics
    • 関連する報告書
      2022 実績報告書
    • 国際学会
  • [学会発表] 言語モデルの第二言語獲得効率2022

    • 著者名/発表者名
      大羽未悠, 栗林樹生, 大内 啓樹, 渡辺 太郎
    • 学会等名
      情報処理学会自然言語処理研究会
    • 関連する報告書
      2022 実績報告書
  • [学会発表] Instance-Based Neural Dependency Parsing2022

    • 著者名/発表者名
      Hiroki Ouchi
    • 学会等名
      60th Annual Meeting of the Association for Computational Linguistics
    • 関連する報告書
      2021 実施状況報告書
    • 国際学会
  • [学会発表] Pseudo Zero Pronoun Resolution Improves Zero Anaphora Resolution2021

    • 著者名/発表者名
      Konno Ryuto
    • 学会等名
      The 2021 Conference on Empirical Methods in Natural Language Processing
    • 関連する報告書
      2021 実施状況報告書
    • 国際学会
  • [学会発表] An Empirical Study of Span Representations in Argumentation Structure Parsing2021

    • 著者名/発表者名
      Tatsuki Kuribayashi
    • 学会等名
      言語処理学会年次大会
    • 関連する報告書
      2021 実施状況報告書
    • 招待講演
  • [学会発表] 事例ベース依存構造解析のための依存関係表現学習2021

    • 著者名/発表者名
      Hiroki Ouchi
    • 学会等名
      言語処理学会年次大会
    • 関連する報告書
      2021 実施状況報告書
  • [学会発表] 事例ベース推論を行うニューラルモデルの説明性とハブ現象の関係2021

    • 著者名/発表者名
      Shun Sato
    • 学会等名
      情報処理学会自然言語処理研究会
    • 関連する報告書
      2021 実施状況報告書
  • [学会発表] 説明性の高いニューラルモデルの予測確信度に関する分析2021

    • 著者名/発表者名
      Shun Sato
    • 学会等名
      言語処理学会年次大会
    • 関連する報告書
      2021 実施状況報告書
  • [学会発表] 説明性の高いニューラルモデルの予測確信度に関する分析2021

    • 著者名/発表者名
      佐藤俊
    • 学会等名
      言語処理学会
    • 関連する報告書
      2020 実施状況報告書
  • [学会発表] Instance-Based Learning of Span Representations: A Case Study through Named Entity Recognition2020

    • 著者名/発表者名
      Hiroki Ouchi
    • 学会等名
      Association for Computational Linguistics
    • 関連する報告書
      2020 実施状況報告書
    • 国際学会
  • [学会発表] スパン間の類似性に基づく事例ベース構造予測2020

    • 著者名/発表者名
      大内啓樹, 鈴木潤, 小林颯介, 横井祥, 栗林樹生, 乾健太郎
    • 学会等名
      言語処理学会第26回年次大会
    • 関連する報告書
      2019 実施状況報告書
  • [学会発表] 単一評価サンプルのためのトランズダクティブ学習2020

    • 著者名/発表者名
      佐々木翔大, 大内啓樹, 鈴木潤, Ana Brassard, 乾 健太郎
    • 学会等名
      言語処理学会第26回年次大会
    • 関連する報告書
      2019 実施状況報告書
  • [学会発表] 評価データのクラスタリングを用いた記述式答案自動採点のためのトランズダクティブ学習2020

    • 著者名/発表者名
      佐藤俊, 佐々木翔大, 大内啓樹, 鈴木潤, 乾健太郎
    • 学会等名
      言語処理学会第26回年次大会
    • 関連する報告書
      2019 実施状況報告書
  • [学会発表] Transductive Learning of Neural Language Models for Syntactic and Semantic Analysis2019

    • 著者名/発表者名
      Hiroki Ouchi, Jun Suzuki
    • 学会等名
      The 2019 Conference on Empirical Methods in Natural Language Processing and the 9th International Joint Conference on Natural Language Processing (EMNLP-IJCNLP)
    • 関連する報告書
      2019 実施状況報告書
    • 国際学会

URL: 

公開日: 2019-04-18   更新日: 2024-01-30  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi