• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 前のページに戻る

共参照クラスタを明示的に推定する先行詞の解析誤りに対し頑健な共参照解析手法

研究課題

研究課題/領域番号 21K17801
研究種目

若手研究

配分区分基金
審査区分 小区分61030:知能情報学関連
研究機関奈良先端科学技術大学院大学 (2022)
東京工業大学 (2021)

研究代表者

上垣外 英剛  奈良先端科学技術大学院大学, 先端科学技術研究科, 准教授 (40817649)

研究期間 (年度) 2021-04-01 – 2023-03-31
研究課題ステータス 完了 (2022年度)
配分額 *注記
3,250千円 (直接経費: 2,500千円、間接経費: 750千円)
2022年度: 1,820千円 (直接経費: 1,400千円、間接経費: 420千円)
2021年度: 1,430千円 (直接経費: 1,100千円、間接経費: 330千円)
キーワード知識グラフ / 知識グラフの補完 / 知識グラフの埋め込み / 負例サンプリング損失 / 視覚と言語の融合タスク / 視覚と言語の融合モデル / 事前学習済み言語モデル / BERT / 言語と画像 / 画像生成 / Infoboxの生成 / 外部知識の利用 / 知識と画像 / 共参照解消 / 知識グラフ埋め込み / KGE / 共参照解析 / 深層学習 / 構造学習
研究開始時の研究の概要

既存の共参照解析器では,スコア上ではわずかなエンティティ間の結合の誤りであっても,最終的に出力するクラスタが誤って分割・統合されてしまう問題が存在する.
この問題を解決するために直接クラスタ単位でのスコアを予測することが可能な共参照解析器を提案・実装する.また提案手法が実際の予測に寄与するかを確認するために,タスクにおける共通データセットを用いて共参照解析性能を従来手法と比較する.さらに後段のタスクであるニューラル文書要約においても提案法を用いた場合の有用性を検証するための性能評価を行う.最終的には上記を通して提案法の利点・欠点を明らかにし,これらの結果を論文にまとめた上で国際会議にて発表する.

研究成果の概要

近年登場した,事前学習済み言語モデルを用いて大域的な情報を活用可能な共参照解析器を知識グラフにより支援することを目的に,知識グラフに対する補完を学習する際の理論的な分析を行なった.また,その分析に基づいて,疎な知識グラフにおける補完性能を向上させる技術についても提案した.さらに事前学習済み言語モデルが言語と画像の融合分野へと進出したことに対応し,言語と画像の両面からモデルに含まれるエンティティに関する知識を検証するタスク及びデータセットを作成し,またどのような構造のモデルが適しているかについても検証した.さらにエンティティを利用して自然言語生成モデルを制御可能かについても検証した.

研究成果の学術的意義や社会的意義

本研究では事前学習済み言語モデルに基づいた共参照解析手法を支援することを目的に,知識グラフの補完性能の向上及び視覚と画像の融合分野において事前学習済み言語モデルに含まれている知識についてを検証するためのタスク及びデータセットを提案し,実際の検証を行なった.これらの成果は事前学習済み言語モデルの学習過程では通常明示的に与えられることがない知識を扱うものであり,昨今の事前学習済み言語モデルの急速な発展の後にも利用価値を持つことが期待できる.特に視覚と画像の融合分野においてはテキストの生成および画像の生成の両面において性能向上の観点から重要な研究成果であり,共参照解析に限定されない活用が期待される.

報告書

(3件)
  • 2022 実績報告書   研究成果報告書 ( PDF )
  • 2021 実施状況報告書
  • 研究成果

    (10件)

すべて 2023 2022 その他

すべて 学会発表 (7件) (うち国際学会 2件) 備考 (3件)

  • [学会発表] Table and Image Generation for Investigating Knowledge of Entities in Pretrained Vision and Language Models2023

    • 著者名/発表者名
      Hidetaka Kamigaito
    • 学会等名
      The 61st Annual Meeting of the Association for Computational Linguistics
    • 関連する報告書
      2022 実績報告書
    • 国際学会
  • [学会発表] 視覚と言語の融合モデルにおける知識の振る舞いを調査するための表と画像の生成タスクの提案及びその調査結果2023

    • 著者名/発表者名
      上垣外英剛
    • 学会等名
      言語処理学会第29回年次大会
    • 関連する報告書
      2022 実績報告書
  • [学会発表] 知識グラフ補完のためのモデル予測に基づくサブサンプリング2023

    • 著者名/発表者名
      Xincan Feng
    • 学会等名
      言語処理学会第29回年次大会
    • 関連する報告書
      2022 実績報告書
  • [学会発表] エッジプロービングを用いた事前学習済みの視覚と言語に基づくモデルにおける言語知識の分析2023

    • 著者名/発表者名
      白井尚登
    • 学会等名
      言語処理学会第29回年次大会
    • 関連する報告書
      2022 実績報告書
  • [学会発表] 忠実性向上のためにn-gramの抽出性を報酬とする強化学習を用いる抽象型要約2023

    • 著者名/発表者名
      星野智紀
    • 学会等名
      言語処理学会第29回年次大会
    • 関連する報告書
      2022 実績報告書
  • [学会発表] Comprehensive Analysis of Negative Sampling in Knowledge Graph Representation Learning2022

    • 著者名/発表者名
      Hidetaka Kamigaito
    • 学会等名
      The 39th International Conference on Machine Learning
    • 関連する報告書
      2022 実績報告書
    • 国際学会
  • [学会発表] 知識グラフ埋め込みにおける負例サンプリング損失の分析2022

    • 著者名/発表者名
      上垣外英剛, 林克彦
    • 学会等名
      言語処理学会第28回年次大会 (NLP 2022)
    • 関連する報告書
      2021 実施状況報告書
  • [備考] ICML2022で発表した内容を再現するための実装

    • URL

      https://github.com/kamigaito/ICML2022

    • 関連する報告書
      2022 実績報告書
  • [備考] 言語処理学会第29回年次大会にて委員特別賞を受賞

    • URL

      http://isw3.naist.jp/IS/PubWG/Events-ja/2023/award20230316_kamigaito.html

    • 関連する報告書
      2022 実績報告書
  • [備考] 言語処理学会第28回年次大会表彰一覧(NLP2022)

    • URL

      https://www.anlp.jp/nlp2022/award.html

    • 関連する報告書
      2021 実施状況報告書

URL: 

公開日: 2021-04-28   更新日: 2024-01-30  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi