• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2019 Fiscal Year Annual Research Report

Development of Japanese CCG parser "lightblue"

Research Project

Project/Area Number 18H03284
Research InstitutionOchanomizu University

Principal Investigator

戸次 大介  お茶の水女子大学, 基幹研究院, 准教授 (90431783)

Project Period (FY) 2018-04-01 – 2022-03-31
Keywords計算言語学 / 統語解析 / 形式意味論 / 深層学習
Outline of Annual Research Achievements

自然言語推論システムccg2lambdaは、組合せ範疇文法(CCG)による統語解析、高階論理による意味合成、定理自動証明器を組み合わせた自然言語推論システムである。ニューラル自然言語処理の研究が進展をみせる中で、自然言語理解における限界も明らかになりつつあり、ccg2lambdaのような理論言語学と深層学習のハイブリッドアプローチの重要性はますます増しつつある。
令和2年度は、(1) 形式統語論および形式意味論の最新の知見に基づく構造的言語処理として、ccg2lambdaによる比較構文の論理推論の研究、および (2) ccg2lambdaに替わる意味の理論である依存型意味論(DTS)による自動定理証明アルゴリズムの開発に取り組んだ。
(1) ccg2lambdaの利点として、標準的な形式意味論の分析に基づいた深い意味解析が可能であることが挙げられるが、一方で形式意味論の分析は必ずしも統一されておらず、異なる言語現象に対して異なる枠組みに基づく分析がなされていることがある。たとえば副詞の意味はevent意味論に基づいて分析され、比較構文はdegree意味論に基づいて分析されるが、本研究では、副詞の比較構文という両者が相互作用する構文を取り上げ、event意味論とdegree意味論の統一理論を設計し、ccg2lambda上で実装するとともに、言語的に困難な問題を含む様々なNLIデータセットを用いて評価した。その結果、従来の論理ベースのシステム、および深層学習ベースのシステムと比較して、高い精度を達成した。
(2) 依存型意味論による自動定理証明:自然言語の意味の理論として有力な依存型意味論(DTS)は、ΠΣ断片については、すでに型推論アルゴリズム(Bekki and Sato 2015)が存在するが、R2年度の研究ではHaskellによる証明探索アルゴリズムを実装することに成功した。

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

コロナ禍によって予定していた学会参加による情報収集、学会発表による成果発表が実現できない時期が続いたが、一方で、3件の査読付き国際学会論文発表、2件の国内学会発表、2件の国際学会招待講演、1件のメディア記事(日経サイエンス)があり、おおむね順調な成果を挙げたと考えられる。

Strategy for Future Research Activity

最終年度であるR3年度は、いよいよ理論言語学と深層学習のハイブリッドアプローチとして、1) 日本語CCGパーザlightblueに、ニューラル言語モデルによる形態素解析・格解析器を組み合わせる研究、および 2) 統語解析における制約違反をテンソル表現し、その重みを深層学習によって最適化する研究、の2つに取り組む。
また、DTSの証明探索アルゴリズムは高い適合率を示すものの再現率には課題が残るため、2021年度においても、ニューラル言語モデルとの接続可能性も視野に入れつつ引き続き取り組む。

  • Research Products

    (8 results)

All 2021 2020

All Journal Article (2 results) (of which Peer Reviewed: 2 results,  Open Access: 2 results) Presentation (5 results) (of which Int'l Joint Research: 3 results,  Invited: 2 results) Funded Workshop (1 results)

  • [Journal Article] Combining Event Semantics and Degree Semantics for Natural Language Inference2020

    • Author(s)
      Haruta,Izumi; Mineshima,Koji; Bekki,Daisuke;
    • Journal Title

      Proceedings of the COLING2020 (short paper), Barcelona, Spain (Online)

      Pages: 1758-1764

    • DOI

      10.18653/v1/2020.coling-main.156

    • Peer Reviewed / Open Access
  • [Journal Article] Logical Inferences with Comparatives and Generalized Quantifiers2020

    • Author(s)
      Haruta,Izumi; Mineshima,Koji; Bekki,Daisuke;
    • Journal Title

      Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics Student Research Workshp (ACL2020-SRW), Seattle, USA.

      Pages: 263-270

    • DOI

      10.18653/v1/2020.acl-srw.35

    • Peer Reviewed / Open Access
  • [Presentation] DTSの部分体系のための定理自動証明器の実装に向けて2021

    • Author(s)
      大洞日音, 戸次大介
    • Organizer
      言語処理学会第27回年次大会, 北九州国際会議場/オンライン, 2021/3/15-19.
  • [Presentation] Why parsing is a part of Language Faculty Science2020

    • Author(s)
      Bekki,Daisuke
    • Organizer
      The 2020 Zoom Workshop on Language Faculty Science: Linguistic Intuitions and Replication, 2020/12/20
    • Int'l Joint Research / Invited
  • [Presentation] A hybrid approach toward Natural Language Understanding2020

    • Author(s)
      Bekki,Daisuke
    • Organizer
      Centre for Linguistic Theory and Studies in Probability (CLASP), 2020/12/09
    • Int'l Joint Research / Invited
  • [Presentation] Development of an automated theorem prover for the fragment of DTS2020

    • Author(s)
      Daido,Hinari; Bekki,Daisuke;
    • Organizer
      the 17th International Workshop on Logic and Engineering of Natural Language Semantics (LENLS17).
    • Int'l Joint Research
  • [Presentation] CCGと自動定理証明による比較表現の計算意味論2020

    • Author(s)
      春田和泉, 峯島宏次, 戸次大介
    • Organizer
      人工知能学会第34回年次大会, オンライン開催, 2020/6/9-12.
  • [Funded Workshop] Logic and Engeneering of Natural Language Semantics (LENLS17)2020

URL: 

Published: 2021-12-27  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi