• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to previous page

Development of Japanese CCG parser "lightblue"

Research Project

Project/Area Number 18H03284
Research Category

Grant-in-Aid for Scientific Research (B)

Allocation TypeSingle-year Grants
Section一般
Review Section Basic Section 61030:Intelligent informatics-related
Research InstitutionOchanomizu University

Principal Investigator

戸次 大介  お茶の水女子大学, 基幹研究院, 准教授 (90431783)

Project Period (FY) 2018-04-01 – 2022-03-31
Project Status Granted (Fiscal Year 2021)
Budget Amount *help
¥17,160,000 (Direct Cost: ¥13,200,000、Indirect Cost: ¥3,960,000)
Fiscal Year 2021: ¥4,290,000 (Direct Cost: ¥3,300,000、Indirect Cost: ¥990,000)
Fiscal Year 2020: ¥4,290,000 (Direct Cost: ¥3,300,000、Indirect Cost: ¥990,000)
Fiscal Year 2019: ¥3,900,000 (Direct Cost: ¥3,000,000、Indirect Cost: ¥900,000)
Fiscal Year 2018: ¥4,680,000 (Direct Cost: ¥3,600,000、Indirect Cost: ¥1,080,000)
Keywords計算言語学 / 統語解析 / 形式意味論 / 深層学習 / 依存型理論 / 含意関係認識
Outline of Annual Research Achievements

自然言語推論システムccg2lambdaは、組合せ範疇文法(CCG)による統語解析、高階論理による意味合成、定理自動証明器を組み合わせた自然言語推論システムである。ニューラル自然言語処理の研究が進展をみせる中で、自然言語理解における限界も明らかになりつつあり、ccg2lambdaのような理論言語学と深層学習のハイブリッドアプローチの重要性はますます増しつつある。
令和2年度は、(1) 形式統語論および形式意味論の最新の知見に基づく構造的言語処理として、ccg2lambdaによる比較構文の論理推論の研究、および (2) ccg2lambdaに替わる意味の理論である依存型意味論(DTS)による自動定理証明アルゴリズムの開発に取り組んだ。
(1) ccg2lambdaの利点として、標準的な形式意味論の分析に基づいた深い意味解析が可能であることが挙げられるが、一方で形式意味論の分析は必ずしも統一されておらず、異なる言語現象に対して異なる枠組みに基づく分析がなされていることがある。たとえば副詞の意味はevent意味論に基づいて分析され、比較構文はdegree意味論に基づいて分析されるが、本研究では、副詞の比較構文という両者が相互作用する構文を取り上げ、event意味論とdegree意味論の統一理論を設計し、ccg2lambda上で実装するとともに、言語的に困難な問題を含む様々なNLIデータセットを用いて評価した。その結果、従来の論理ベースのシステム、および深層学習ベースのシステムと比較して、高い精度を達成した。
(2) 依存型意味論による自動定理証明:自然言語の意味の理論として有力な依存型意味論(DTS)は、ΠΣ断片については、すでに型推論アルゴリズム(Bekki and Sato 2015)が存在するが、R2年度の研究ではHaskellによる証明探索アルゴリズムを実装することに成功した。

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

コロナ禍によって予定していた学会参加による情報収集、学会発表による成果発表が実現できない時期が続いたが、一方で、3件の査読付き国際学会論文発表、2件の国内学会発表、2件の国際学会招待講演、1件のメディア記事(日経サイエンス)があり、おおむね順調な成果を挙げたと考えられる。

Strategy for Future Research Activity

最終年度であるR3年度は、いよいよ理論言語学と深層学習のハイブリッドアプローチとして、1) 日本語CCGパーザlightblueに、ニューラル言語モデルによる形態素解析・格解析器を組み合わせる研究、および 2) 統語解析における制約違反をテンソル表現し、その重みを深層学習によって最適化する研究、の2つに取り組む。
また、DTSの証明探索アルゴリズムは高い適合率を示すものの再現率には課題が残るため、2021年度においても、ニューラル言語モデルとの接続可能性も視野に入れつつ引き続き取り組む。

Report

(2 results)
  • 2019 Annual Research Report
  • 2018 Annual Research Report

Research Products

(25 results)

All 2021 2020 2019

All Journal Article (9 results) (of which Int'l Joint Research: 3 results,  Peer Reviewed: 9 results,  Open Access: 7 results) Presentation (15 results) (of which Int'l Joint Research: 5 results,  Invited: 6 results) Funded Workshop (1 results)

  • [Journal Article] Combining Event Semantics and Degree Semantics for Natural Language Inference2020

    • Author(s)
      Haruta,Izumi; Mineshima,Koji; Bekki,Daisuke;
    • Journal Title

      Proceedings of the 28th International Conference on Computational Linguistics

      Volume: 28 Pages: 1758-1764

    • DOI

      10.18653/v1/2020.coling-main.156

    • Related Report
      2019 Annual Research Report
    • Peer Reviewed / Open Access
  • [Journal Article] Logical Inferences with Comparatives and Generalized Quantifiers2020

    • Author(s)
      Haruta,Izumi; Mineshima,Koji; Bekki,Daisuke;
    • Journal Title

      Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics: Student Research Workshop

      Volume: 58 Pages: 263-270

    • DOI

      10.18653/v1/2020.acl-srw.35

    • Related Report
      2019 Annual Research Report
    • Peer Reviewed / Open Access
  • [Journal Article] Logical Inferences with Comparatives and Generalized Quantifiers2020

    • Author(s)
      Haruta, Izumi; Mineshima, Koji; Bekki, Daisuke;
    • Journal Title

      Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics Student Research Workshp (ACL2020-SRW)

      Volume: -

    • Related Report
      2018 Annual Research Report
    • Peer Reviewed
  • [Journal Article] Variable Handling and Compositionality: Comparing DRT and DTS2019

    • Author(s)
      Yana Yukiko、Mineshima Koji、Bekki Daisuke
    • Journal Title

      Journal of Logic, Language and Information

      Volume: 28 Pages: 261-285

    • DOI

      10.1007/s10849-019-09294-3

    • Related Report
      2018 Annual Research Report
    • Peer Reviewed / Open Access
  • [Journal Article] A CCG-based Compositional Semantics and Inference System for Comparatives2019

    • Author(s)
      Haruta, Izumi; Mineshima, Koji; Bekki, Daisuke;
    • Journal Title

      Proceedings of the 33rd Pacific Asia Conference on Language, Information and Computation (PACLIC33)

      Volume: - Pages: 67-76

    • NAID

      120006772920

    • Related Report
      2018 Annual Research Report
    • Peer Reviewed
  • [Journal Article] Can Neural Networks Understand Monotonicity Reasoning?2019

    • Author(s)
      Yanaka Hitomi、Mineshima Koji、Bekki Daisuke、Inui Kentaro、Sekine Satoshi、Abzianidze Lasha、Bos Johan
    • Journal Title

      Proceedings of the Second BlackboxNLP workshop on Analyzing and Interpreting Neural Networks for NLP

      Volume: 2019 Pages: 31-40

    • DOI

      10.18653/v1/w19-4804

    • Related Report
      2018 Annual Research Report
    • Peer Reviewed / Open Access / Int'l Joint Research
  • [Journal Article] HELP: A Dataset for Identifying Shortcomings of Neural Models in Monotonicity Reasoning2019

    • Author(s)
      Yanaka Hitomi、Mineshima Koji、Bekki Daisuke、Inui Kentaro、Sekine Satoshi、Abzianidze Lasha、Bos Johan
    • Journal Title

      Proceedings of the Eighth Joint Conference on Lexical and Computational Semantics (*SEM 2019)

      Volume: 2019 Pages: 250-255

    • DOI

      10.18653/v1/s19-1027

    • Related Report
      2018 Annual Research Report
    • Peer Reviewed / Open Access / Int'l Joint Research
  • [Journal Article] Underspecification and interpretive parallelism in Dependent Type Semantics2019

    • Author(s)
      Kubota Yusuke、Mineshima Koji、Levine Robert、Bekki Daisuke
    • Journal Title

      Proceedings of the IWCS 2019 Workshop on Computing Semantics with Types, Frames and Related Structures (CSTFRS)

      Volume: 2019 Pages: 1-9

    • DOI

      10.18653/v1/w19-1001

    • Related Report
      2018 Annual Research Report
    • Peer Reviewed / Open Access / Int'l Joint Research
  • [Journal Article] Questions in Dependent Type Semantics2019

    • Author(s)
      Watanabe Kazuki、Mineshima Koji、Bekki Daisuke
    • Journal Title

      Proceedings of the Sixth Workshop on Natural Language and Computer Science (NLCS'19)

      Volume: 2019 Pages: 23-33

    • DOI

      10.18653/v1/w19-1103

    • Related Report
      2018 Annual Research Report
    • Peer Reviewed / Open Access
  • [Presentation] DTSの部分体系のための定理自動証明器の実装に向けて2021

    • Author(s)
      大洞日音, 戸次大介
    • Organizer
      言語処理学会第27回年次大会, 北九州国際会議場/オンライン, 2021/3/15-19.
    • Related Report
      2019 Annual Research Report
  • [Presentation] Why parsing is a part of Language Faculty Science2020

    • Author(s)
      Bekki,Daisuke
    • Organizer
      The 2020 Zoom Workshop on Language Faculty Science: Linguistic Intuitions and Replication, 2020/12/20
    • Related Report
      2019 Annual Research Report
    • Int'l Joint Research / Invited
  • [Presentation] A hybrid approach toward Natural Language Understanding2020

    • Author(s)
      Bekki,Daisuke
    • Organizer
      Centre for Linguistic Theory and Studies in Probability (CLASP), 2020/12/09
    • Related Report
      2019 Annual Research Report
    • Int'l Joint Research / Invited
  • [Presentation] Development of an automated theorem prover for the fragment of DTS2020

    • Author(s)
      Daido,Hinari; Bekki,Daisuke;
    • Organizer
      the 17th International Workshop on Logic and Engineering of Natural Language Semantics (LENLS17).
    • Related Report
      2019 Annual Research Report
    • Int'l Joint Research
  • [Presentation] CCGと自動定理証明による比較表現の計算意味論2020

    • Author(s)
      春田和泉, 峯島宏次, 戸次大介
    • Organizer
      人工知能学会第34回年次大会, オンライン開催, 2020/6/9-12.
    • Related Report
      2019 Annual Research Report
  • [Presentation] ニューラルネットは自然言語推論の体系性を学習するか2020

    • Author(s)
      谷中瞳, 峯島宏次, 戸次大介, 乾健太郎
    • Organizer
      言語処理学会第26回年次大会
    • Related Report
      2018 Annual Research Report
  • [Presentation] 汎用言語モデルBERTを用いた多言語テキストにおける意味現象タグ予測2020

    • Author(s)
      伊藤美賀, 佐藤七海, 田上青空, 谷中瞳, 峯島宏次, 戸次大介
    • Organizer
      言語処理学会第26回年次大会
    • Related Report
      2018 Annual Research Report
  • [Presentation] CCGとCoqを用いた日本語マルチモーダル推論システムの構築2020

    • Author(s)
      秋山雛乃, 石嶋美咲, 石田真捺, 高野紗輝, 鈴木莉子, 谷中瞳, 峯島宏次, 戸次大介
    • Organizer
      言語処理学会第26回年次大会
    • Related Report
      2018 Annual Research Report
  • [Presentation] マルチモーダル推論評価のための日本語データセットの試案2020

    • Author(s)
      飯野早貴, 石田真捺, 小谷野華那, 松本留奈, 鈴木莉子, 谷中瞳, 峯島宏次, 戸次大介
    • Organizer
      言語処理学会第26回年次大会
    • Related Report
      2018 Annual Research Report
  • [Presentation] クラウドソーシングによる単調推論データセットの構築2019

    • Author(s)
      谷中瞳, 戸次大介, 峯島宏次, 関根聡, 乾健太郎
    • Organizer
      第33回人工知能学会全国大会
    • Related Report
      2018 Annual Research Report
  • [Presentation] テキスト情報と画像情報を組み合わせた論理推論システムの構築2019

    • Author(s)
      鈴木莉子, 吉川将司, 谷中瞳, 峯島宏次, 戸次大介
    • Organizer
      第33回人工知能学会全国大会
    • Related Report
      2018 Annual Research Report
  • [Presentation] Dependent Types and Theory of Meaning2019

    • Author(s)
      Bekki, Daisuke
    • Organizer
      Nanzan Workshop on the Foundational Issues in Linguistics and Philosophy of Language
    • Related Report
      2018 Annual Research Report
    • Int'l Joint Research / Invited
  • [Presentation] 理論言語学に基づく自然言語理解の最前線2019

    • Author(s)
      戸次大介
    • Organizer
      日本英語学会第37回大会
    • Related Report
      2018 Annual Research Report
    • Invited
  • [Presentation] Hybrid natural language understanding: neural network, logic and beyond2019

    • Author(s)
      Bekki, Daisuke; Yanaka, Hitomi
    • Organizer
      Konferenz zur Verarbeitung naturlicher Sprache (KONVENS2019)
    • Related Report
      2018 Annual Research Report
    • Int'l Joint Research / Invited
  • [Presentation] 自然言語理解技術の動向2019

    • Author(s)
      戸次大介
    • Organizer
      NEDO TSC Foresightセミナー(第1回)
    • Related Report
      2018 Annual Research Report
    • Invited
  • [Funded Workshop] Logic and Engeneering of Natural Language Semantics (LENLS17)2020

    • Related Report
      2019 Annual Research Report

URL: 

Published: 2018-04-23   Modified: 2021-12-27  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi