日本語CCG統語解析器lightblueの開発

• 研究課題/領域番号: 18H03284
• 研究種目: 基盤研究(B)
• 配分区分: 補助金
• 応募区分: 一般
• 審査区分: 小区分61030:知能情報学関連
• 研究機関: お茶の水女子大学
• 研究代表者: 戸次 大介 お茶の水女子大学, 基幹研究院, 教授 (90431783)
• 研究期間 (年度): 2018-04-01 – 2022-03-31
• 研究課題ステータス: 完了 (2022年度)
• 配分額: 17,160千円 (直接経費: 13,200千円、間接経費: 3,960千円); 2021年度: 4,290千円 (直接経費: 3,300千円、間接経費: 990千円); 2020年度: 4,290千円 (直接経費: 3,300千円、間接経費: 990千円); 2019年度: 3,900千円 (直接経費: 3,000千円、間接経費: 900千円); 2018年度: 4,680千円 (直接経費: 3,600千円、間接経費: 1,080千円)
• キーワード: 計算言語学 / 組合せ範疇文法 / 統語解析 / 深層ニューラルネットワーク / 統語解析器 / 形式意味論 / 深層学習 / 依存型理論 / 含意関係認識

研究成果の概要

本研究は、理論言語学と深層ニューラルネットのハイブリッド手法によるCCG統語解析器の開発を目的とし、RNNGの文法理論をCFGからCCGに換装したシステムであるRNN-CCGの設計と実装に成功した。また、依存型意味論(DTS)による自動定理証明器の開発も行い、R2年度にはHaskellによる証明探索アルゴリズムを実装することに成功した。並行して、大規模言語モデルによる自然言語推論の性能を評価する研究や、比較構文、Weak Crossover、Proviso問題等、依存型意味論を用いた理論言語学の経験的研究においても成果を挙げた。

研究成果の学術的意義や社会的意義

本研究では、理論言語学と機械学習を融合させた深い意味解析を行う手法や、自然言語理解の自動化を可能にするCCGパーザと依存型意味論(DTS)の研究など、自然言語処理における重要な課題に取り組んできました。これらの研究成果は、査読付き国際学会や国内学会の発表を通じて学術的に評価され、また企業向けのセミナーやメディア掲載などを通じて社会に還元されました。今後、自然言語処理のさらなる進展に向けて、理論言語学と深層学習のハイブリッドアプローチを進めることが求められます。

研究成果

• [雑誌論文] Implementing Natural Language Inference for Comparatives (2023)
  • 著者名/発表者名: Izumi Haruta, Koji Mineshima, Daisuke Bekki
  • 雑誌名: Journal of Language Modelling 巻: 10 号: 1 ページ: 139-191
  • DOI: 10.15398/jlm.v10i1.294
  • 査読あり / オープンアクセス / 国際共著
• [雑誌論文] Recurrent Neural Network CCG 構文解析器の実装 (2023)
  • 著者名/発表者名: 田上青空，戸次大介
  • 雑誌名: 言語処理学会第29回年次大会論文集 巻: ANLP2023
  • オープンアクセス
• [雑誌論文] 実テキストにおける数量表現の含意関係認識に向けて (2021)
  • 著者名/発表者名: 小谷野 華那、鈴木 莉子、春田 和泉、谷中 瞳、戸次 大介
  • 雑誌名: 人工知能学会全国大会論文集 巻: JSAI2021 号: 0 ページ: 4J2GS6e02-4J2GS6e02
  • DOI: 10.11517/pjsai.JSAI2021.0_4J2GS6e02
  • NAID: 130008051915
  • オープンアクセス
• [雑誌論文] 論理推論による症例検索に向けた日本語症例テキストの複合語解析の試案 (2021)
  • 著者名/発表者名: 石田 真捺、谷中 瞳、馬目 華奈、戸次 大介
  • 雑誌名: 人工知能学会全国大会論文集 巻: JSAI2021 号: 0 ページ: 4J3GS6f05-4J3GS6f05
  • DOI: 10.11517/pjsai.JSAI2021.0_4J3GS6f05
  • NAID: 130008052025
  • オープンアクセス
• [雑誌論文] Yesodによる日本語CCGパーザ開発環境の構築 (2021)
  • 著者名/発表者名: 石嶋 美咲、戸次 大介
  • 雑誌名: 人工知能学会全国大会論文集 巻: JSAI2021 号: 0 ページ: 4J1GS6d01-4J1GS6d01
  • DOI: 10.11517/pjsai.JSAI2021.0_4J1GS6d01
  • NAID: 130008051930
  • オープンアクセス
• [雑誌論文] 日本語形態素解析器の知識蒸留 (2021)
  • 著者名/発表者名: 田上 青空、戸次 大介
  • 雑誌名: 人工知能学会全国大会論文集 巻: JSAI2021 号: 0 ページ: 4J1GS6d02-4J1GS6d02
  • DOI: 10.11517/pjsai.JSAI2021.0_4J1GS6d02
  • NAID: 130008051929
  • オープンアクセス
• [雑誌論文] A Proof-theoretic Analysis of Weak Crossover (2021)
  • 著者名/発表者名: Bekki, Daisuke
  • 雑誌名: Proceedings of the 18th International Workshop on Logic and Engineering of Natural Language Semantics (LENLS18) 巻: LENLS18 ページ: 75-88
  • 査読あり
• [雑誌論文] The proviso problem from a proof-theoretic perspective (2021)
  • 著者名/発表者名: Yana, Yukiko; Mineshima, Koji; Bekki, Daisuke
  • 雑誌名: Proceedings of Logical Aspects of Computational Linguistics (LACL) 2021 巻: LACL2021 ページ: 159-176
  • 査読あり
• [雑誌論文] The proviso problem from a proof-theoretic perspective (2021)
  • 著者名/発表者名: Yukiko Yana, Koji Mineshima, Daisuke Bekki
  • 雑誌名: Logical Aspects of Computational Linguistics (LACL) 2021 巻: X ページ: 159-176
  • 査読あり
• [雑誌論文] A Proof-theoretic Analysis of Weak Crossover (2021)
  • 著者名/発表者名: Daisuke Bekki
  • 雑誌名: the 18th International Workshop on Logic and Engineering of Natural Language Semantics (LENLS18) 巻: X ページ: 75-88
  • 査読あり
• [雑誌論文] Combining Event Semantics and Degree Semantics for Natural Language Inference (2020)
  • 著者名/発表者名: Haruta,Izumi; Mineshima,Koji; Bekki,Daisuke;
  • 雑誌名: Proceedings of the COLING2020 (short paper), Barcelona, Spain (Online) 巻: 28 ページ: 1758-1764
  • DOI: 10.18653/v1/2020.coling-main.156
  • 査読あり / オープンアクセス
• [雑誌論文] Logical Inferences with Comparatives and Generalized Quantifiers (2020)
  • 著者名/発表者名: Haruta,Izumi; Mineshima,Koji; Bekki,Daisuke;
  • 雑誌名: Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics Student Research Workshp (ACL2020-SRW), Seattle, USA. 巻: 58 ページ: 263-270
  • DOI: 10.18653/v1/2020.acl-srw.35
  • 査読あり / オープンアクセス
• [雑誌論文] Logical Inferences with Comparatives and Generalized Quantifiers (2020)
  • 著者名/発表者名: Haruta, Izumi; Mineshima, Koji; Bekki, Daisuke;
  • 雑誌名: Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics Student Research Workshp (ACL2020-SRW) 巻: －
  • 査読あり
• [雑誌論文] Variable Handling and Compositionality: Comparing DRT and DTS (2019)
  • 著者名/発表者名: Yana Yukiko、Mineshima Koji、Bekki Daisuke
  • 雑誌名: Journal of Logic, Language and Information 巻: 28 号: 2 ページ: 261-285
  • DOI: 10.1007/s10849-019-09294-3
  • 査読あり / オープンアクセス
• [雑誌論文] A CCG-based Compositional Semantics and Inference System for Comparatives (2019)
  • 著者名/発表者名: Haruta, Izumi; Mineshima, Koji; Bekki, Daisuke;
  • 雑誌名: Proceedings of the 33rd Pacific Asia Conference on Language, Information and Computation (PACLIC33) 巻: － ページ: 67-76
  • NAID: 120006772920
  • 査読あり
• [雑誌論文] Can Neural Networks Understand Monotonicity Reasoning? (2019)
  • 著者名/発表者名: Yanaka Hitomi、Mineshima Koji、Bekki Daisuke、Inui Kentaro、Sekine Satoshi、Abzianidze Lasha、Bos Johan
  • 雑誌名: Proceedings of the 2019 ACL Workshop BlackboxNLP: Analyzing and Interpreting Neural Networks for NLP 巻: 2019 ページ: 31-40
  • DOI: 10.18653/v1/w19-4804
  • 査読あり / オープンアクセス / 国際共著
• [雑誌論文] HELP: A Dataset for Identifying Shortcomings of Neural Models in Monotonicity Reasoning (2019)
  • 著者名/発表者名: Yanaka Hitomi、Mineshima Koji、Bekki Daisuke、Inui Kentaro、Sekine Satoshi、Abzianidze Lasha、Bos Johan
  • 雑誌名: Proceedings of the Eighth Joint Conference on Lexical and Computational Semantics (*SEM 2019) 巻: 2019 ページ: 250-255
  • DOI: 10.18653/v1/s19-1027
  • 査読あり / オープンアクセス / 国際共著
• [雑誌論文] Underspecification and interpretive parallelism in Dependent Type Semantics (2019)
  • 著者名/発表者名: Kubota Yusuke、Mineshima Koji、Levine Robert、Bekki Daisuke
  • 雑誌名: Proceedings of the IWCS 2019 Workshop on Computing Semantics with Types, Frames and Related Structures 巻: 2019 ページ: 1-9
  • DOI: 10.18653/v1/w19-1001
  • 査読あり / オープンアクセス / 国際共著
• [雑誌論文] Questions in Dependent Type Semantics (2019)
  • 著者名/発表者名: Watanabe Kazuki、Mineshima Koji、Bekki Daisuke
  • 雑誌名: Proceedings of the Sixth Workshop on Natural Language and Computer Science 巻: 2019 ページ: 23-33
  • DOI: 10.18653/v1/w19-1103
  • 査読あり / オープンアクセス
• [学会発表] 組合せ範疇文法(CCG)入門 (2023)
  • 著者名/発表者名: 戸次大介
  • 学会等名: 言語学フェス2023, 2023/1/28
• [学会発表] 言語理論の証明論的転回 (2022)
  • 著者名/発表者名: 戸次大介
  • 学会等名: 言語学フェス2022, 2022/1/29
• [学会発表] A Proof-theoretic Analysis of Weak Crossover (2022)
  • 著者名/発表者名: Bekki, Daisuke
  • 学会等名: the 2nd workshop on Language Faculty Science, online, February 12
  • 国際学会 / 招待講演
• [学会発表] Dependent Types and Dynamics of Natural Language (2022)
  • 著者名/発表者名: Bekki, Daisuke
  • 学会等名: the International Workshop on Type-Theoretical Semantics (IWoTTS), online, June 25
  • 国際学会 / 招待講演
• [学会発表] 依存型と自然言語のダイナミクス (2022)
  • 著者名/発表者名: 戸次大介
  • 学会等名: みちのく情報伝達学セミナー（Mics），東北大学，2022/07/27
  • 招待講演
• [学会発表] An introduction to Combinatory Categorial Grammar (2022)
  • 著者名/発表者名: Daisuke, Bekki
  • 学会等名: A talk in IUT de bordeaux, 2022/12/13
  • 国際学会 / 招待講演
• [学会発表] A Proof-theoretic Analysis of Weak Crossover (2022)
  • 著者名/発表者名: Daisuke Bekki
  • 学会等名: the 2nd workshop on Language Faculty Science (2022/2/12)
  • 国際学会 / 招待講演
• [学会発表] 言語理論の証明論的転回 (2022)
  • 著者名/発表者名: 戸次大介
  • 学会等名: 言語学フェス2022 (2022/1/29)
• [学会発表] 理論言語学と深層学習のハイブリッドアプローチによる自然言語推論 (2021)
  • 著者名/発表者名: 戸次大介
  • 学会等名: 半導体エネルギー研究所, 2021/5/19
  • 招待講演
• [学会発表] 日本語形態素解析器の知識蒸留 (2021)
  • 著者名/発表者名: 田上青空，戸次大介
  • 学会等名: 第34回人工知能学会全国大会
• [学会発表] Yesodによる日本語CCGパーザ開発環境の構築 (2021)
  • 著者名/発表者名: 石嶋美咲，戸次大介
  • 学会等名: 第34回人工知能学会全国大会
• [学会発表] 実テキストにおける数量表現の含意関係認識に向けて (2021)
  • 著者名/発表者名: 小谷野華那，鈴木莉子，春田和泉，谷中瞳，戸次大介
  • 学会等名: 第34回人工知能学会全国大会
• [学会発表] 理論言語学と深層学習のハイブリッドアプローチによる自然言語推論 (2021)
  • 著者名/発表者名: 戸次大介
  • 学会等名: 半導体エネルギー研究所 (2021/5/19)
  • 招待講演
• [学会発表] DTSの部分体系のための定理自動証明器の実装に向けて (2021)
  • 著者名/発表者名: 大洞日音, 戸次大介
  • 学会等名: 言語処理学会第27回年次大会, 北九州国際会議場／オンライン, 2021/3/15-19.
• [学会発表] Why parsing is a part of Language Faculty Science (2020)
  • 著者名/発表者名: Bekki,Daisuke
  • 学会等名: The 2020 Zoom Workshop on Language Faculty Science: Linguistic Intuitions and Replication, 2020/12/20
  • 国際学会 / 招待講演
• [学会発表] A hybrid approach toward Natural Language Understanding (2020)
  • 著者名/発表者名: Bekki,Daisuke
  • 学会等名: Centre for Linguistic Theory and Studies in Probability (CLASP), 2020/12/09
  • 国際学会 / 招待講演
• [学会発表] Development of an automated theorem prover for the fragment of DTS (2020)
  • 著者名/発表者名: Daido,Hinari; Bekki,Daisuke;
  • 学会等名: the 17th International Workshop on Logic and Engineering of Natural Language Semantics (LENLS17).
  • 国際学会
• [学会発表] CCGと自動定理証明による比較表現の計算意味論 (2020)
  • 著者名/発表者名: 春田和泉, 峯島宏次, 戸次大介
  • 学会等名: 人工知能学会第34回年次大会, オンライン開催, 2020/6/9-12.
• [学会発表] ニューラルネットは自然言語推論の体系性を学習するか (2020)
  • 著者名/発表者名: 谷中瞳, 峯島宏次, 戸次大介, 乾健太郎
  • 学会等名: 言語処理学会第26回年次大会
• [学会発表] 汎用言語モデルBERTを用いた多言語テキストにおける意味現象タグ予測 (2020)
  • 著者名/発表者名: 伊藤美賀, 佐藤七海, 田上青空, 谷中瞳, 峯島宏次, 戸次大介
  • 学会等名: 言語処理学会第26回年次大会
• [学会発表] CCGとCoqを用いた日本語マルチモーダル推論システムの構築 (2020)
  • 著者名/発表者名: 秋山雛乃, 石嶋美咲, 石田真捺, 高野紗輝, 鈴木莉子, 谷中瞳, 峯島宏次, 戸次大介
  • 学会等名: 言語処理学会第26回年次大会
• [学会発表] マルチモーダル推論評価のための日本語データセットの試案 (2020)
  • 著者名/発表者名: 飯野早貴, 石田真捺, 小谷野華那, 松本留奈, 鈴木莉子, 谷中瞳, 峯島宏次, 戸次大介
  • 学会等名: 言語処理学会第26回年次大会
• [学会発表] クラウドソーシングによる単調推論データセットの構築 (2019)
  • 著者名/発表者名: 谷中瞳, 戸次大介, 峯島宏次, 関根聡, 乾健太郎
  • 学会等名: 第33回人工知能学会全国大会
• [学会発表] テキスト情報と画像情報を組み合わせた論理推論システムの構築 (2019)
  • 著者名/発表者名: 鈴木莉子, 吉川将司, 谷中瞳, 峯島宏次, 戸次大介
  • 学会等名: 第33回人工知能学会全国大会
• [学会発表] Dependent Types and Theory of Meaning (2019)
  • 著者名/発表者名: Bekki, Daisuke
  • 学会等名: Nanzan Workshop on the Foundational Issues in Linguistics and Philosophy of Language
  • 国際学会 / 招待講演
• [学会発表] 理論言語学に基づく自然言語理解の最前線 (2019)
  • 著者名/発表者名: 戸次大介
  • 学会等名: 日本英語学会第37回大会
  • 招待講演
• [学会発表] Hybrid natural language understanding: neural network, logic and beyond (2019)
  • 著者名/発表者名: Bekki, Daisuke; Yanaka, Hitomi
  • 学会等名: Konferenz zur Verarbeitung naturlicher Sprache (KONVENS2019)
  • 国際学会 / 招待講演
• [学会発表] 自然言語理解技術の動向 (2019)
  • 著者名/発表者名: 戸次大介
  • 学会等名: NEDO TSC Foresightセミナー（第1回）
  • 招待講演
• [学会・シンポジウム開催] Logic and Engeneering of Natural Language Semantics 19 (LENLS19) (2022)
• [学会・シンポジウム開催] Logic and Engeneering of Natural Language Semantics (LENLS18) (2021)
• [学会・シンポジウム開催] Logic and Engeneering of Natural Language Semantics (LENLS17) (2020)