2019 Fiscal Year Annual Research Report
事象間関係知識の連続空間への埋め込みによる柔軟な推論機構の開発
| Project/Area Number |
19K20332
|
|---|
| Research Institution | Tohoku University |
|---|
Principal Investigator |
井之上 直也 東北大学, 情報科学研究科, 助教 (80778605)
|
|---|
| Project Period (FY) |
2019-04-01 – 2020-03-31
|
| Keywords | 自然言語処理 / 知識ベース / 推論 / 埋め込み / 因果関係知識 / 事前訓練済み言語モデル / 機械読解 |
|---|
| Outline of Annual Research Achievements |
下記の二つの課題それぞれに対して次のような成果が得られた．
(1) 課題1: 高精度かつ大規模な事象間関係知識ベースの構築方法の確立 事象感関係の知識ベースを自動構築する一手段として，論述文から支持・反論の関係にある文対を高精度に抽出する方法を開発した (Kuribayashi+2019)．また，特定の文書の読解に必要な知識をクラウドソーシングにより安価かつ大規模に書き下すことができる枠組みを開発した．PoC として，既存の機械読解データセット約4,000件のQAに対し回答を導くための推論知識を付与しデータセットを一般公開した (Inoue+2020, 井之上+2020)．
(2) 課題2: 事象間関係知識の連続空間上への埋め込み技術、及び推論技術の開発 事象間関係知識を連続空間上に埋め込むために，事前訓練済み言語モデルを用いて因果関係知識を埋め込む基礎検討を行った．事前訓練済み言語モデルにはある程度の因果関係知識が既に埋め込まれていること，またこれを少量の教師ありデータにおいて巧妙にファインチューニングすることにより，高い精度で因果関係認識が行えることを明らかにした (Kavumba+2019)．さらに，推論技術の基礎検討として，既存の知識ベース埋め込みの技術を利用し，エンティティ間の関係知識を連続空間上に埋め込む実験を行った．本研究の最終課題である複数の異種知識の統合を視野に入れ，テキストに自然言語で書かれた知識と構造化された知識ベース上の知識を統合的に組み合わせて推論を行うモデルを検討した (高橋+2020)．
|
