2023 Fiscal Year Annual Research Report
経済シナリオ分析のための因果関係インスタンス認識技術の確立
| Project/Area Number |
21K12010
|
|---|
| Research Institution | Hokkaido University |
|---|
Principal Investigator |
坂地 泰紀 北海道大学, 情報科学研究院, 准教授 (70722809)
|
|---|
| Project Period (FY) |
2021-04-01 – 2024-03-31
|
| Keywords | 因果関係インスタンス / 事前学習モデル / グラフニューラルネットワーク |
|---|
| Outline of Annual Research Achievements |
タグ付けを行った決算短信データ、タグ付与済みの英語ロイターニュース記事、FinCausalのデータセットを用いて因果関係インスタンス抽出実験を行い、日英の文書から因果関係インスタンスを抽出できる手法の開発に取り組んだ。結果的に、BERTとグラフニューラルネットワークを組み合わせることで既存の手法よりも高い精度で因果関係インスタンスを抽出できる手法の開発に成功した。
また、因果関係インスタンスを抽出する前に行うフィルタリングに関する研究についても、グラフニューラルネットワークを用いる手法を提案し、「BERTとGATを用いた金融テキストにおける因果関係を含む文の判定」というタイトルで言語処理学会年次大会にて発表を行った。最終的に、本研究は、「Financial Causality Extraction based on Universal Dependencies and Clue Expressions」というタイトルで査読付き論文誌に採録された。
因果関係インスタンスを抽出するためにドメイン特化のBERTモデルの構築も行った。作成した事前学習モデルは、Web上で公開しており、誰でも無料で利用可能となっている。こちらに研究に関しては、「Constructing and analyzing domain-specific language model for financial text mining」というタイトルで査読付き論文誌に採録された。加えて、ドメイン特化の事前学習フレームワークについては、「Gradual Further Pre-training Architecture for Economics/Finance Domain Adaptation of Language Model」というタイトルで、IEEE BigData 2022に採録された。
|
