2022 Fiscal Year Research-status Report
複数の事前学習モデルを利用した語義曖昧性解消のドメイン適応
| Project/Area Number |
22K12145
|
|---|
| Research Institution | Tokyo University of Agriculture and Technology |
|---|
Principal Investigator |
古宮 嘉那子 東京農工大学, 工学(系)研究科(研究院), 准教授 (10592339)
|
|---|
| Project Period (FY) |
2022-04-01 – 2025-03-31
|
| Keywords | 語義曖昧性解消 / 事前学習モデル / 分散表現 |
|---|
| Outline of Annual Research Achievements |
語義曖昧性解消の論文として、異なった古文と現代文という二つの基準の語義タグを使った研究を行い、分散表現（word2vec）を利用した手法でジャーナルを1報、現代文のBERTを利用したレキシカル・サンプルタスクの研究で国際会議を1報、さらに現代文のBERTを利用したコーパス中の全単語を対象とした語義曖昧性解消の研究で、研究会の論文を1報執筆し、発表を行った。研究会の論文はブラシュアップして国際会議に投稿予定である。さらに、日本語歴史コーパスの語義曖昧性解消の関連論文として、日本語歴史コーパスの古文から現代文への翻訳を事前学習モデルであるT5を用いて行った研究について国内学会で発表を行った。こちらについても、2023年度以降に国際会議に投稿予定である。
また、関連論文として、異なった区切りの異なった単語に関係して、ある複合語の単語の分散表現（word2vec）をそれぞれの構成語から合成する研究について、執筆したジャーナル論文が公開された。
また、副次的な研究として、語義曖昧性解消ではないが、同じ手法を用いた、単語の読みを付与するシステムを作成する研究を行った。こちらについても、異なったタグと皆さえる疑似データがシステムの正解率を上昇させるという結果を示した。この研究は、国内学会で発表済みであるが、2023年度以降に国際会議に投稿予定である。
さらに、関連論文として、「日本語 PromptBERT におけるプロンプトベース対照学習の有効性とプロンプトの性質の調査」の発表を行った。
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
語義曖昧性解消の研究として、古文コーパス（日本語歴史コーパス）を用いた実験を行った。分散表現、事前学習モデルによるレキシカルサンプルタスク、またコーパス中の全単語を対象とした語義曖昧性解消の実装が終了している。単語区切りを変えた場合や、タグを変えた場合の実験も予備実験ながら行っている。
|
| Strategy for Future Research Activity |
2023年度は、古文だけではなく、現代文を対象として語義曖昧性解消の実験を行う予定である。また、古文に対しても、前年度に行った事前学習モデルであるBERTを用いた実験だけではなく、Robertaを用いた実験についても実施しつつある。これらを踏まえて、複数の事前学習モデルを利用した場合の語義曖昧性解消についての研究を行う。また、関連研究についてもいくつかのアイディアがあるので、それらに関しても行う予定である。
|
| Causes of Carryover |
コロナの影響により、国際会議がオンラインとなったため、剰余金が生じた。今年度、学生をつれて国際会議に出張予定である。
|
