| 研究課題/領域番号 |
19K20351
|
|---|
| 研究種目 |
若手研究
|
| 配分区分 | 基金 |
|---|
| 審査区分 |
小区分61030:知能情報学関連
|
|---|
| 研究機関 | 奈良先端科学技術大学院大学 (2021)
国立研究開発法人理化学研究所 (2019-2020) |
|---|
研究代表者 |
大内 啓樹 奈良先端科学技術大学院大学, 先端科学技術研究科, 助教 (70825463)
|
|---|
| 研究期間 (年度) |
2019-04-01 – 2023-03-31
|
| 研究課題ステータス |
交付 (2021年度)
|
| 配分額 *注記 |
3,510千円 (直接経費: 2,700千円、間接経費: 810千円)
2021年度: 1,040千円 (直接経費: 800千円、間接経費: 240千円)
2020年度: 1,040千円 (直接経費: 800千円、間接経費: 240千円)
2019年度: 1,430千円 (直接経費: 1,100千円、間接経費: 330千円)
|
|---|
| キーワード | 事例ベース学習 / 表現学習 / 構造予測 / トランズダクティブ学習 / Transductive Learning / Transfer Learning / Domain Adaptation / Syntactic Parsing / Semantic Parsing / Language Models / 言語解析 / ニューラルネットワーク |
|---|
| 研究開始時の研究の概要 |
自然言語処理における「トランズダクティブ学習」は，もっとも実用的重要性の高い技術の一つであるにも関わらず，未だ実用化に至っていない．本応募課題では，深層学習を用いたトランズダクティブ言語解析の実用化をめざす．トランズダクティブ学習の枠組みでは，解析対象の目標テキストが学習時に所与であり，目標テキストに特化した高精度な解析モデルの構築が目的となる．そのようなモデル構築手法を確立するため，本応募課題では，(1) 目標テキストに特化した分散表現学習手法の開発，および，(2) 目標テキスト内の全事例を考慮した特徴量空間デザイン，という2 つの側面から研究を進める．
|
| 研究実績の概要 |
2021年度は、2020年度に開発した事例ベース学習手法をより広範なタスクに応用可能なように拡張した。より具体的には、2020年度は固有表現抽出をはじめとするフレーズ抽出タスクへの応用にとどまっていたが、2021年度は依存構造解析などの語句間の「関係」も学習可能な新たな事例ベース学習手法を提案した。また、提案した事例ベース手法の性能のみならず、解釈性（特に解釈妥当性）の観点からも定量的に検証を行った。結果として、標準的な手法と同等の予測性能（正確性）を保ちつつ、解釈性に優れる性質を持つモデルが構築可能であることを示した。さらに、自然言語処理タスクにとどまらず、画像分類タスクにおいても同様に優れたモデルを構築した。
本成果は、自然言語処理分野のトップ論文誌であるTransactions of the Association for Computational Linguistics (TACL) 2021に採録され、世界的に高い評価を得た。国内でも、情報処理学会自然言語処理研究会にて優秀研究賞を受賞した。また、2019-2020年度に開発したフレーズ表現の学習手法に関する成果は、言語処理学会論文誌「自然言語処理」にて最優秀論文賞を受賞した。
今後、2021年度に提案した提案手法を特定タスクに依存しないより汎用的な手法へとさらに一般化および高度化を目指す。特に、類似事例検索をする際に問題となる「ハブ」現象の詳細な調査を通して、事例ベース手法が成功する条件を明らかにしたい。
|
| 現在までの達成度 (区分) |
現在までの達成度 (区分)
1: 当初の計画以上に進展している
理由
当初掲げていた2つの研究目的（ひとつは目標テキストにモデルを特化させる学習法の開発、もうひとつは類似事例間の特徴ベクトル表現の効果的な学習手法の開発）を満たす手法を開発し、その効果を確認した。
|
| 今後の研究の推進方策 |
2022年度は、類似事例間の特徴ベクトル学習手法の(1)汎用性の向上と(2)巨大言語モデルとの効果的な連携に主眼を置き、更なる改善に取り組む。
|
