2019 Fiscal Year Research-status Report
Context-sensitive Natural Language Processing with Memory Mechanism
| Project/Area Number |
18K11475
|
|---|
| Research Institution | Osaka Prefecture University |
|---|
Principal Investigator |
柳本 豪一 大阪府立大学, 人間社会システム科学研究科, 准教授 (80326280)
|
|---|
| Project Period (FY) |
2018-04-01 – 2022-03-31
|
| Keywords | アテンション |
|---|
| Outline of Annual Research Achievements |
メモリネットワークとエンコーダデコーダモデルを組み合わせた対話生成システムの実装を行ない、対話生成の実験をこなった。しかし、現状のシンプルなメモリネットワークとエンコーダデコーダを組み合わせたシステムでは十分な先行発話を考慮した対話生成が行えていないことがわかった。原因としては、発話生成時における先行発話の選択が不十分であること、先行発話の内容を適切に表現した形でベクトルに表現できていない可能性があるのではないかと考えている。以上の考察に基づき、まずは先行発話の評価について改良を行った。つまり、発話生成における先行会話の重要度を把握について検討を行なった。これに対処する手法として、アテンションメカニズムを利用することが考えられる。アテンションメカニズムを実装することでテキスト生成時に必要な情報を明確にすることができ、テキスト生成の失敗時の検討が行えるようになった。しかし、アテンションとテキストとの対応性は必ずしも適切なものではなく、生成されたテキストと十分な相関があるとは言えないことがわかった。しかし、初期のアテンションを手動で変化させることで、生成するテキストを変化させることが可能であることが明確になった。これにより、柔軟なテキスト生成を行うことができるようになると考えられる。これは、人と共同してテキストを生成することができることを表しており、目的である柔軟な対話生成の実現に貢献するものである。
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
基本となるメモリーネットワークを利用した対話生成の実験を行えている。また、実験により得られた問題点である先行会話の選択について検討を進めている。特に、テキスト生成等観点からは重要度に応じた生成が可能となっており、目的であった先行発話を考慮した対話生成に直接貢献する研究成果であるため。
|
| Strategy for Future Research Activity |
メモリネットワークに現在開発しているアテンションメカニズムを組み合わせることで、適切な先行発話を考慮した発話生成システムの開発を行う。さらに、そのシステムを用いて生成発話の性能評価を行う予定である。
|
| Causes of Carryover |
本年度は提案システム基本機能の実装のため、前半は開発を既存の開発環境で主に行っていたため、物品等の購入が当初予定より少ないものとなった。さらに、年明け以降に予定していた発表がCOVID-19の関係で軒並み中止となり、想定していた旅費などの執行が減ってしまった。翌年度は開発環境の構築と、成果の発表を年度末に行う予定である。
|
