2018 Fiscal Year Research-status Report
Context-sensitive Natural Language Processing with Memory Mechanism
| Project/Area Number |
18K11475
|
|---|
| Research Institution | Osaka Prefecture University |
|---|
Principal Investigator |
柳本 豪一 大阪府立大学, 人間社会システム科学研究科, 准教授 (80326280)
|
|---|
| Project Period (FY) |
2018-04-01 – 2022-03-31
|
| Keywords | 対話生成 / 深層学習 |
|---|
| Outline of Annual Research Achievements |
AttentionベースのSequence-to-Sequenceに基づいた対話生成システムの開発を行い、実際に対話システム構築することで、ニューラルネットワークベースの対話システムの評価を行なった。この評価では、一文内における係り受けなどの妥当性を評価する結束性(cohesion)を満たす文が生成できることを確認することはできたが、文間をまたいだ統一性の判断基準である一貫性(coherence)については十分でないことを確認した。特に、発話に関しては前後の文脈を十分考慮できていないものが生成されており、取り組むべき課題が明確になった。また、このような発話の一貫性のなさが対話における不自然感を強めることも確認できた。この発話の一貫性のなさに関する課題に取り組むために、過去の発話内容を記憶するメモリ(記憶)を用いたシステムが有効であると確信し、記憶を組み込んだ対話生成システムの設計を行った。特に、発話の情報を保存しているEncoderとDecoder間の中間表現に着目し、これを保存することで先行発話との一貫性を確保した対話の生成に取り組もうと考えている。また、この設計に基づいたプロトタイプシステムの実装に取り組んでいるところである。特に、ニューラルネットワークが従来に比べ複雑になるため、学習における時間の短縮が必要になると考えている。このため、計算機資源を考慮したシステム実装について検討を行なっているところである。
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
まず、既存技術の問題点を明確にし、本課題の中心的トピックである記憶を利用した対話システムの設計を行うことができており、当初の予定に従った進捗である。今後は、プロトタイプシステムの実装の段階に移る段階で、計算資源を考慮した実装に関する課題についても明確になっており、特に問題はないと判断している。
|
| Strategy for Future Research Activity |
今後については、プロトタイプシステムを構築して実験を行うことで、対話生成における記憶の有効性について検証を行う。また、対話生成システムとして計算資源を考慮した実装に関する課題などの課題に着実に取り組んでいく予定である。
|
| Causes of Carryover |
概ね実施計画に従ってプロジェクトを進めていたが、出張において予定していたものより交通費および宿泊費が低く抑えることができたため、差が生じている。翌年度においては物品購入や出張に関して執行していく予定である。
|
