2020 年度研究成果報告書

大規模データにおけるエンコーダ・デコーダモデルの効率的な学習

研究課題

PDF

研究課題/領域番号	18K18119
研究種目	若手研究
配分区分	基金
審査区分	小区分61030:知能情報学関連
研究機関	東京工業大学
研究代表者	高瀬翔東京工業大学, 情報理工学院, 助教 (40817483)
研究期間 (年度)	2018-04-01 – 2021-03-31
キーワード	自然言語処理 / ニューラルネットワーク / 機械翻訳
研究成果の概要	本研究の目的は逐次的にモデルを更新可能なエンコーダ・デコーダモデルの実現である。これを実現するためには、質の良いエンコーダ・デコーダが必要であり、本研究では、主にこれの構築に注力した。研究成果として、質の良いエンコーダ・デコーダ（あるいはデコーダ部分に該当するニューラル言語モデル）を構築する手法をいくつか提案した。これらの研究成果について記した論文は、EMNLP、NAACL、AAAI、NeurIPSといった、自然言語処理、人工知能、機械学習分野でのトップ会議に採択されている。
自由記述の分野	自然言語処理
研究成果の学術的意義や社会的意義	ニューラルネットワークの導入により、機械翻訳や要約において、計算機が流暢な出力を行えるようになってきている。しかしながら、計算機の出力した翻訳や要約と、人手で作成したものとの一致率はまだ低く、改善の余地があることが伺える。本研究課題での成果は、従来の機械翻訳器や要約器の性能を引き上げるものであり、この手法を導入することにより、より良い出力が得られると期待できる。特に、本研究では、要約タスクにおいて、人手で設定した要約率に応じた出力を可能にする手法を提案しており、これにより、計算機の出力の柔軟性が向上すると考えられる。