研究課題/領域番号 |
21H03495
|
研究種目 |
基盤研究(B)
|
配分区分 | 補助金 |
応募区分 | 一般 |
審査区分 |
小区分61030:知能情報学関連
|
研究機関 | 東京工業大学 |
研究代表者 |
奥村 学 東京工業大学, 科学技術創成研究院, 教授 (60214079)
|
研究分担者 |
上垣外 英剛 奈良先端科学技術大学院大学, 先端科学技術研究科, 准教授 (40817649)
|
研究期間 (年度) |
2021-04-01 – 2024-03-31
|
キーワード | 自然言語処理 / 複数テキスト要約 / ニューラルモデル / 生成型要約 / 文書横断文間関係 |
研究成果の概要 |
文間の関係を解析する文書構造解析器では,大規模言語モデル (LLM) を活用して,プロンプトを介してシフト還元動作を LLM で模倣する手法を提案し,評価実験の結果,提案法は世界最高の解析性能を達成した.テキスト要約の方では,この文書構造解析結果を活用したニューラル文書要約モデルを提案し,要約の性能向上に寄与することを確認した.また,事前学習済み言語モデル(PLM) を追学習する時に,エンコーダに要約長を予測させることで要約タスクに固有の情報を理解させた上で,デコーダには予測した要約長の要約を生成させるモデルを提案し,要約の性能向上に寄与することを確認した.
|
自由記述の分野 |
知能情報学
|
研究成果の学術的意義や社会的意義 |
文間の関係を解析する文書構造解析器は,我々のグループが世界最高性能を達成していたが,引き続き研究開発を継続し,新しい手法を提案することで,現在も世界最高性能を維持している.テキスト要約において要約長を予測するというアイデアはこれまでに提唱されておらず,そういう意味で斬新なアイデアに基づいており,しかも,要約長を予測するよう要約モデルを学習することで性能向上に寄与することを示しており,学術的な意義は大きい.
|