ニューラルネットワーク言語モデルの適応的な自動構成法

2021 Fiscal Year Research-status Report

• Project/Area Number: 18K11354
• Research Institution: Kyoto University
• Principal Investigator: 秋田 祐哉 京都大学, 経済学研究科, 教授 (90402742)
• Project Period (FY): 2018-04-01 – 2023-03-31
• Keywords: 音声認識 / ニューラルネットワーク / 言語モデル

Outline of Annual Research Achievements

本研究では，ニューラルネットワークを用いた音声認識器を認識対象の話題に対して個別に構成できるよう，ニューラルネットワーク言語モデルの適応に取り組む．講義・講演のような専門的な話題の場合，高精度に認識するため言語モデルを個別の話題に適応させることは不可欠である．ただし，従来のモデルとは異なり，ニューラルネットワークでは出力に影響する箇所が陽に与えられず，適応の際のパラメータ調整が難しい．しかも適応用のデータは通常は少量である．このため，ニューラルネットワーク言語モデルにおける構成（適応）手法はいまだ確立されていない．本研究では，ニューラルネットワーク言語モデルの形態や性能指標，また少量のデータでも機能する手法を検討して，ニューラルネットワークにおける効果的・効率的な構成法を目指す．この際，専門家でなくとも構成できるよう，自動的・自律的な手法を目標とし，実際の講義・講演などの話し言葉音声においてこの構成法の検証を行う．本年度は，ニューラルネットワーク言語モデルの直近の進展が著しいことから，当初想定していなかった種々の新たなモデル形態についても調査を進めた．またこれらのモデルの実装のため，本研究の検証プラットフォームである音声認識による自動字幕作成システムについて設計の再検討を行っている．所属先大学の講義が引き続きオンラインで行われており，講義が録音・録画されているため，研究資料としてこれらの講義データの収集と分析・検証を進めた．

Current Status of Research Progress

3: Progress in research has been slightly delayed.

Reason

研究実施計画における研究内容の5項目（基本的なモデルのトポロジの検討，効果的・効率的な構成手法の比較検討，適応効果の最適な指標の定義，End-to-Endへの拡張，字幕タスクにおける評価・検証）のうち2項目はおおむね完了し，残り3項目を実施中である．感染症の引き続きの流行などによる業務負担の増大のため，十分に進めることはできなかった．このため研究期間を再度1年間延長することとした．

Strategy for Future Research Activity

実施計画のうち3項目（基本的なモデルのトポロジの検討・効果的・効率的な構成手法の比較検討・適応効果の最適な指標の定義）について，引き続き実施する．

Causes of Carryover

学会等のオンライン開催により旅費が執行できなかったため，次年度に旅費として，または物品費としての執行を予定する．