FEVER タスクで事実検証器を学習する際の損失関数について分析を行い、FEVERに適した新たな損失関数を導入した。FEVER の学習においては、交差エントロピー損失がよく使われているが、これは FEVER のクラス間の関係を十分に考慮しているとはいえない。そのため、FEVER に適した(ラベル間の関係を考慮した)損失関数を開発し、数値実験においてその効果を示した。また、FEVER データは各クラス間のサンプル数が均一ではない不均衡データとなっているため、損失関数への重み付けによる性能改善も確認した。
|