• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to previous page

双方向問題対の相互学習に基づく情報変換および情報アクセスの研究

Research Project

Project/Area Number 23K11118
Research Category

Grant-in-Aid for Scientific Research (C)

Allocation TypeMulti-year Fund
Section一般
Review Section Basic Section 60080:Database-related
Research InstitutionToyohashi University of Technology

Principal Investigator

秋葉 友良  豊橋技術科学大学, 工学(系)研究科(研究院), 准教授 (00356346)

Project Period (FY) 2023-04-01 – 2026-03-31
Project Status Granted (Fiscal Year 2023)
Budget Amount *help
¥4,680,000 (Direct Cost: ¥3,600,000、Indirect Cost: ¥1,080,000)
Fiscal Year 2025: ¥1,170,000 (Direct Cost: ¥900,000、Indirect Cost: ¥270,000)
Fiscal Year 2024: ¥2,340,000 (Direct Cost: ¥1,800,000、Indirect Cost: ¥540,000)
Fiscal Year 2023: ¥1,170,000 (Direct Cost: ¥900,000、Indirect Cost: ¥270,000)
Keywords情報アクセス / 双方向学習 / 系列変換モデル / 機械翻訳 / データ多様化 / パラメータ共有 / 対訳語彙獲得 / 双対学習 / 系列変換 / 情報変換
Outline of Research at the Start

本研究では、(A) 情報交換問題に対する効果的な双方向問題対の相互学習法を開発すること、(B) 双方向問題対の相互学習法の持つ性質を詳細に調査する事で手法の適用可能条件や予想され る効果に関する理解を深めること、(C) 相互学習法を言語とモダリティを横断する情報アクセス の問題に適用すること、を目的とする。最初に前者2つの目的を同時並行で進めることで、一方 で得た知見や研究環境を常に他方の目的の推進に利用できるように、相乗的な効果を狙って研究 を進める。続いて、言語横断およびモダリティ横断の情報アクセス問題に対し、開発した手法を適用し有効性を調査する。

Outline of Annual Research Achievements

本研究では、(A) 情報変換問題に対する効果的な双方向問題対の相互学習法を開発すること、(B) 双方向問題対の相互学習法の持つ性質を詳細に調査する事で手法の適用可能条件や予想される効果に関する理解を深めること、(C) 相互学習法を言語とモダリティを横断する情報アクセスの問題に適用すること、を目的とする。当該年度は、(A)と(B)について研究を進めた。
(A)として、機械翻訳における効果的な相互学習法であるIterative Back-Translation (IBT)の改善手法を調査した。まず、IBTにおける効果的な擬似対訳生成手法を検討した。逆翻訳による擬似対訳文生成には、必ずしも高品質な候補文が必要ではなく、むしろ低品質でも多様な候補が有効であることが知られている。これらのバランスを取る手法を検討し、複数候補の比較から文を選択する手法を新たに開発した。また、効果的なIBTによる学習手法として、複数モデルを用いたデータ多様化の導入によるデータ拡張と、アンサンブル翻訳による精度向上、およびこれらを組み合わせる手法の開発を行なった。さらに、双方向学習に適した翻訳モデルアーキテクチャとして、双方向翻訳を単一のモデルで実現するDualformerアーキテクチャを導入し、単一モデルで入力再構築の学習が可能であることを確認した。
(B)として、IBTによる対訳語彙獲得の調査を行い、その原理についての理解を深めた。互いに対応関係のない2つの言語の単言語データであっても、IBTは自動的に単語の対応関係 (対訳語彙) を獲得することができる。その獲得過程を詳細に分析することにより、単語の文脈が重要な役割を担っていることを明らかにし、獲得プロセスについて仮説を立てて検証した。

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

情報変換問題として機械翻訳に焦点を当て、双方向問題対の相互学習法であるIterative Back-Translation (IBT)の性能を改善する手法を、擬似データ生成法、学習方法、推論方法の複数の観点から開発し、それぞれ成果を得ることができた。また、IBTの対訳語彙獲得について調査を進め、その原理についておおむね解明することができた。

Strategy for Future Research Activity

本研究では、(A) 情報変換問題に対する効果的な双方向問題対の相互学習法を開発すること、(B) 双方向問題対の相互学習法の持つ性質を詳細に調査する事で手法の適用可能条件や予想される効果に関する理解を深めること、(C) 相互学習法を言語とモダリティを横断する情報アクセスの問題に適用すること、を目的とする。これまでに課題(A)(B)の成果がある程度得られたことを受けて、今後は(A)(B)をさらに推進するとともに、(C)の課題に着手する。
課題(A)について、機械翻訳におけるIterative Back-Translationについて複数の改善手法を開発したが、その過程で新たな改善手法のアイデアも生まれており、さらに研究を進める。また、機械翻訳以外の情報変換問題への適用も検討する。
課題(B)について、語彙獲得の原理が明らかになったことを受けて、その知見を活用した効果的な対訳語彙獲得手法の開発を行う。対訳語彙獲得は、未知データ間の関連性を自動的に見出して知識を獲得することと一般化し、相互学習法の理解をさらに進める。
課題(C)について、まずは言語と言語以外のデータとの情報変換問題に、相互学習法の導入に着手する。具体的には、言語と表データの間の情報対応付問題を検討する。

Report

(1 results)
  • 2023 Research-status Report
  • Research Products

    (5 results)

All 2024 2023

All Journal Article (2 results) (of which Peer Reviewed: 2 results) Presentation (3 results)

  • [Journal Article] Pseudo Fake Data Generation using Round-Trip Translation for Fact Verification on Political Debates2023

    • Author(s)
      Ishikawa Haruki、Kobayashi Ryuto、Gato Yuki、Akiba Tomoyosi
    • Journal Title

      Proceedings of 10th International Conference on Advanced Informatics: Concepts, Theory and Applications (ICAICTA)

      Volume: - Pages: 1-5

    • DOI

      10.1109/icaicta59291.2023.10389996

    • Related Report
      2023 Research-status Report
    • Peer Reviewed
  • [Journal Article] Training Neural Machine Translation Models by Using an Entire Comparable Corpus2023

    • Author(s)
      Yamamoto Yuki、Akiba Tomoyoshi、Tsukada Hajime
    • Journal Title

      Proceedings of 10th International Conference on Advanced Informatics: Concepts, Theory and Applications (ICAICTA)

      Volume: - Pages: 1-5

    • DOI

      10.1109/icaicta59291.2023.10390174

    • Related Report
      2023 Research-status Report
    • Peer Reviewed
  • [Presentation] 双対学習機械翻訳モデルのドメインシフトに対する頑健性の検証2024

    • Author(s)
      加藤龍兵, 秋葉友良, 塚田元
    • Organizer
      言語処理学会第30回年次大会
    • Related Report
      2023 Research-status Report
  • [Presentation] 中間言語を利用したデータ多様化とアンサンブル学習に基づくゼロリソース機械翻訳2024

    • Author(s)
      Bui Tuan Thanh, 秋葉友良, 塚田元
    • Organizer
      言語処理学会第30回年次大会
    • Related Report
      2023 Research-status Report
  • [Presentation] 双方向翻訳モデルの相互学習におけるデータ多様化の適用2024

    • Author(s)
      紺谷優志, 秋葉友良, 塚田元
    • Organizer
      言語処理学会第30回年次大会
    • Related Report
      2023 Research-status Report

URL: 

Published: 2023-04-13   Modified: 2024-12-25  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi