• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 前のページに戻る

Unsupervised Neural Machine Translation in Universal Scenarios

研究課題

研究課題/領域番号 19K20354
研究種目

若手研究

配分区分基金
審査区分 小区分61030:知能情報学関連
研究機関国立研究開発法人情報通信研究機構

研究代表者

Wang Rui  国立研究開発法人情報通信研究機構, 先進的音声翻訳研究開発推進センター先進的翻訳技術研究室, 研究員 (00837635)

研究期間 (年度) 2019-04-01 – 2021-03-31
研究課題ステータス 中途終了 (2020年度)
配分額 *注記
4,160千円 (直接経費: 3,200千円、間接経費: 960千円)
2021年度: 910千円 (直接経費: 700千円、間接経費: 210千円)
2020年度: 910千円 (直接経費: 700千円、間接経費: 210千円)
2019年度: 2,340千円 (直接経費: 1,800千円、間接経費: 540千円)
キーワードMachine Translation / Unsupervised Learning / NLP / machine translation / AI / unsupervised learning
研究開始時の研究の概要

I will conduct unsupervised neural machine translation (NMT) in universal scenarios.
1. In the scenario of rich-resource languages, the abundant monolingual corpora are available. I will generate high-quality pseudo parallel data by back-translation.
2. In the scenario of low-resource languages, the monolingual corpora are rare. I will conduct high-quality bilingual word embedding for robust UNMT.
3. In the real-scenario translation, the domain of user query (test data) is difficult to predict and is sometimes different from the training data. I will adapt the UNMT according to user queries.

研究実績の概要

I have proposed a universal unsupervised approach which train the translation model without using any parallel data. Compared with the existing unsupervised neural machine translation (UNMT) methods, which has only been applied to similar or rich-resource language pairs, my methods can be adapted to universal scenarios. I have published more than 20 peer-reviewed research papers (I am the corresponding authors of most of these papers). Most of these papers are published in the top-tier conferences and journal. Such as 7 ACL, 1 EMNLP, 2 AAAI, 2 ICLR, and 3 IEEE/ACM transactions. I won several first places in top-tier MT/NLP shared tasks, such as WMT-2019, WMT-2020, CoNLL-2019, etc.

報告書

(2件)
  • 2020 実績報告書
  • 2019 実施状況報告書
  • 研究成果

    (41件)

すべて 2020 2019

すべて 雑誌論文 (6件) (うち国際共著 4件、 査読あり 4件) 学会発表 (35件) (うち国際学会 33件)

  • [雑誌論文] Neural Machine Translation with Target-Attention Model2020

    • 著者名/発表者名
      M Yang, M Zhang, K Chen, R Wang, T Zhao
    • 雑誌名

      IEICE Transactions on Information and Systems

      巻: E103.D 号: 3 ページ: 684-694

    • DOI

      10.1587/transinf.2019EDP7157

    • NAID

      130007804149

    • ISSN
      0916-8532, 1745-1361
    • 年月日
      2020-03-01
    • 関連する報告書
      2019 実施状況報告書
    • 査読あり / 国際共著
  • [雑誌論文] Unsupervised Neural Machine Translation With Cross-Lingual Language Representation Agreement2020

    • 著者名/発表者名
      Sun Haipeng、Wang Rui、Chen Kehai、Utiyama Masao、Sumita Eiichiro、Zhao Tiejun
    • 雑誌名

      IEEE/ACM Transactions on Audio, Speech, and Language Processing

      巻: 28 ページ: 1170-1182

    • DOI

      10.1109/taslp.2020.2982282

    • 関連する報告書
      2020 実績報告書 2019 実施状況報告書
    • 査読あり / 国際共著
  • [雑誌論文] Neural Machine Translation with Target-Attention Model2020

    • 著者名/発表者名
      M Yang, M Zhang, K Chen, R Wang, T Zhao
    • 雑誌名

      IEICE TRANSACTIONS on Information and Systems

      巻: E103.D 巻 3 ページ: 684-694

    • NAID

      130007804149

    • 関連する報告書
      2020 実績報告書
    • 査読あり / 国際共著
  • [雑誌論文] A Survey of Domain Adaptation for Machine Translation2020

    • 著者名/発表者名
      C Chu, R Wang
    • 雑誌名

      Journal of Information Processing

      巻: -

    • NAID

      130007887723

    • 関連する報告書
      2020 実績報告書 2019 実施状況報告書
  • [雑誌論文] Towards More Diverse Input Representation for Neural Machine Translation2020

    • 著者名/発表者名
      K Chen, R Wang, M Utiyama, E Sumita, T Zhao, M Yang, H Zhao
    • 雑誌名

      IEEE/ACM Transactions on Audio, Speech, and Language Processing

      巻: -

    • 関連する報告書
      2020 実績報告書 2019 実施状況報告書
  • [雑誌論文] Neural machine translation with sentence-level topic context2019

    • 著者名/発表者名
      Chen Kehai, Wang Rui, Utiyama Masao, Sumita Eiichiro, Zhao Tiejun
    • 雑誌名

      IEEE/ACM Transactions on Audio, Speech, and Language Processing

      巻: 27 号: 12 ページ: 1970-1984

    • DOI

      10.1109/taslp.2019.2937190

    • 関連する報告書
      2020 実績報告書 2019 実施状況報告書
    • 査読あり / 国際共著
  • [学会発表] Knowledge Distillation for Multilingual Unsupervised Neural Machine Translation2020

    • 著者名/発表者名
      H Sun, R Wang, K Chen, M Utiyama, E Sumita, T Zhao
    • 学会等名
      The 58th Annual Meeting of the Association for Computational Linguistics (ACL-2020)
    • 関連する報告書
      2020 実績報告書
    • 国際学会
  • [学会発表] Content Word Aware Neural Machine Translation2020

    • 著者名/発表者名
      K Chen, R Wang, M Utiyama, E Sumita
    • 学会等名
      The 58th Annual Meeting of the Association for Computational Linguistics (ACL-2020)
    • 関連する報告書
      2020 実績報告書 2019 実施状況報告書
    • 国際学会
  • [学会発表] Regularized Context Gates on Transformer for Machine Translation2020

    • 著者名/発表者名
      X Li, L Liu, R Wang, G Huang, M Meng
    • 学会等名
      The 58th Annual Meeting of the Association for Computational Linguistics (ACL-2020)
    • 関連する報告書
      2020 実績報告書 2019 実施状況報告書
    • 国際学会
  • [学会発表] Data-dependent Gaussian Prior Objective for Language Generation2020

    • 著者名/発表者名
      Z Li, R Wang, K Chen, M Utiyama, E Sumita, Z Zhang, H Zhao
    • 学会等名
      International Conference on Learning Representations (ICLR-2020)
    • 関連する報告書
      2020 実績報告書 2019 実施状況報告書
    • 国際学会
  • [学会発表] Neural Machine Translation with Universal Visual Representation2020

    • 著者名/発表者名
      Z Zhang, K Chen, R Wang, M Utiyama, E Sumita, Z Li, H Zhao
    • 学会等名
      International Conference on Learning Representations (ICLR-2020)
    • 関連する報告書
      2020 実績報告書 2019 実施状況報告書
    • 国際学会
  • [学会発表] SG-Net: Syntax-guided machine reading comprehension2020

    • 著者名/発表者名
      Z Zhang, Y Wu, J Zhou, S Duan, H Zhao, R Wang
    • 学会等名
      Thirty-Fourth AAAI Conference on Artificial Intelligence (AAAI-2020)
    • 関連する報告書
      2020 実績報告書 2019 実施状況報告書
    • 国際学会
  • [学会発表] Explicit Sentence Compression for Neural Machine Translation2020

    • 著者名/発表者名
      Z Li, R Wang, K Chen, M Utiyama, E Sumita, Z Zhang, H Zhao
    • 学会等名
      Thirty-Fourth AAAI Conference on Artificial Intelligence (AAAI-2020)
    • 関連する報告書
      2020 実績報告書 2019 実施状況報告書
    • 国際学会
  • [学会発表] Unsupervised Bilingual Word Embedding Agreement for Unsupervised Neural Machine Translation2020

    • 著者名/発表者名
      H Sun, R Wang, K Chen, M Utiyama, E Sumita, T Zhao
    • 学会等名
      The 57th Annual Meeting of the Association for Computational Linguistics (ACL-2019)
    • 関連する報告書
      2020 実績報告書
    • 国際学会
  • [学会発表] Sentence-Level Agreement for Neural Machine Translation2020

    • 著者名/発表者名
      M Yang, R Wang, K Chen, M Utiyama, E Sumita, M Zhang, T Zhao
    • 学会等名
      The 57th Annual Meeting of the Association for Computational Linguistics (ACL-2019)
    • 関連する報告書
      2020 実績報告書
    • 国際学会
  • [学会発表] Neural Machine Translation with Reordering Embeddings2020

    • 著者名/発表者名
      K Chen, R Wang, M Utiyama, E Sumita
    • 学会等名
      The 57th Annual Meeting of the Association for Computational Linguistics (ACL-2019)
    • 関連する報告書
      2020 実績報告書
    • 国際学会
  • [学会発表] Lattice-Based Transformer Encoder for Neural Machine Translation2020

    • 著者名/発表者名
      F Xiao, J Li, H Zhao, R Wang, K Chen
    • 学会等名
      The 57th Annual Meeting of the Association for Computational Linguistics (ACL-2019)
    • 関連する報告書
      2020 実績報告書
    • 国際学会
  • [学会発表] English-Myanmar Supervised and Unsupervised NMT: NICT’s Machine Translation Systems at WAT-20192020

    • 著者名/発表者名
      R Wang, H Sun, K Chen, C Ding, M Utiyama, E Sumita
    • 学会等名
      The 6th Workshop on Asian Translation (WAT-2019)
    • 関連する報告書
      2020 実績報告書
    • 国際学会
  • [学会発表] Recurrent Positional Embedding for Neural Machine Translation2020

    • 著者名/発表者名
      K Chen, R Wang, M Utiyama, E Sumita
    • 学会等名
      2019 Conference on Empirical Methods in Natural Language Processing and 9th International Joint Conference on Natural Language Processing (EMNLP-IJCNLP2019)
    • 関連する報告書
      2020 実績報告書
    • 国際学会
  • [学会発表] SJTU-NICT at MRP 2019: Multi-Task Learning for End-to-End Uniform Semantic Graph Parsing2020

    • 著者名/発表者名
      Z Li, H Zhao, Z Zhang, R Wang, M Utiyama, E Sumita
    • 学会等名
      2019 Conference on Natural Language Learning (CoNLL-2019)
    • 関連する報告書
      2020 実績報告書
    • 国際学会
  • [学会発表] Cross-Domain Transfer Learning for Dependency Parsing2020

    • 著者名/発表者名
      Z Li, J Zhou, H Zhao, R Wang
    • 学会等名
      The CCF International conference on Natural Language Processing and Chinese Computing (NLPCC-2019)
    • 関連する報告書
      2020 実績報告書
    • 国際学会
  • [学会発表] NICT’s Machine Translation Systems for CCMT-2019 Translation Task2020

    • 著者名/発表者名
      K Chen, R Wang, M Utiyama, E Sumita
    • 学会等名
      5th China Conference on Machine Translation (CCMT)
    • 関連する報告書
      2020 実績報告書
    • 国際学会
  • [学会発表] NICT’s Unsupervised Neural and Statistical Machine Translation Systems for the WMT19 News Translation Task2020

    • 著者名/発表者名
      B Marie, H Sun, R Wang, K Chen, A Fujita, M Utiyama, E Sumita
    • 学会等名
      2019 Fourth Conference on Machine Translation (WMT-2019)
    • 関連する報告書
      2020 実績報告書
    • 国際学会
  • [学会発表] NICT’s Supervised Neural Machine Translation Systems for the WMT19 News Translation Task2020

    • 著者名/発表者名
      R Dabre, K Chen, B Marie, R Wang, A Fujita, M Utiyama, E Sumita
    • 学会等名
      2019 Fourth Conference on Machine Translation (WMT-2019)
    • 関連する報告書
      2020 実績報告書
    • 国際学会
  • [学会発表] Syntax-aware Transformer Encoder for Neural Machine Translation2020

    • 著者名/発表者名
      S Duan, H Zhao, J Zhou, R Wang
    • 学会等名
      2019 International Conference on Asian Language Processing (IALP-2019)
    • 関連する報告書
      2020 実績報告書
    • 国際学会
  • [学会発表] Bilingual Word Embedding: A Survey from Supervised to Unsupervised2020

    • 著者名/発表者名
      H Sun, R Wang, K Chen, M Utiyama, E Sumita, T Zhao
    • 学会等名
      言語処理学会第26回年次大会(NLP-2019)
    • 関連する報告書
      2020 実績報告書
  • [学会発表] A Survey of Advances and Challenges in Unsupervised Neural Machine Translation2020

    • 著者名/発表者名
      R Wang, H Sun, M Utiyama, E Sumita
    • 学会等名
      言語処理学会第27回年次大会(NLP-2020)
    • 関連する報告書
      2020 実績報告書 2019 実施状況報告書
  • [学会発表] Knowledge Distillation for Multilingual Unsupervised Neural Machine Translation2020

    • 著者名/発表者名
      H Sun, R Wang, K Chen, M Utiyama, E Sumita, T Zhao
    • 学会等名
      The 58th Annual Meeting of the Association for Computational Linguistics (ACL-2020)
    • 関連する報告書
      2019 実施状況報告書
    • 国際学会
  • [学会発表] Unsupervised Bilingual Word Embedding Agreement for Unsupervised Neural Machine Translation2019

    • 著者名/発表者名
      H Sun, R Wang, K Chen, M Utiyama, E Sumita, T Zhao
    • 学会等名
      The 57th Annual Meeting of the Association for Computational Linguistics (ACL-2019)
    • 関連する報告書
      2019 実施状況報告書
    • 国際学会
  • [学会発表] Sentence-Level Agreement for Neural Machine Translation2019

    • 著者名/発表者名
      M Yang, R Wang, K Chen, M Utiyama, E Sumita, M Zhang, T Zhao
    • 学会等名
      The 57th Annual Meeting of the Association for Computational Linguistics (ACL-2019)
    • 関連する報告書
      2019 実施状況報告書
    • 国際学会
  • [学会発表] Neural Machine Translation with Reordering Embeddings2019

    • 著者名/発表者名
      K Chen, R Wang, M Utiyama, E Sumita
    • 学会等名
      The 57th Annual Meeting of the Association for Computational Linguistics (ACL-2019)
    • 関連する報告書
      2019 実施状況報告書
    • 国際学会
  • [学会発表] Lattice-Based Transformer Encoder for Neural Machine Translation2019

    • 著者名/発表者名
      F Xiao, J Li, H Zhao, R Wang, K Chen
    • 学会等名
      The 57th Annual Meeting of the Association for Computational Linguistics (ACL-2019)
    • 関連する報告書
      2019 実施状況報告書
    • 国際学会
  • [学会発表] English-Myanmar Supervised and Unsupervised NMT: NICT’s Machine Translation Systems at WAT-20192019

    • 著者名/発表者名
      R Wang, H Sun, K Chen, C Ding, M Utiyama, E Sumita
    • 学会等名
      The 6th Workshop on Asian Translation (WAT-2019)
    • 関連する報告書
      2019 実施状況報告書
    • 国際学会
  • [学会発表] Recurrent Positional Embedding for Neural Machine Translation2019

    • 著者名/発表者名
      K Chen, R Wang, M Utiyama, E Sumita
    • 学会等名
      2019 Conference on Empirical Methods in Natural Language Processing and 9th International Joint Conference on Natural Language Processing (EMNLP-IJCNLP2019)
    • 関連する報告書
      2019 実施状況報告書
    • 国際学会
  • [学会発表] SJTU-NICT at MRP 2019: Multi-Task Learning for End-to-End Uniform Semantic Graph Parsing2019

    • 著者名/発表者名
      Z Li, H Zhao, Z Zhang, R Wang, M Utiyama, E Sumita
    • 学会等名
      2019 Conference on Natural Language Learning (CoNLL-2019)
    • 関連する報告書
      2019 実施状況報告書
    • 国際学会
  • [学会発表] Cross-Domain Transfer Learning for Dependency Parsing2019

    • 著者名/発表者名
      Z Li, J Zhou, H Zhao, R Wang
    • 学会等名
      The CCF International conference on Natural Language Processing and Chinese Computing (NLPCC-2019)
    • 関連する報告書
      2019 実施状況報告書
    • 国際学会
  • [学会発表] NICT’s Machine Translation Systems for CCMT-2019 Translation Task2019

    • 著者名/発表者名
      K Chen, R Wang, M Utiyama, E Sumita
    • 学会等名
      5th China Conference on Machine Translation (CCMT)
    • 関連する報告書
      2019 実施状況報告書
    • 国際学会
  • [学会発表] NICT’s Unsupervised Neural and Statistical Machine Translation Systems for the WMT19 News Translation Task2019

    • 著者名/発表者名
      B Marie, H Sun, R Wang, K Chen, A Fujita, M Utiyama, E Sumita
    • 学会等名
      2019 Fourth Conference on Machine Translation (WMT-2019)
    • 関連する報告書
      2019 実施状況報告書
    • 国際学会
  • [学会発表] NICT’s Supervised Neural Machine Translation Systems for the WMT19 News Translation Task2019

    • 著者名/発表者名
      R Dabre, K Chen, B Marie, R Wang, A Fujita, M Utiyama, E Sumita
    • 学会等名
      2019 Fourth Conference on Machine Translation (WMT-2019)
    • 関連する報告書
      2019 実施状況報告書
    • 国際学会
  • [学会発表] Syntax-aware Transformer Encoder for Neural Machine Translation2019

    • 著者名/発表者名
      S Duan, H Zhao, J Zhou, R Wang
    • 学会等名
      2019 International Conference on Asian Language Processing (IALP-2019)
    • 関連する報告書
      2019 実施状況報告書
    • 国際学会
  • [学会発表] Bilingual Word Embedding: A Survey from Supervised to Unsupervised2019

    • 著者名/発表者名
      H Sun, R Wang, K Chen, M Utiyama, E Sumita, T Zhao
    • 学会等名
      言語処理学会第26回年次大会(NLP-2019)
    • 関連する報告書
      2019 実施状況報告書
    • 国際学会

URL: 

公開日: 2019-04-18   更新日: 2021-12-27  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi