• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2021 Fiscal Year Annual Research Report

Sentence translation mechanism equipped with an explainable process based on real-world and linguistic knowledge

Research Project

Project/Area Number 19H04162
Research InstitutionTohoku University

Principal Investigator

鈴木 潤  東北大学, データ駆動科学・AI教育研究センター, 教授 (80396150)

Co-Investigator(Kenkyū-buntansha) 松林 優一郎  東北大学, 教育学研究科, 准教授 (20582901)
乾 健太郎  東北大学, 情報科学研究科, 教授 (60272689)
赤間 怜奈  東北大学, データ駆動科学・AI教育研究センター, 助教 (70912533)
Project Period (FY) 2019-04-01 – 2022-03-31
Keywords自然言語処理 / 人工知能 / 機械学習 / 文章生成 / 解釈性 / 説明性
Outline of Annual Research Achievements

ある入力文章を,事前の定義に基づいて別の文章に変換する「文章変換技術」として広く用いられている符号化復号化器に関して,その処理過程を人間が解釈でき,かつ,処理結果を人手により比較的容易に操作できる技術の開発,及び,文章変換技術そのものの性能向上に取り組んだ.
本年度の主要な成果は,自然言語解析タスクを題材として,予測時に,学習データ内の事例を予測根拠として提示可能な方法論を構築した.これにより,単純な分類問題ではなく,出力に構造を持つような問題の予測であっても,適切に予測根拠を提示できるようになった.この結果,従来の典型的な深層学習により得られるモデルよりも,人間が予測理由をはるかに把握しやすくなった. この技術を文章変換時に転用することで,生成した文章に対して,言語的な特性を提示することが可能となり,生成誤りをより判別し易くなる.更に,昨今文章変換技術として最もよく用いられる方法論に関して,生成する文章の文長に対して学習時に不当なバイアスがかかっていることを実験的調査により明らかにし,このバイアスを解消する簡潔は改善方法を提案した.この研究成果により,様々な文章変換技術の性能向上に貢献した.
また,上記主要な成果以外にも,機械翻訳の結果に対して,様々な言語現象に対する頑健性を調査し,現在の機械翻訳が言語的な観点でどのような誤りが発生しやすいかを明らかにした.また,対話システムに焦点を当て,文章変換の良さを計測する方法論についても研究をおこなった.更に,文章変換技術の性能を更に底上げする技術として,ニューラルネットワークを効果的に多層化する研究にも取り組んだ.

Research Progress Status

令和3年度が最終年度であるため、記入しない。

Strategy for Future Research Activity

令和3年度が最終年度であるため、記入しない。

  • Research Products

    (15 results)

All 2022 2021

All Journal Article (7 results) (of which Peer Reviewed: 7 results,  Open Access: 7 results) Presentation (8 results)

  • [Journal Article] Evaluating Dialogue Response Generation Systems via Response Selection with Well-chosen False Candidates2022

    • Author(s)
      Sato Shiki、Akama Reina、Ouchi Hiroki、Suzuki Jun、Inui Kentaro
    • Journal Title

      Journal of Natural Language Processing

      Volume: 29 Pages: 53~83

    • DOI

      10.5715/jnlp.29.53

    • Peer Reviewed / Open Access
  • [Journal Article] Instance-Based Neural Dependency Parsing2021

    • Author(s)
      Ouchi Hiroki、Suzuki Jun、Kobayashi Sosuke、Yokoi Sho、Kuribayashi Tatsuki、Yoshikawa Masashi、Inui Kentaro
    • Journal Title

      Transactions of the Association for Computational Linguistics

      Volume: 9 Pages: 1493~1507

    • DOI

      10.1162/tacl_a_00439

    • Peer Reviewed / Open Access
  • [Journal Article] Subword-Based Compact Reconstruction for Open-Vocabulary Neural Word Embeddings2021

    • Author(s)
      Sasaki Shota、Suzuki Jun、Inui Kentaro
    • Journal Title

      IEEE/ACM Transactions on Audio, Speech, and Language Processing

      Volume: 29 Pages: 3551~3564

    • DOI

      10.1109/TASLP.2021.3125133

    • Peer Reviewed / Open Access
  • [Journal Article] Efficient Estimation of Influence of a Training Instance2021

    • Author(s)
      Sosuke Kobayashi、Yokoi Sho、Suzuki Jun、Inui Kentaro
    • Journal Title

      Journal of Natural Language Processing

      Volume: 28 Pages: 573~597

    • DOI

      10.5715/jnlp.28.573

    • Peer Reviewed / Open Access
  • [Journal Article] Phenomenon-wise Evaluation Dataset Towards Analyzing Robustness of Machine Translation Models2021

    • Author(s)
      Fujii Ryo、Mita Masato、Abe Kaori、Hanawa Kazuaki、Morishita Makoto、Suzuki Jun、Inui Kentaro
    • Journal Title

      Journal of Natural Language Processing

      Volume: 28 Pages: 450~478

    • DOI

      10.5715/jnlp.28.450

    • Peer Reviewed / Open Access
  • [Journal Article] SHAPE: Shifted Absolute Position Embedding for Transformers2021

    • Author(s)
      Kiyono Shun、Kobayashi Sosuke、Suzuki Jun、Inui Kentaro
    • Journal Title

      Proceedings of the 2021 Conference on Empirical Methods in Natural Language Processing

      Volume: NA Pages: 3309~3321

    • DOI

      10.18653/v1/2021.emnlp-main.266

    • Peer Reviewed / Open Access
  • [Journal Article] Pseudo Zero Pronoun Resolution Improves Zero Anaphora Resolution2021

    • Author(s)
      Konno Ryuto、Kiyono Shun、Matsubayashi Yuichiroh、Ouchi Hiroki、Inui Kentaro
    • Journal Title

      Proceedings of the 2021 Conference on Empirical Methods in Natural Language Processing

      Volume: NA Pages: 3790~3806

    • DOI

      10.18653/v1/2021.emnlp-main.308

    • Peer Reviewed / Open Access
  • [Presentation] Transformerを多層にする際の勾配消失問題と解決法について2022

    • Author(s)
      高瀬翔, 清野舜, 小林颯介, 鈴木潤
    • Organizer
      言語処理学会第28回年次大会
  • [Presentation] 規範的な日本語日常対話コーパスの設計2022

    • Author(s)
      赤間怜奈, 磯部順子, 鈴木潤, 乾健太郎
    • Organizer
      言語処理学会第28回年次大会
  • [Presentation] 論述リビジョンのためのメタ評価基盤2022

    • Author(s)
      三田雅人, 坂口慶祐, 萩原正人, 水本智也, 鈴木潤, 乾健太郎
    • Organizer
      言語処理学会第28回年次大会
  • [Presentation] 記述式答案自動採点における確信度推定とその役割2022

    • Author(s)
      舟山弘晃, 佐藤汰亮, 松林優一郎, 水本智也, 鈴木潤, 乾健太郎
    • Organizer
      言語処理学会第28回年次大会
  • [Presentation] シフト付き絶対位置埋め込み.2022

    • Author(s)
      清野舜, 小林颯介, 鈴木潤, 乾健太郎
    • Organizer
      言語処理学会第28回年次大会
  • [Presentation] 目標指向対話のためのサブゴール設計に基づく発話系列生成.2021

    • Author(s)
      岸波洋介, 赤間怜奈, 佐藤志貴, 徳久良子, 鈴木潤, 乾健太郎
    • Organizer
      第93回 人工知能学会 言語・音声理解と対話処理研究会(SLUD)
  • [Presentation] Towards Detecting Errors of Chat Translation: Evaluating Translated Chat with Classifiers and Building Auto-Evaluatable Translation Chat System2021

    • Author(s)
      李云蒙, 阿部香央莉, 徳久良子, 森下睦, 鈴木潤, 乾健太郎
    • Organizer
      第16回NLP若手の会 シンポジウム
  • [Presentation] 対話システムの先読み能力実現に向けた未来の展開まで生成する学習戦略の提案と分析2021

    • Author(s)
      岸波洋介, 赤間怜奈, 佐藤志貴, 鈴木潤, 徳久良子, 乾健太郎
    • Organizer
      2021年度人工知能学会全国大会

URL: 

Published: 2022-12-28  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi