• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to previous page

Studies of image and natural language processing for developing productive skills in second language learning

Research Project

Project/Area Number 19K12119
Research Category

Grant-in-Aid for Scientific Research (C)

Allocation TypeMulti-year Fund
Section一般
Review Section Basic Section 61030:Intelligent informatics-related
Research InstitutionKyoto University

Principal Investigator

NANJO Hiroaki  京都大学, 学術情報メディアセンター, 准教授 (50388162)

Co-Investigator(Kenkyū-buntansha) 壇辻 正剛  京都橘大学, 国際英語学部, 教授 (10188469)
森 信介  京都大学, 学術情報メディアセンター, 教授 (90456773)
Project Period (FY) 2019-04-01 – 2022-03-31
Project Status Completed (Fiscal Year 2021)
Budget Amount *help
¥4,290,000 (Direct Cost: ¥3,300,000、Indirect Cost: ¥990,000)
Fiscal Year 2021: ¥1,040,000 (Direct Cost: ¥800,000、Indirect Cost: ¥240,000)
Fiscal Year 2020: ¥1,560,000 (Direct Cost: ¥1,200,000、Indirect Cost: ¥360,000)
Fiscal Year 2019: ¥1,690,000 (Direct Cost: ¥1,300,000、Indirect Cost: ¥390,000)
Keywords外国語学習 / マルチモーダル情報処理 / 画像キャプショニング / 外国語の産出 / 教育支援 / 自然言語処理 / 画像処理
Outline of Research at the Start

深層学習技術の進展に伴い、計算機が高精度に画像・言語のメディア処理を行えるようになってきた。本申請課題は、情報処理技術によって画像と作文・発話を高度に対応付ける基礎技術を研究した上で、それを用いた外国語の産出能力(書く、話す能力)の育成支援を行うシステムの実現を目的とする。これまでに蓄積してきた自然言語処理、機械翻訳、音声認識に関する技術や知見、外国語学習支援、外国語教育に関する技術や知見を発展・拡張・統合することで、外国語産出能力の育成支援のための基盤形成を目指す。具体的には、ある絵を学習者に見せてそれに対して適切な文を産出してもらう課題を考え、産出能力を評価するシステムの実現を目指す。

Outline of Final Research Achievements

Fundamental image and natural language processing technologies for developing productive skills in second language learning have been investigated. Specifically, on image description task, in which learners produce compositions for a given image, to realize automatic assessment system of learner's compositions, we have investigated: 1) construction of a dataset for image description task, which consists of a set of image, compositions by learners, and correction annotations, 2) true or false detection, classification, and correction for learners compositions. Significant knowledge in these fields has been obtained.

Academic Significance and Societal Importance of the Research Achievements

外国語の自己学習のためのICT教材やシステムは重要である。置かれている状況や見ているものについて述べる能力(言語産出能力)は、外国語によるコミュニケーションにとって重要であるが、発話や作文の自由度の高さから自動評価が困難であった。絵についての作文を自動評価する本研究の試みとその成果は、教師や外国人を必要としない言語産出能力の自己学習の実現にとって重要であり、意義深い。

Report

(4 results)
  • 2021 Annual Research Report   Final Research Report ( PDF )
  • 2020 Research-status Report
  • 2019 Research-status Report
  • Research Products

    (9 results)

All 2022 2021 2020

All Journal Article (1 results) (of which Peer Reviewed: 1 results) Presentation (8 results)

  • [Journal Article] Image Description Dataset for Language Learners2022

    • Author(s)
      Kento Tanaka, Taichi Nishimura, Hiroaki Nanjo, Keisuke Shirai, {Hirotaka Kameko, Masatake Dantsuji
    • Journal Title

      13th Conference on Language Resources and Evaluation (LREC 2022)

      Volume: accepted

    • Related Report
      2021 Annual Research Report
    • Peer Reviewed
  • [Presentation] 画像描写問題における学習者作文の誤り訂正2022

    • Author(s)
      田中健斗, 西村太一, 南條浩輝, 白井圭佑, 亀甲博貴
    • Organizer
      言語処理学会第28回年次大会(NLP2022)
    • Related Report
      2021 Annual Research Report
  • [Presentation] 画像描写問題における学習者作文の自動評価2022

    • Author(s)
      田中健斗, 西村太一, 白井圭佑, 亀甲博貴, 森信介, 南條浩輝
    • Organizer
      第16回ICTイノベーション
    • Related Report
      2021 Annual Research Report
  • [Presentation] 模範解答を用いた画像描写問題の自動採点方法の調査2021

    • Author(s)
      山上晃右,永田亮,南條浩輝
    • Organizer
      NLP若手の会 (YANS) 第16回シンポジウム
    • Related Report
      2021 Annual Research Report
  • [Presentation] 写真描画問題の自動採点手法の検討2021

    • Author(s)
      田中 健斗, 西村 太一, 白井 圭佑, 亀甲 博貴, 森 信介
    • Organizer
      人工知能学会全国大会第35回
    • Related Report
      2021 Annual Research Report
  • [Presentation] モダリティ変換とそれを用いた言語教育支援の取り組み2021

    • Author(s)
      南條浩輝
    • Organizer
      京都大学学術情報メディアセンターセミナー「深層学習によるモダリティ変換と言語教育支援」(オンライン開催)
    • Related Report
      2020 Research-status Report
  • [Presentation] 写真描画問題の自動採点手法の検討2021

    • Author(s)
      田中健斗,西村太一,白井圭佑,亀甲博貴,森信介
    • Organizer
      2021年度 人工知能学会全国大会(第35回)(発表決定)
    • Related Report
      2020 Research-status Report
  • [Presentation] 画像キャプショニングを用いた外国語作文学習・支援の検討2020

    • Author(s)
      南條浩輝, 川端公貴, 亀甲博貴, 森信介
    • Organizer
      京都大学第14回ICTイノベーション
    • Related Report
      2019 Research-status Report
  • [Presentation] 画像キャプションを用いた日本語学習支援の検討2020

    • Author(s)
      川端公貴, 南條浩輝, 亀甲博貴, 森信介
    • Organizer
      言語処理学会第26回年次大会(NLP2020)講演論文集
    • Related Report
      2019 Research-status Report

URL: 

Published: 2019-04-18   Modified: 2023-01-30  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi