• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to previous page

Research on multimodal formula input UI and mathematics learning support environment

Research Project

Project/Area Number 20K12117
Research Category

Grant-in-Aid for Scientific Research (C)

Allocation TypeMulti-year Fund
Section一般
Review Section Basic Section 62030:Learning support system-related
Research InstitutionMukogawa Women's University

Principal Investigator

FUKUI Tetsuo  武庫川女子大学, 社会情報学部, 教授 (70218890)

Project Period (FY) 2020-04-01 – 2024-03-31
Project Status Completed (Fiscal Year 2023)
Budget Amount *help
¥4,290,000 (Direct Cost: ¥3,300,000、Indirect Cost: ¥990,000)
Fiscal Year 2022: ¥1,170,000 (Direct Cost: ¥900,000、Indirect Cost: ¥270,000)
Fiscal Year 2021: ¥1,430,000 (Direct Cost: ¥1,100,000、Indirect Cost: ¥330,000)
Fiscal Year 2020: ¥1,690,000 (Direct Cost: ¥1,300,000、Indirect Cost: ¥390,000)
Keywordsマルチモーダル学習 / 音声入出力 / 数式入力インタフェース / 数学文書エディタ / 知的学習支援システム / 数学eラーニング / 手書き入力 / 音声入力 / 数学学習支援
Outline of Research at the Start

我々は,世界的に重視されているSTEM教育の数学的デジタル教材を作成しやすくするため,数式を読み書きするような文字列から変換候補を提示して入力できるキーボードベースの数式入力インタフェースの開発に成功した。しかし,超スマート社会時代の到来に向け,数式入力手段も場面や利用者の目的レベルに応じて多様な選択肢を提供する必要がある。そこで,本研究では.数学教材を作成する先生だけでなく,数学知識を検索・計算し,答えをデジタルに記録する生徒・学生・一般人のために手書き入力,音声入力などマルチモーダルな数式入力UIを備えた数学文書編集可能な学習支援環境の実現を目指す。

Outline of Final Research Achievements

We have realized mathematical formula input by voice by introducing voice recognition technology to the previous math input UI that uses AI predictive conversion from mathematically ambiguous character strings. Adding this UI, we have developed a multimodal formula input UI such as keyboard, touch screen, and voice input that corresponds to a variety of user situations. Furthermore, we have developed a mathematics integrated document editor for creating mathematics e-learning materials that implements this UI, and released it as open source. Additionally, in order to verify this system, we created a prototype mathematics learning support environment that included learning materials based on the creation of function graphs, and conducted classes with approximately 60 high school students, which resulted in a high level of satisfaction. These results were presented at academic conferences and the developed system was made available on our public server.

Academic Significance and Societal Importance of the Research Achievements

本研究のAIによる数式曖昧文字列予測変換は,数式の音声の読み上げ文字と親和性が高く,低コストで中学数学レベルの数式の音声認識が実現できることを示した。しかし,数式は似たような発音が多く100 %の認識率を目指すには限界がある。本研究では,音声のみではなく,キーボード・タッチスクリーン入力と組み合わせたマルチモーダルな数式入力UIを実現しており,誤認や入力ミスに対して修正のしやすさが向上したことにある。社会的意義として,マルチモーダルなUIを備えた数学文書エディタを公開したことによって,教師による教材作成支援だけでなく,多様な場面に対応した数学学習支援環境を提供できるようになった。

Report

(5 results)
  • 2023 Annual Research Report   Final Research Report ( PDF )
  • 2022 Research-status Report
  • 2021 Research-status Report
  • 2020 Research-status Report
  • Research Products

    (25 results)

All 2024 2023 2022 2021 Other

All Journal Article (11 results) (of which Int'l Joint Research: 1 results,  Peer Reviewed: 5 results) Presentation (13 results) (of which Int'l Joint Research: 3 results,  Invited: 1 results) Remarks (1 results)

  • [Journal Article] 音声認識による数式入力UIの開発と課題2023

    • Author(s)
      福井哲夫, 白井詩沙香
    • Journal Title

      数理解析研究所講究録「数学ソフトウェアとその効果的教育利用に関する研究」

      Volume: 2273 Pages: 22-29

    • Related Report
      2023 Annual Research Report
  • [Journal Article] Feature Expansion of the Equation Editor in Mathematics Classroom Collaborator (MC2) for Smartphones2023

    • Author(s)
      Shizuka Shirai, Marco Pollanen, Sohee Kang, Tetsuo Fukui
    • Journal Title

      2023 IEEE International Conference on Teaching, Assessment, and Learning for Engineering (TALE)

      Volume: - Pages: 606-609

    • DOI

      10.1109/tale56641.2023.10398400

    • Related Report
      2023 Annual Research Report
    • Peer Reviewed / Int'l Joint Research
  • [Journal Article] MathTOUCH Editor: Rich-text Editor for Math E-learning Using an Intelligent Math Input Interface2023

    • Author(s)
      Shizuka Shirai, Takahiro Nakahara, Tetsuo Fukui
    • Journal Title

      Journal of Information Processing

      Volume: 31 Issue: 0 Pages: 775-785

    • DOI

      10.2197/ipsjjip.31.775

    • ISSN
      1882-6652
    • Related Report
      2023 Annual Research Report
    • Peer Reviewed
  • [Journal Article] 日本語音声認識とGUIによるマルチモーダル数式入力方式の試作2023

    • Author(s)
      石丸琴海,妹尾美侑,白井詩沙香,福井哲夫
    • Journal Title

      情報処理学会第85回全国大会研究報告

      Volume: 1W-03 Pages: 1-2

    • Related Report
      2022 Research-status Report
  • [Journal Article] 数式を含む講義動画に対応した字幕表示システムの構築2023

    • Author(s)
      白井詩沙香,中原敬広,福井哲夫
    • Journal Title

      情報処理学会第85回全国大会研究報告

      Volume: 4H-05 Pages: 1-2

    • Related Report
      2022 Research-status Report
  • [Journal Article] グラフ作成ツールによる高校数学向け学習教材2022

    • Author(s)
      猪岡柚葉,宇都宮若菜,國仙紗也香,福井哲夫
    • Journal Title

      数理解析研究所講究録「数学ソフトウェアとその効果的教育利用に関する研究」

      Volume: 2236 Pages: 117-126

    • Related Report
      2022 Research-status Report
  • [Journal Article] Development of Online Support Tools for Creating STEM Educational Materials2022

    • Author(s)
      Tetsuo Fukui, Shizuka Shirai
    • Journal Title

      2022 IEEE International Conference on Teaching, Assessment, and Learning for Engineering (TALE)

      Volume: - Pages: 730-733

    • DOI

      10.1109/tale54877.2022.00131

    • Related Report
      2022 Research-status Report
    • Peer Reviewed
  • [Journal Article] 数学eラーニングのための数式予測変換方式によるリッチテキストエディタの試作と評価2022

    • Author(s)
      白井詩沙香, 中原敬広,福井哲夫
    • Journal Title

      第36回教育学習支援情報システム(CLE)研究会 情報処理学会研究報告

      Volume: Vol. 2022-CLE-36, No.2 Pages: 1-6

    • Related Report
      2021 Research-status Report
    • Peer Reviewed
  • [Journal Article] 数学デジタル文書読み上げツールの開発2021

    • Author(s)
      長谷川陽和,原知鈴,福井哲夫
    • Journal Title

      FIT2021 第20回情報科学技術フォーラム予稿集

      Volume: -

    • Related Report
      2021 Research-status Report
  • [Journal Article] 解説動画作成のための数学文書読み上げテキストへの変換2021

    • Author(s)
      福井哲夫,長谷川陽和,原知鈴
    • Journal Title

      数理解析研究所講究録 RIMS 共同研究(公開型)「数学ソフトウェアとその効果的教育利用に関する研究」

      Volume: 2208 Pages: 1-9

    • Related Report
      2021 Research-status Report
  • [Journal Article] 数学eラーニングのための数式曖昧入力変換方式によるリッチテキストエディタの開発2021

    • Author(s)
      白井詩沙香,中原敬広,福井哲夫
    • Journal Title

      情報処理学会第83回全国大会講演論文集

      Volume: 7F-02 Pages: 1-2

    • NAID

      170000186549

    • Related Report
      2020 Research-status Report
    • Peer Reviewed
  • [Presentation] 数式を含む文書作成のためのリッチテキストエディタプラグインの開発2024

    • Author(s)
      Shizuka Shirai, Takahiro Nakahara, Tetsuo Fukui
    • Organizer
      日本ムードルムート2024
    • Related Report
      2023 Annual Research Report
  • [Presentation] Feature Expansion of the Equation Editor in Mathematics Classroom Collaborator (MC2) for Smartphones2023

    • Author(s)
      Shizuka Shirai, Marco Pollanen, Sohee Kang, Tetsuo Fukui
    • Organizer
      2023 IEEE International Conference on Teaching, Assessment, and Learning for Engineering (TALE)
    • Related Report
      2023 Annual Research Report
    • Int'l Joint Research
  • [Presentation] 音声認識による数式入力UIの開発と課題2023

    • Author(s)
      福井哲夫, 白井詩沙香
    • Organizer
      数理解析研究所RIMS 共同研究(公開型)「数学ソフトウェアとその効果的教育利用に関する研究」
    • Related Report
      2023 Annual Research Report
  • [Presentation] 数式を含む文書作成エディタの開発と応用事例2023

    • Author(s)
      白井詩沙香, 中原敬広, 福井哲夫
    • Organizer
      第48回教育システム情報学会プレカンファレンス
    • Related Report
      2023 Annual Research Report
    • Invited
  • [Presentation] 日本語音声認識とGUIによるマルチモーダル数式入力方式の試作2023

    • Author(s)
      石丸琴海,妹尾美侑,白井詩沙香,福井哲夫
    • Organizer
      情報処理学会第85回全国大会
    • Related Report
      2022 Research-status Report
  • [Presentation] 数式を含む講義動画に対応した字幕表示システムの構築2023

    • Author(s)
      白井詩沙香, 中原敬広,福井哲夫
    • Organizer
      情報処理学会第85回全国大会
    • Related Report
      2022 Research-status Report
  • [Presentation] Development of Online Support Tools for Creating STEM Educational Materials2022

    • Author(s)
      Tetsuo Fukui, Shizuka Shirai
    • Organizer
      2022 IEEE International Conference on Teaching, Assessment, and Learning for Engineering (TALE)
    • Related Report
      2022 Research-status Report
    • Int'l Joint Research
  • [Presentation] グラフ作成ツールによる高校数学向け学習教材2022

    • Author(s)
      猪岡柚葉,宇都宮若菜,國仙紗也香,福井哲夫
    • Organizer
      数理解析研究所RIMS 共同研究(公開型)「数学ソフトウェアとその効果的教育利用に関する研究」
    • Related Report
      2022 Research-status Report
  • [Presentation] 数学eラーニングのための数式予測変換方式によるリッチテキストエディタの試作と評価2022

    • Author(s)
      白井詩沙香, 中原敬広,福井哲夫
    • Organizer
      第36回教育学習支援情報システム(CLE)研究会
    • Related Report
      2021 Research-status Report
  • [Presentation] Math E-learning Question Specification and XML Exporter for STACK by using Visual Programming Language2021

    • Author(s)
      Yasuyuki Nakamura, Takahiro Nakahara, Mitsuru Kawazoe, Kentaro Yoshitomi,Tetsuo Fukui, Shizuka Shirai, Katsuya Kato, Tetsuya Taniguchi
    • Organizer
      The 14th International Congress on Mathematical Education
    • Related Report
      2021 Research-status Report
    • Int'l Joint Research
  • [Presentation] 数学デジタル文書読み上げツールの開発2021

    • Author(s)
      長谷川陽和,原知鈴,福井哲夫
    • Organizer
      FIT2021 第20回情報科学技術フォーラム
    • Related Report
      2021 Research-status Report
  • [Presentation] 解説動画作成のための数学文書読み上げテキストへの変換2021

    • Author(s)
      福井哲夫,長谷川陽和,原知鈴
    • Organizer
      数理解析研究所RIMS 共同研究(公開型)「数学ソフトウェアとその効果的教育利用に関する研究」
    • Related Report
      2021 Research-status Report
  • [Presentation] 数学eラーニングのための数式曖昧入力変換方式によるリッチテキストエディタの開発2021

    • Author(s)
      白井詩沙香,中原敬広,福井哲夫
    • Organizer
      情報処理学会第83回全国大会
    • Related Report
      2020 Research-status Report
  • [Remarks] MathTOUCHで数式をもっと自由に

    • URL

      https://mathtouch.org

    • Related Report
      2023 Annual Research Report 2022 Research-status Report

URL: 

Published: 2020-04-28   Modified: 2025-01-30  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi