• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to previous page

数学eラーニングのためのマルチモーダルな数式入力UIの研究と学習支援環境の構築

Research Project

Project/Area Number 23K25724
Project/Area Number (Other) 23H01027 (2023)
Research Category

Grant-in-Aid for Scientific Research (B)

Allocation TypeMulti-year Fund (2024)
Single-year Grants (2023)
Section一般
Review Section Basic Section 09080:Science education-related
Research InstitutionMukogawa Women's University

Principal Investigator

福井 哲夫  武庫川女子大学, 社会情報学部, 教授 (70218890)

Co-Investigator(Kenkyū-buntansha) 川添 充  大阪公立大学, 国際基幹教育機構, 教授 (10295735)
吉冨 賢太郎  大阪公立大学, 国際基幹教育機構, 准教授 (10305609)
白井 詩沙香  大阪大学, サイバーメディアセンター, 講師 (30757430)
中村 泰之  名古屋大学, 教養教育院, 教授 (70273208)
Project Period (FY) 2023-04-01 – 2027-03-31
Project Status Granted (Fiscal Year 2024)
Budget Amount *help
¥18,330,000 (Direct Cost: ¥14,100,000、Indirect Cost: ¥4,230,000)
Fiscal Year 2026: ¥4,550,000 (Direct Cost: ¥3,500,000、Indirect Cost: ¥1,050,000)
Fiscal Year 2025: ¥4,030,000 (Direct Cost: ¥3,100,000、Indirect Cost: ¥930,000)
Fiscal Year 2024: ¥4,680,000 (Direct Cost: ¥3,600,000、Indirect Cost: ¥1,080,000)
Fiscal Year 2023: ¥5,070,000 (Direct Cost: ¥3,900,000、Indirect Cost: ¥1,170,000)
Keywordsマルチモーダル学習 / 音声入力 / 数式入力インタフェース / 数学文書エディタ / 数学学習支援 / 音声認識 / 数学eラーニング / 学習支援環境
Outline of Research at the Start

教育DXが進められる中,数式の取り扱いが障壁となり,十分に活用できない状況にある。我々は,この問題を解決するため,仮名漢字変換のように候補を提示して入力できるキーボードベースの数式入力インタフェースの開発に成功した。しかし,超スマート社会に向け,数式入力手段も場面や目的に応じた多様な選択肢を提供する必要がある。そこで,本研究の目的は.数学教材を作成する教育者だけでなく,数学知識をデジタルに記録する生徒・学生・一般人のためにキーボード,タッチスクリーン,音声入力などマルチモーダルな数式入力UIにより数学文書編集やオンラインコミュニケーション機能を備えた数学eラーニング環境を実現することにある。

Outline of Annual Research Achievements

本研究では,数学教材を作成(デジタル化)する教師のためだけでなく,ICTを活用して,数学的知識や思考を身につけようとする生徒・学生・一般人のために,多様な場面に対応し,キーボード,タッチスクリーン,音声入力などマルチモーダルな数式入力インタフェースを実現し,数学文書編集可能で円滑なオンラインコミュニケーション機能を備えた数学 e ラーニング環境を実現することにある.
そのために,5つの課題に分けて取り組んだ.まず我々が提案する数式予測変換の仕組みを取り入れた(課題1)マルチモーダルな数式入力UIの研究に取り組む.次に,学習者への支援の観点から,思考過程の計算式や図示が楽にできて,教師にチャットで質問できる環境を実現するために(課題2)マルチモーダルな数学文書エディタの開発と評価および(課題3)数学チャットシステムの改善と評価に取り組む.最後に教育者支援の観点から,提案システムの教材サンプル等を公開・提供し,教育者同士でも情報交換できるようにするために(課題4)数学eラーニングのためのマルチモーダルUIを備えた教育・学習支援環境の構築および(課題5)数学教育・学習支援環境活用のためのワークショップ・コミュニティの開催を目的とする.
令和5年度は,(課題1)を中心に,音声による数式入力UIを強化し,マルチモーダルな数式入力インタフェースとして一定の成果を示すことができた.この成果を(課題2)の数学文書エディタに実装し,構築した公開用サーバを通じて公開するとともに,eラーニングシステムの学会で発表した.カナダのトロント大学で開発された数学チャットシステムを(課題3)に利用するため,9月に訪問して国際共同研究の打ち合わせを行ない,業務委託によって,数学eラーニングサーバの構築および数式チャットシステムのプラグイン開発を進めた.これによって,(課題3)の評価のための準備が整った.

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

令和5年度の計画は,(課題1)のマルチモーダルな数式入力UIの技術を進展させ,そのUIを実装した(課題2)の数学文書エディタを数学eラーニングに活用できるようにすること,また,(課題3)の数式チャットシステムの開発・準備を進めることにある.実施した具体的内容を時系列順に報告する.
令和5年4月--8月:音声による数式入力UIを強化するため,中学数学レベルまで成功していた認識範囲を高校数学Ⅰまで拡張し,評価実験によってマルチモーダルな数式入力インタフェースとして一定の成果を示すことができた.その成果を「数学ソフトウェアとその効果的教育利用に関する研究」研究集会にて口頭発表し,その論文が数理解析研究所講究録2273巻に掲載された.
令和5年9月:(課題3)に必要な,カナダのトロント大学で開発された数学チャットシステムMC2に我々のUIを実装させる国際共同研究を進めるため,トロント大学Sohee Kang教授および開発者のトレント大学Pollanen教授のところに白井詩沙香講師(大阪大学),中村泰之教授(名古屋大学)とともに訪問して打ち合わせを行なった.実践運用に向けた改善の方向性や完成後の研究協力に関して話し合い,快諾を得た.
令和5年10月--12月:上記の数学チャットシステム導入のため,新たに数学eラーニングサーバを業者委託により構築し,(課題1)のUI実装に成功した.これらの成果は科学技術教育の国際会議TALE24にて発表した.
令和6年1月--3月:(課題2)のマルチモーダルUIを備えた統合的数学文書エディタを数学eラーニングシステム用のオープンソースプラグインとして開発し,前年度構築したWebサーバを通じて公開するとともに,eラーニングシステムの全国大会「日本ムードルムート2024」で発表したところ,発表内容がベストイノベーション部門で準優勝となり,大いに評価を受けた.

Strategy for Future Research Activity

2024年度は,まず(課題1)のマルチモーダルな数式入力UIの研究を継続する.技術的に高校数学Iまで実現している音声入力を実用レベルに引き上げるため,扱う数学分野を拡大する.年度前半に,アルバイト等を使って数式の音声読み上げサンプルデータを収集し,認識できる数学分野を線形代数・微分積分まで拡大したい.その後,約40人の被験者で認識精度の評価実験を実施する計画である.並行して,主に研究代表者が1台のPCを使って数式予測のためのマルチモーダルな機械学習アルゴリズムを検討し,2024年度後半にかけてUIとしての認識率およびユーザビリティ(使いやすさ)を向上させる予定である.これら,マルチモーダルな数式入力UIを開発・評価し,その後成果を公開するためにWebサーバを構築しており,2024年度はその運用のためのレンタル・保守業務委託が必要である.
一方,(課題2)マルチモーダルUIを備えた統合的数学文書エディタの開発と評価については研究分担者白井詩沙香氏(大阪大学)との共同研究で進め,2024年度は線形代数教育に必要な行列の入出力やグラフ化機能を強化して,数学eラーニングシステムに活用できるようにする.これにより,オンライン数学問題中にグラフが挿入できるため,それを活用した微積分・線形代数の教育教材を開発するとともに,次年度には構築ずみのLMSサーバを利用して被験者学習実験を実施してその有効性を検証していきたい.
また,(課題3)数学チャットシステムは(課題1,2)の進展に応じて開発UIとシームレスに連携できるよう,改良する計画である.
2023年度における成果は,2024年度7月の数学教育に関する国際会議ICME-15にて,白井氏との共同研究として発表予定であり,12月には理数系教育に関する国際会議にて発表する計画で,これらの海外渡航旅費は分担金支給にて賄う.

Report

(1 results)
  • 2023 Annual Research Report
  • Research Products

    (25 results)

All 2024 2023 Other

All Int'l Joint Research (1 results) Journal Article (8 results) (of which Int'l Joint Research: 1 results,  Peer Reviewed: 3 results,  Open Access: 1 results) Presentation (14 results) (of which Int'l Joint Research: 4 results,  Invited: 1 results) Remarks (2 results)

  • [Int'l Joint Research] University of Toronto/Trent University(カナダ)

    • Related Report
      2023 Annual Research Report
  • [Journal Article] Visualization of Penstroke Data and Estimation of Levels of Confidence for Online Math Tests2023

    • Author(s)
      藤本 和伶、中村 泰之
    • Journal Title

      Computer & Education

      Volume: 54 Issue: 0 Pages: 34-41

    • DOI

      10.14949/konpyutariyoukyouiku.54.34

    • ISSN
      2186-2168, 2188-6962
    • Year and Date
      2023-06-01
    • Related Report
      2023 Annual Research Report
    • Peer Reviewed / Open Access
  • [Journal Article] 音声認識による数式入力UIの開発と課題2023

    • Author(s)
      福井哲夫, 白井詩沙香
    • Journal Title

      数理解析研究所講究録「数学ソフトウェアとその効果的教育利用に関する研究」

      Volume: 2273 Pages: 22-29

    • Related Report
      2023 Annual Research Report
  • [Journal Article] Feature Expansion of the Equation Editor in Mathematics Classroom Collaborator (MC2) for Smartphones2023

    • Author(s)
      Shizuka Shirai, Marco Pollanen, Sohee Kang, Tetsuo Fukui
    • Journal Title

      2023 IEEE International Conference on Teaching, Assessment, and Learning for Engineering (TALE)

      Volume: - Pages: 606-609

    • DOI

      10.1109/tale56641.2023.10398400

    • Related Report
      2023 Annual Research Report
    • Peer Reviewed / Int'l Joint Research
  • [Journal Article] MathTOUCH Editor: Rich-text Editor for Math E-learning Using an Intelligent Math Input Interface2023

    • Author(s)
      Shizuka Shirai, Takahiro Nakahara, Tetsuo Fukui
    • Journal Title

      Journal of Information Processing

      Volume: 31 Issue: 0 Pages: 775-785

    • DOI

      10.2197/ipsjjip.31.775

    • ISSN
      1882-6652
    • Related Report
      2023 Annual Research Report
    • Peer Reviewed
  • [Journal Article] 線形代数授業におけるオンライン問題の活用と学習分析2023

    • Author(s)
      吉冨 賢太郎
    • Journal Title

      JSiSE Research Report

      Volume: 38 No.2 Pages: 81-86

    • Related Report
      2023 Annual Research Report
  • [Journal Article] 数学オンライン問題の問題点2023

    • Author(s)
      吉冨 賢太郎
    • Journal Title

      Bulletin of JSSAC

      Volume: 29 No.2 Pages: 45-57

    • Related Report
      2023 Annual Research Report
  • [Journal Article] STACK を利用した線形代数教材の開発と授業設計2023

    • Author(s)
      吉冨 賢太郎
    • Journal Title

      Bulletin of JSSAC

      Volume: 30 No.1 Pages: 20-23

    • Related Report
      2023 Annual Research Report
  • [Journal Article] Classification of Answers in Math Online Tests by Visualizing Graph Similarity2023

    • Author(s)
      Saburo Higucih, Yasuyuki Nakamura
    • Journal Title

      Companion Proceedings of the 14th International Learning Analytics and Knowledge Conference

      Volume: - Pages: 197-199

    • Related Report
      2023 Annual Research Report
  • [Presentation] 数式を含む文書作成のためのリッチテキストエディタプラグインの開発2024

    • Author(s)
      Shizuka Shirai, Takahiro Nakahara, Tetsuo Fukui
    • Organizer
      日本ムードルムート2024
    • Related Report
      2023 Annual Research Report
  • [Presentation] STACK問題タイプの解答データ分析手法の検討2024

    • Author(s)
      中村泰之, 樋口三郎, 吉冨賢太郎, 宮崎佳典, 中原敬広, 川添充, 福井哲夫, 白井詩沙香
    • Organizer
      日本ムードルムート2024
    • Related Report
      2023 Annual Research Report
  • [Presentation] Network analysis of solution processes in mathematics online tests2024

    • Author(s)
      Asahi Kurihara, Yasuyuki Nakamura
    • Organizer
      International Meeting of the STACK Community 2024
    • Related Report
      2023 Annual Research Report
    • Int'l Joint Research
  • [Presentation] Classification of Answers in Math Online Tests by Visualizing Graph Similarity2024

    • Author(s)
      Saburo Higuchi, Yasuyuki Nakamura
    • Organizer
      The 14th International Learning Analytics and Knowledge Conference
    • Related Report
      2023 Annual Research Report
    • Int'l Joint Research
  • [Presentation] 視線データからの解答過程の分析における時系列情報を含むヒートマップによる可視化の有効性2024

    • Author(s)
      岩田 蒼良,中村 泰之
    • Organizer
      教育システム情報学会2023年度学生研究発表会
    • Related Report
      2023 Annual Research Report
  • [Presentation] Feature Expansion of the Equation Editor in Mathematics Classroom Collaborator (MC2) for Smartphones2023

    • Author(s)
      Shizuka Shirai, Marco Pollanen, Sohee Kang, Tetsuo Fukui
    • Organizer
      2023 IEEE International Conference on Teaching, Assessment, and Learning for Engineering (TALE)
    • Related Report
      2023 Annual Research Report
    • Int'l Joint Research
  • [Presentation] 音声認識による数式入力UIの開発と課題2023

    • Author(s)
      福井哲夫, 白井詩沙香
    • Organizer
      数理解析研究所RIMS 共同研究(公開型)「数学ソフトウェアとその効果的教育利用に関する研究」
    • Related Report
      2023 Annual Research Report
  • [Presentation] 数式を含む文書作成エディタの開発と応用事例2023

    • Author(s)
      白井詩沙香, 中原敬広, 福井哲夫
    • Organizer
      第48回教育システム情報学会プレカンファレンス
    • Related Report
      2023 Annual Research Report
    • Invited
  • [Presentation] 線形代数授業におけるオンライン問題の活用と学習分析2023

    • Author(s)
      吉冨 賢太郎
    • Organizer
      JSiSE 2023年度第2回研究会
    • Related Report
      2023 Annual Research Report
  • [Presentation] 数学オンライン問題の問題点2023

    • Author(s)
      吉冨 賢太郎
    • Organizer
      日本数式処理学会 第16期第3回 教育分科会
    • Related Report
      2023 Annual Research Report
  • [Presentation] STACK を利用した線形代数教材の開発と授業設計2023

    • Author(s)
      吉冨 賢太郎
    • Organizer
      日本数式処理学会第32回全国大会
    • Related Report
      2023 Annual Research Report
  • [Presentation] Visualization of Knowledge Map based on STACK Answer Data2023

    • Author(s)
      Lilin Wang, Yasuyuki Nakamura, Takahiro Nakahara
    • Organizer
      International Meeting of the STACK Community 2023
    • Related Report
      2023 Annual Research Report
    • Int'l Joint Research
  • [Presentation] 数学オンラインテストにおける解答の推移の三次元可視化と分析2023

    • Author(s)
      高田知樹,中村泰之
    • Organizer
      第48回教育システム情報学会全国大会
    • Related Report
      2023 Annual Research Report
  • [Presentation] 学習者のモチベーションへの働きかけを考慮した 数学オンラインテストにおけるフィードバック方略2023

    • Author(s)
      篠田有史,中村泰之
    • Organizer
      第48回教育システム情報学会全国大会
    • Related Report
      2023 Annual Research Report
  • [Remarks] MathTOUCHで数式をもっと自由に

    • URL

      https://mathtouch.org

    • Related Report
      2023 Annual Research Report
  • [Remarks] MathTOUCHによるMoodleシステムと数学チャットプラグイン

    • URL

      https://mathud.org

    • Related Report
      2023 Annual Research Report

URL: 

Published: 2023-04-18   Modified: 2024-12-25  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi