• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 課題ページに戻る

2022 年度 実施状況報告書

マルチモーダルな数式入力UIの研究と数学学習支援環境

研究課題

研究課題/領域番号 20K12117
研究機関武庫川女子大学

研究代表者

福井 哲夫  武庫川女子大学, 生活環境学部, 教授 (70218890)

研究期間 (年度) 2020-04-01 – 2024-03-31
キーワードマルチモーダル学習 / 音声入出力 / 数式入力インタフェース / 数学文書エディタ / 知的学習支援システム / 数学eラーニング
研究実績の概要

本研究では,数学教材を作成(デジタル化)する教師のためだけでなく,ICTを活用して,数学的知識や思考を身につけようとする生徒・学生・一般人のために,多様な場面に対応し,キーボード,タッチスクリーン,音声入力などマルチモーダルな数式入力インタフェースを実現し,数学的統合文書エディタに実装して,デジタルメモや解答入力など数学eラーニングと連携できる学習支援環境を構築・公開することを目的とする.
長期化するコロナ禍の影響により,令和2年度は研究エフォートが下がり,本研究課題の進捗は大きく遅れる結果となった。そのため研究計画を一年延長し、令和4年度は当初令和3年に実施する内容を順調に実施した。具体的には、まず前年度試作した数学文書エディタに統合するためのグラフ作成ツールの学習教材サンプルの充実を図り、その成果を「数学ソフトウェアとその効果的教育利用に関する研究」研究集会にて発表した。次に、研究協力者の白井詩沙香氏(大阪大学講師)と数学講義動画サンプルの字幕を生成し、数式を表示できる字幕システムの開発を行い、その成果を情報処理学会の第85回全国大会にて発表した。また、年度の後半には、学生アルバイトにより数式の音声読み上げデータを収集し、音声認識のための数式辞書テーブルを作成し、中学数学レベルではあるが音声による数式入力インタフェースの試作に成功した。その成果も情報処理学会の第85回全国大会にて発表した。

現在までの達成度 (区分)
現在までの達成度 (区分)

3: やや遅れている

理由

遅れの理由は,長期化するコロナ禍の影響により初年度(令和2年度)の大幅な遅れを十分に回復するまでには至らなかったためである.そのため研究計画を一年延長し、令和4年度は当初令和3年に実施する内容を順調に実施した。
令和4年4月-8月:学習支援環境を充実させるため、令和2年度から開発を進めてきた「自然な記述のグラフ作成ツール」の学習教材サンプルを蓄積し、構築済み公開用サーバ上でシステムの試用とサンプルの提示機能を実現した。その成果を「数学ソフトウェアとその効果的教育利用に関する研究」研究集会にて口頭発表し、その論文が数理解析研究所講究録2236巻に掲載された。
令和4年9月-10月:白井詩沙香氏(大阪大学・研究協力者)との共同研究として、数式を含む講義動画に対応した字幕表示システムの構築に取り組んだ。吉冨賢太郎氏(大阪公立大学・研究協力者)の担当する数学授業の講義動画を提供してもらい、数式を含む音声字幕を表示するシステムの有効性を検証した。この成果を、令和5年3月の情報処理学会第85回全国大会にて発表した。
令和4年11月:業者委託により構築した公開用サーバに新たにLMSサービス機能(Moodleシステム)を追加し、数学学習支援環境の整備を行なった。これにより数式のための研究成果を実際の学習へ応用できる準備が整った。
令和4年12月-令和5年3月:前年度に確立した数式読み上げツールによる辞書を基礎として,数式の音声認識アルゴリズムの確立に取り組んだ。方策として,既に開発済みの数式予測変換モジュールと既存の音声認識APIを組み合わせ,中学校数学レベルの数式入力に有効であることを検証した.検証には数式読み上げの音声サンプルを学生アルバイトによって収集し、音声認識のための辞書テーブルを構築できた。この成果は令和5年3月の情報処理学会第85回全国大会にて発表した。

今後の研究の推進方策

令和5年度の前半は,業者委託により既に構築ずみの公開用サーバに対し,前年度までに開発した数学文書の音声読み上げツールやグラフ作成ツール、数学文書エディタを公開していく.また、音声入力できる数式の分野を高校・大学レベルにまで拡大するべく、音声データを収集し、音声認識辞書を強化していきたい。
令和5年度中盤は,キーボード,タッチスクリーン,音声入力などマルチモーダルな数式入力インタフェースを実現し,最終目標であるそれらのインタフェースを数学的統合文書エディタに実装していく。
令和5年度後半には,この数学文書エディタを,数学eラーニングに応用・検証するために、学習教材サンプルを蓄積し、被験者による模擬授業等を計画して、有効性を検証していきたい。これらの成果は随時学会等で発表するとともに、学習支援環境サーバに蓄積し、公開していく。

次年度使用額が生じた理由

上記研究進捗状況で報告したように,新型コロナ感染拡大の影響が長期化し,令和2年度に大幅に遅れた研究を,令和3から4年度だけで3年分挽回することは困難であった.また,令和3から4年度は順調に研究を遂行できたものの,順次得られた成果を対面で発表する場が少なく,特に予定していた国際会議等の海外出張旅費を執行できなかったため,研究期間を延長し、次年度に使用額が生じることとなった.
令和5年度は,まず,既に構築ずみの随時成果物を公開していくための公開用サーバへの学習サンプルコンテンツ更新および保守費を業務委託費として執行する計画である.これにより,開発した数学統合文書エディタを,数学eラーニングに応用・検証することができる.また,得られた成果を学会等で研究発表するための旅費も必要と考える.

備考

成果物である数式入力インタフェースをMathTOUCHと呼ぶ。そのUIを応用した開発ツールを含む数学学習支援環境を試用できる公開用サーバのURLである。

  • 研究成果

    (9件)

すべて 2023 2022 その他

すべて 雑誌論文 (4件) (うち査読あり 1件) 学会発表 (4件) (うち国際学会 1件) 備考 (1件)

  • [雑誌論文] 日本語音声認識とGUIによるマルチモーダル数式入力方式の試作2023

    • 著者名/発表者名
      石丸琴海,妹尾美侑,白井詩沙香,福井哲夫
    • 雑誌名

      情報処理学会第85回全国大会研究報告

      巻: 1W-03 ページ: pp.1-2

  • [雑誌論文] 数式を含む講義動画に対応した字幕表示システムの構築2023

    • 著者名/発表者名
      白井詩沙香,中原敬広,福井哲夫
    • 雑誌名

      情報処理学会第85回全国大会研究報告

      巻: 4H-05 ページ: pp.1-2

  • [雑誌論文] グラフ作成ツールによる高校数学向け学習教材2022

    • 著者名/発表者名
      猪岡柚葉,宇都宮若菜,國仙紗也香,福井哲夫
    • 雑誌名

      数理解析研究所講究録「数学ソフトウェアとその効果的教育利用に関する研究」

      巻: 2236 ページ: pp. 117-126

  • [雑誌論文] Development of Online Support Tools for Creating STEM Educational Materials2022

    • 著者名/発表者名
      Tetsuo Fukui, Shizuka Shirai
    • 雑誌名

      2022 IEEE International Conference on Teaching, Assessment, and Learning for Engineering (TALE)

      巻: - ページ: pp.730-733

    • DOI

      10.1109/TALE54877.2022.00131

    • 査読あり
  • [学会発表] 日本語音声認識とGUIによるマルチモーダル数式入力方式の試作2023

    • 著者名/発表者名
      石丸琴海,妹尾美侑,白井詩沙香,福井哲夫
    • 学会等名
      情報処理学会第85回全国大会
  • [学会発表] 数式を含む講義動画に対応した字幕表示システムの構築2023

    • 著者名/発表者名
      白井詩沙香, 中原敬広,福井哲夫
    • 学会等名
      情報処理学会第85回全国大会
  • [学会発表] Development of Online Support Tools for Creating STEM Educational Materials2022

    • 著者名/発表者名
      Tetsuo Fukui, Shizuka Shirai
    • 学会等名
      2022 IEEE International Conference on Teaching, Assessment, and Learning for Engineering (TALE)
    • 国際学会
  • [学会発表] グラフ作成ツールによる高校数学向け学習教材2022

    • 著者名/発表者名
      猪岡柚葉,宇都宮若菜,國仙紗也香,福井哲夫
    • 学会等名
      数理解析研究所RIMS 共同研究(公開型)「数学ソフトウェアとその効果的教育利用に関する研究」
  • [備考] MathTOUCHで数式をもっと自由に

    • URL

      https://mathtouch.org

URL: 

公開日: 2023-12-25  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi