• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 前のページに戻る

知的障碍児のeラーニングによる独学を支援する感情認識AIメンタリング

研究課題

研究課題/領域番号 21K02872
研究種目

基盤研究(C)

配分区分基金
応募区分一般
審査区分 小区分09070:教育工学関連
研究機関久留米工業大学

研究代表者

小田 まり子  久留米工業大学, 工学部, 教授 (20269046)

研究分担者 河野 央  久留米工業大学, 工学部, 教授 (60437746)
八坂 亮祐  久留米工業大学, 工学部, 教育研究コーディネーター (20815716)
呉 濟元  久留米工業大学, 工学部, 特任講師 (00913310)
高橋 雅仁  久留米工業大学, 工学部, 学長政策顧問 (70330975)
研究期間 (年度) 2021-04-01 – 2025-03-31
研究課題ステータス 交付 (2023年度)
配分額 *注記
4,160千円 (直接経費: 3,200千円、間接経費: 960千円)
2023年度: 650千円 (直接経費: 500千円、間接経費: 150千円)
2022年度: 1,040千円 (直接経費: 800千円、間接経費: 240千円)
2021年度: 2,470千円 (直接経費: 1,900千円、間接経費: 570千円)
キーワードAI / 感情認識 / 表情認識 / 骨格認識 / 文章生成AI / 特別支援教育 / AIメンタリング / eラーニング / 人工知能 / 音声認識 / 拡張現実(AR) / メンタリング / コンピュータ・グラフィックス / 感情・表情認識 / AR
研究開始時の研究の概要

本研究の目的は、AI(Artificial Intelligence:人工知能)の応用技術である感情認識に基づくリアルタイム・メンタリング(助言・支援)機能を有するAR(Augmented Reality:拡張現実)カード教材eラーニング(electronic-learning)システムを開発し、知的障碍を持つ児童生徒の自律的学習を支援することである。
従来の学習履歴に基づくメンタリングシステムとは異なり、表情認識・骨格認識AIなどの応用技術を用い、知的障碍のある学習者の感情状態、集中度、理解度を非言語情報から推定するところに本研究の新規性がある。AIやARを有効活用した点でも有用性が高い。

研究実績の概要

本研究の目的は、AI(Artificial Intelligence:人工知能)の応用技術である感情認識に基づくリアルタイム・メンタリング(助言・支援)機能により、知的障碍を持つ児童生徒の自律的学習を支援することである。今年度は、人の動きを追従するCGキャラクターを実現し、ヴァーチャルメンター(Vメンター)として障碍を持つ学習者を支援する教育支援システムを開発した。児童生徒の障碍について理解のある特別支援学校教師は、教室における児童の様子をカメラで観察しながら遠隔教室で友達役を演じる。児童が授業を受ける教室の机横に設置されたモニター上のVメンター(CGキャラクター)は教師と同じ動作をするとともに,教師の発話音声は少女の声に変換して再生される。
特別支援学校でVメンターシステムを用いた教育を実践した結果、児童はVメンターに興味を持ち、友達に話しかけるような交流がみられ、その有効性を確認した。しかし、別室で教員がVメンターを操作するには、授業教室の様子をより正確(明瞭)に動画、音声で伝える必要があることが判明した。また、クラスの児童数や障碍の種類によりVメンターに求められる役割(友達役、教師役等)が変わることがわかったので、Vメンターの役割を変えて利用できるようにし、教育効果の比較・検証を行う必要がある。
最終的には,Vメンターのように教師がCGキャラクターを操作するのではなく,AIが学習者の集中度や感情を把握し、メンタリングを行うAIメンターの完成を目指す。現在までに、学習者の骨格検出により、集中度を把握することはできるようになった。今後、表情認識や感情認識により学習者の感情を把握し、学習者の感情に寄り添った声かけができるようにする。また、音声認識機能や文章生成AIにより、児童生徒と自然な会話をしたり、励ましや注意の声かけをしたりできるように改善を行う。

現在までの達成度 (区分)
現在までの達成度 (区分)

3: やや遅れている

理由

本研究は、特別支援学校に訪問し、その教育実践により完成する研究テーマであるが、令和3年度と4年度はコロナ禍にあり、特別支援学校に入ることを制限されたため、研究の進捗に遅れがみられた。特に、本研究では児童生徒の顔の表情から感情を推定することを研究の柱としているため、児童生徒がマスクを外すことができなかった影響が研究に大きく影響し、顔の表情認識による感情推定に基づく声かけの機能を実装が遅れてしまった。
しかし、令和5年度からは定期的に特別支援学校を訪問し、教育実践ができている。学習時における児童生徒の顔を撮影することも可能となり、順調に研究が進み始めた。また、令和5年度からは特別支援学校教員とのディスカッションの時間も十分とれ、対面での学会発表参加もできるようになった。成果論文も順調に発表できている。
それでも、令和3年度、4年度の遅れを取り戻すまでには至らなかったが、令和6年度(1年間)の延長により、十分、本科学研究費による採択課題の研究成果を出せる見込みである。

今後の研究の推進方策

今後、AIの表情認識や感情認識の技術を応用し、学習者の感情推定結果にも基づく、感情に寄り添った声かけができるAIメンターを完成させる予定である。現在までに、学習者の集中度推定結果による声かけはできるようになったので、学習者の表情認識結果や、音声認識機能により学習者の感情を把握し、児童生徒と自然な会話をしたり、励ましや注意の声かけをしたりできるようにする。
また、開発したバーチャルメンターやAIメンターを特別支援学校の授業の中で継続的に利用し、改良を加える。また、両メンターの声かけによる学習者の行動・発言の変化を分析することにより、AIによるメンタリングの教育効果を検証する。現在、授業に導入している特別支援学校だけでなく、近隣の小中学校の特別支援学級にも働きかけ、AIメンターの利用実績を増やし、検証を行いたい。
本科学技術研究費による研究成果を学会発表するとともに、論文誌に投稿する。

報告書

(3件)
  • 2023 実施状況報告書
  • 2022 実施状況報告書
  • 2021 実施状況報告書
  • 研究成果

    (14件)

すべて 2024 2023 2022 2021 その他

すべて 雑誌論文 (6件) (うち査読あり 2件、 オープンアクセス 2件) 学会発表 (7件) 備考 (1件)

  • [雑誌論文] AIメンターを用いた障碍児対象教育支援システムの開発2024

    • 著者名/発表者名
      春田大河,小田まり子,新井康平, 松永泰臣
    • 雑誌名

      JSiSE Research Report

      巻: 38 ページ: 1-8

    • 関連する報告書
      2023 実施状況報告書
  • [雑誌論文] AIを用いた障碍児のためのeラーニング支援システム2023

    • 著者名/発表者名
      春田大河,小田まり子,新井康平, 石垣大樹
    • 雑誌名

      電子情報通信学会技術研究報告

      巻: 123 ページ: 40-45

    • 関連する報告書
      2023 実施状況報告書
  • [雑誌論文] 骨格検出技術を用いた知的障碍児学習支援のための集中度推定法2023

    • 著者名/発表者名
      春田大河、小田まり子、石垣大河、新井康平
    • 雑誌名

      久留米工業大学研究報告

      巻: 45 ページ: 78-86

    • 関連する報告書
      2023 実施状況報告書
  • [雑誌論文] Emotion Estimation Method with Mel-frequency Spectrum, Voice Power Level and Pitch Frequency of Human Voices through CNN Learning Processes2022

    • 著者名/発表者名
      Taiga Haruta, Mariko Oda, Kohei Arai
    • 雑誌名

      International Journal of Advanced Computer Science and Applications

      巻: 13(11) 号: 11 ページ: 215-220

    • DOI

      10.14569/ijacsa.2022.0131124

    • 関連する報告書
      2022 実施状況報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] 骨格検出技術を用いた知的障碍児学習支援のための集中度推定法2022

    • 著者名/発表者名
      春田 大河,小田 まり子,石垣 大樹,新井 康平
    • 雑誌名

      久留米工業大学研究報告

      巻: 45 ページ: 78-86

    • 関連する報告書
      2022 実施状況報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] 感情認識 AI メンタリングによる知的障碍児の e ラーニングシステム2022

    • 著者名/発表者名
      小田まり子,呉濟元, 八坂 亮祐, 河野 央, 高橋 雅仁, 新井 康平
    • 雑誌名

      第46回教育システム情報学会全国大会講演論文集

      巻: C2 ページ: 103-104

    • 関連する報告書
      2021 実施状況報告書
  • [学会発表] 機械学習を用いた障碍児教育支援のための姿勢と表情の分類2024

    • 著者名/発表者名
      春田 大河、小田 まり子,新井 康平、松永 泰臣
    • 学会等名
      2024年度電子情報通信学会総合大会
    • 関連する報告書
      2023 実施状況報告書
  • [学会発表] Time Warpを用いたRLS法に基づく動作予測及び運動療法への応用2024

    • 著者名/発表者名
      衞藤康典, 小田まり子, 新井康平,
    • 学会等名
      2023年度電子情報通信学会総合大会
    • 関連する報告書
      2023 実施状況報告書
  • [学会発表] AIメンターを用いた障碍児対象教育支援システムの開発2024

    • 著者名/発表者名
      春田大河,小田まり子,新井康平, 松永泰臣
    • 学会等名
      教育システム情報学会2023年度特集論文研究会
    • 関連する報告書
      2023 実施状況報告書
  • [学会発表] AIを用いた障碍児のためのeラーニング支援システム2023

    • 著者名/発表者名
      春田大河,小田まり子,新井康平, 石垣大樹
    • 学会等名
      電子情報通信学会福祉情報工学研究会
    • 関連する報告書
      2023 実施状況報告書
  • [学会発表] 人の動きを追従するヴァーチャルメンターによる障碍児への教育支援2023

    • 著者名/発表者名
      春田大河,小田まり子
    • 学会等名
      電子情報通信学会学生会講演会
    • 関連する報告書
      2023 実施状況報告書
  • [学会発表] 学習時発話音声の分析による学習者の感情認識2022

    • 著者名/発表者名
      春田大河,小田まり子
    • 学会等名
      電子情報通信学会九州支部学生会講演会・講演論文集
    • 関連する報告書
      2022 実施状況報告書
  • [学会発表] 感情認識 AI メンタリングによる知的障碍児の e ラーニングシステム2021

    • 著者名/発表者名
      小田まり子,呉濟元, 八坂 亮祐, 河野 央, 高橋 雅仁, 新井 康平
    • 学会等名
      教育システム情報学会全国大会
    • 関連する報告書
      2021 実施状況報告書
  • [備考] 感情認識 AI の特別支援教育への応用の試み

    • URL

      http://aail.kurume-it.ac.jp/report02.pdf

    • 関連する報告書
      2021 実施状況報告書

URL: 

公開日: 2021-04-28   更新日: 2024-12-25  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi