• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to previous page

An Emotional Recognition AI Mentoring System for Children with Intellectual Disabilities to Support their Self-Study through E-Learning

Research Project

Project/Area Number 21K02872
Research Category

Grant-in-Aid for Scientific Research (C)

Allocation TypeMulti-year Fund
Section一般
Review Section Basic Section 09070:Educational technology-related
Research InstitutionKurume Institute of Technology

Principal Investigator

小田 まり子  久留米工業大学, 工学部, 教授 (20269046)

Co-Investigator(Kenkyū-buntansha) 河野 央  久留米工業大学, 工学部, 教授 (60437746)
八坂 亮祐  久留米工業大学, 工学部, 教育研究コーディネーター (20815716)
呉 濟元  久留米工業大学, 工学部, 特任講師 (00913310)
高橋 雅仁  久留米工業大学, 工学部, 学長政策顧問 (70330975)
Project Period (FY) 2021-04-01 – 2025-03-31
Project Status Granted (Fiscal Year 2023)
Budget Amount *help
¥4,160,000 (Direct Cost: ¥3,200,000、Indirect Cost: ¥960,000)
Fiscal Year 2023: ¥650,000 (Direct Cost: ¥500,000、Indirect Cost: ¥150,000)
Fiscal Year 2022: ¥1,040,000 (Direct Cost: ¥800,000、Indirect Cost: ¥240,000)
Fiscal Year 2021: ¥2,470,000 (Direct Cost: ¥1,900,000、Indirect Cost: ¥570,000)
KeywordsAI / 感情認識 / 表情認識 / 骨格認識 / 文章生成AI / 特別支援教育 / AIメンタリング / eラーニング / 人工知能 / 音声認識 / 拡張現実(AR) / メンタリング / コンピュータ・グラフィックス / 感情・表情認識 / AR
Outline of Research at the Start

本研究の目的は、AI(Artificial Intelligence:人工知能)の応用技術である感情認識に基づくリアルタイム・メンタリング(助言・支援)機能を有するAR(Augmented Reality:拡張現実)カード教材eラーニング(electronic-learning)システムを開発し、知的障碍を持つ児童生徒の自律的学習を支援することである。
従来の学習履歴に基づくメンタリングシステムとは異なり、表情認識・骨格認識AIなどの応用技術を用い、知的障碍のある学習者の感情状態、集中度、理解度を非言語情報から推定するところに本研究の新規性がある。AIやARを有効活用した点でも有用性が高い。

Outline of Annual Research Achievements

本研究の目的は、AI(Artificial Intelligence:人工知能)の応用技術である感情認識に基づくリアルタイム・メンタリング(助言・支援)機能により、知的障碍を持つ児童生徒の自律的学習を支援することである。今年度は、人の動きを追従するCGキャラクターを実現し、ヴァーチャルメンター(Vメンター)として障碍を持つ学習者を支援する教育支援システムを開発した。児童生徒の障碍について理解のある特別支援学校教師は、教室における児童の様子をカメラで観察しながら遠隔教室で友達役を演じる。児童が授業を受ける教室の机横に設置されたモニター上のVメンター(CGキャラクター)は教師と同じ動作をするとともに,教師の発話音声は少女の声に変換して再生される。
特別支援学校でVメンターシステムを用いた教育を実践した結果、児童はVメンターに興味を持ち、友達に話しかけるような交流がみられ、その有効性を確認した。しかし、別室で教員がVメンターを操作するには、授業教室の様子をより正確(明瞭)に動画、音声で伝える必要があることが判明した。また、クラスの児童数や障碍の種類によりVメンターに求められる役割(友達役、教師役等)が変わることがわかったので、Vメンターの役割を変えて利用できるようにし、教育効果の比較・検証を行う必要がある。
最終的には,Vメンターのように教師がCGキャラクターを操作するのではなく,AIが学習者の集中度や感情を把握し、メンタリングを行うAIメンターの完成を目指す。現在までに、学習者の骨格検出により、集中度を把握することはできるようになった。今後、表情認識や感情認識により学習者の感情を把握し、学習者の感情に寄り添った声かけができるようにする。また、音声認識機能や文章生成AIにより、児童生徒と自然な会話をしたり、励ましや注意の声かけをしたりできるように改善を行う。

Current Status of Research Progress
Current Status of Research Progress

3: Progress in research has been slightly delayed.

Reason

本研究は、特別支援学校に訪問し、その教育実践により完成する研究テーマであるが、令和3年度と4年度はコロナ禍にあり、特別支援学校に入ることを制限されたため、研究の進捗に遅れがみられた。特に、本研究では児童生徒の顔の表情から感情を推定することを研究の柱としているため、児童生徒がマスクを外すことができなかった影響が研究に大きく影響し、顔の表情認識による感情推定に基づく声かけの機能を実装が遅れてしまった。
しかし、令和5年度からは定期的に特別支援学校を訪問し、教育実践ができている。学習時における児童生徒の顔を撮影することも可能となり、順調に研究が進み始めた。また、令和5年度からは特別支援学校教員とのディスカッションの時間も十分とれ、対面での学会発表参加もできるようになった。成果論文も順調に発表できている。
それでも、令和3年度、4年度の遅れを取り戻すまでには至らなかったが、令和6年度(1年間)の延長により、十分、本科学研究費による採択課題の研究成果を出せる見込みである。

Strategy for Future Research Activity

今後、AIの表情認識や感情認識の技術を応用し、学習者の感情推定結果にも基づく、感情に寄り添った声かけができるAIメンターを完成させる予定である。現在までに、学習者の集中度推定結果による声かけはできるようになったので、学習者の表情認識結果や、音声認識機能により学習者の感情を把握し、児童生徒と自然な会話をしたり、励ましや注意の声かけをしたりできるようにする。
また、開発したバーチャルメンターやAIメンターを特別支援学校の授業の中で継続的に利用し、改良を加える。また、両メンターの声かけによる学習者の行動・発言の変化を分析することにより、AIによるメンタリングの教育効果を検証する。現在、授業に導入している特別支援学校だけでなく、近隣の小中学校の特別支援学級にも働きかけ、AIメンターの利用実績を増やし、検証を行いたい。
本科学技術研究費による研究成果を学会発表するとともに、論文誌に投稿する。

Report

(3 results)
  • 2023 Research-status Report
  • 2022 Research-status Report
  • 2021 Research-status Report
  • Research Products

    (14 results)

All 2024 2023 2022 2021 Other

All Journal Article (6 results) (of which Peer Reviewed: 2 results,  Open Access: 2 results) Presentation (7 results) Remarks (1 results)

  • [Journal Article] AIメンターを用いた障碍児対象教育支援システムの開発2024

    • Author(s)
      春田大河,小田まり子,新井康平, 松永泰臣
    • Journal Title

      JSiSE Research Report

      Volume: 38 Pages: 1-8

    • Related Report
      2023 Research-status Report
  • [Journal Article] AIを用いた障碍児のためのeラーニング支援システム2023

    • Author(s)
      春田大河,小田まり子,新井康平, 石垣大樹
    • Journal Title

      電子情報通信学会技術研究報告

      Volume: 123 Pages: 40-45

    • Related Report
      2023 Research-status Report
  • [Journal Article] 骨格検出技術を用いた知的障碍児学習支援のための集中度推定法2023

    • Author(s)
      春田大河、小田まり子、石垣大河、新井康平
    • Journal Title

      久留米工業大学研究報告

      Volume: 45 Pages: 78-86

    • Related Report
      2023 Research-status Report
  • [Journal Article] Emotion Estimation Method with Mel-frequency Spectrum, Voice Power Level and Pitch Frequency of Human Voices through CNN Learning Processes2022

    • Author(s)
      Taiga Haruta, Mariko Oda, Kohei Arai
    • Journal Title

      International Journal of Advanced Computer Science and Applications

      Volume: 13(11) Issue: 11 Pages: 215-220

    • DOI

      10.14569/ijacsa.2022.0131124

    • Related Report
      2022 Research-status Report
    • Peer Reviewed / Open Access
  • [Journal Article] 骨格検出技術を用いた知的障碍児学習支援のための集中度推定法2022

    • Author(s)
      春田 大河,小田 まり子,石垣 大樹,新井 康平
    • Journal Title

      久留米工業大学研究報告

      Volume: 45 Pages: 78-86

    • Related Report
      2022 Research-status Report
    • Peer Reviewed / Open Access
  • [Journal Article] 感情認識 AI メンタリングによる知的障碍児の e ラーニングシステム2022

    • Author(s)
      小田まり子,呉濟元, 八坂 亮祐, 河野 央, 高橋 雅仁, 新井 康平
    • Journal Title

      第46回教育システム情報学会全国大会講演論文集

      Volume: C2 Pages: 103-104

    • Related Report
      2021 Research-status Report
  • [Presentation] 機械学習を用いた障碍児教育支援のための姿勢と表情の分類2024

    • Author(s)
      春田 大河、小田 まり子,新井 康平、松永 泰臣
    • Organizer
      2024年度電子情報通信学会総合大会
    • Related Report
      2023 Research-status Report
  • [Presentation] Time Warpを用いたRLS法に基づく動作予測及び運動療法への応用2024

    • Author(s)
      衞藤康典, 小田まり子, 新井康平,
    • Organizer
      2023年度電子情報通信学会総合大会
    • Related Report
      2023 Research-status Report
  • [Presentation] AIメンターを用いた障碍児対象教育支援システムの開発2024

    • Author(s)
      春田大河,小田まり子,新井康平, 松永泰臣
    • Organizer
      教育システム情報学会2023年度特集論文研究会
    • Related Report
      2023 Research-status Report
  • [Presentation] AIを用いた障碍児のためのeラーニング支援システム2023

    • Author(s)
      春田大河,小田まり子,新井康平, 石垣大樹
    • Organizer
      電子情報通信学会福祉情報工学研究会
    • Related Report
      2023 Research-status Report
  • [Presentation] 人の動きを追従するヴァーチャルメンターによる障碍児への教育支援2023

    • Author(s)
      春田大河,小田まり子
    • Organizer
      電子情報通信学会学生会講演会
    • Related Report
      2023 Research-status Report
  • [Presentation] 学習時発話音声の分析による学習者の感情認識2022

    • Author(s)
      春田大河,小田まり子
    • Organizer
      電子情報通信学会九州支部学生会講演会・講演論文集
    • Related Report
      2022 Research-status Report
  • [Presentation] 感情認識 AI メンタリングによる知的障碍児の e ラーニングシステム2021

    • Author(s)
      小田まり子,呉濟元, 八坂 亮祐, 河野 央, 高橋 雅仁, 新井 康平
    • Organizer
      教育システム情報学会全国大会
    • Related Report
      2021 Research-status Report
  • [Remarks] 感情認識 AI の特別支援教育への応用の試み

    • URL

      http://aail.kurume-it.ac.jp/report02.pdf

    • Related Report
      2021 Research-status Report

URL: 

Published: 2021-04-28   Modified: 2024-12-25  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi