• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 前のページに戻る

Development of Cognitive Symbiosis in Virtual Agents to Improve Remote Classroom Learning Outcomes

研究課題

研究課題/領域番号 23K21688
補助金の研究課題番号 21H03482 (2021-2023)
研究種目

基盤研究(B)

配分区分基金 (2024)
補助金 (2021-2023)
応募区分一般
審査区分 小区分61020:ヒューマンインタフェースおよびインタラクション関連
研究機関大阪大学

研究代表者

ORLOSKY JASON  大阪大学, サイバーメディアセンター, 特任准教授(常勤) (10815111)

研究分担者 白井 詩沙香  大阪大学, サイバーメディアセンター, 講師 (30757430)
清川 清  奈良先端科学技術大学院大学, 先端科学技術研究科, 教授 (60358869)
研究期間 (年度) 2021-04-01 – 2025-03-31
研究課題ステータス 交付 (2024年度)
配分額 *注記
17,160千円 (直接経費: 13,200千円、間接経費: 3,960千円)
2024年度: 1,430千円 (直接経費: 1,100千円、間接経費: 330千円)
2023年度: 3,120千円 (直接経費: 2,400千円、間接経費: 720千円)
2022年度: 5,720千円 (直接経費: 4,400千円、間接経費: 1,320千円)
2021年度: 6,890千円 (直接経費: 5,300千円、間接経費: 1,590千円)
キーワードEye Tracking / Artificial Intelligence / Learning / Agents / augmented reality / virtual reality / eye tracking / State Detection / Remote Environments / agents / cognition / learning / simulation / remote interaction / education
研究開始時の研究の概要

This research involves integrating voice-to-text with AR for interactive learning, customizing LLMs for conversational education styles, and refining these technologies through user feedback. Evaluations will be conducted for enhanced language and content learning.

研究実績の概要

In this period, we explored applications of virtual reality (VR) and augmented reality (AR) in education and healthcare. First, we conducted a study on educational comics that utilized eye-tracking in VR to identify key gaze features to help estimate the difficulty levels perceived by readers, suggesting a way to dynamically adjust educational content. We also developed, AMSwipe, a method that allows for gaze-based text input into virtual environments, which allows for efficient, hands-free typing without the need for physical controllers. Additionally, EyeShadows, a tool that we developed and tested with both AR and VR, improves the selection and manipulation of virtual elements using peripheral copies of items, enabling faster, more accurate interactions. Furthermore, we leveraged VR to enhance medical training, particularly by simulating the experiences of Parkinson’s disease patients to foster empathy and insight among healthcare students. These technologies demonstrate significant potential for enhancing remote education, providing immersive, interactive learning experiences that can be tailored to individual needs and capabilities. We also explored the use of interactive re-training of neural networks for applications in language learning.

現在までの達成度 (区分)
現在までの達成度 (区分)

2: おおむね順調に進展している

理由

This research is generally progressing on schedule. We have several publications in different areas, and we have set up a remote environment to conduct the last phase of the research over the next year.

今後の研究の推進方策

The last phase of the research will proceed as planned, though we have made some updates due to the advancement of AI technology. In addition, we are working on an in-situ object labeling approach, which can assist with a more specific learning task, language learning. Our system will be extended to incorporate Large Language Models(LLM), which will be customized to power virtual educational agents. This should result in more interactive and context-based learning, leading to longer retention of the concepts.

報告書

(3件)
  • 2023 実績報告書
  • 2022 実績報告書
  • 2021 実績報告書
  • 研究成果

    (17件)

すべて 2024 2023 2022 その他

すべて 国際共同研究 (4件) 雑誌論文 (7件) (うち国際共著 7件、 査読あり 7件、 オープンアクセス 1件) 学会発表 (6件) (うち国際学会 5件)

  • [国際共同研究] Augusta University(米国)

    • 関連する報告書
      2023 実績報告書
  • [国際共同研究] Augusta University(米国)

    • 関連する報告書
      2022 実績報告書
  • [国際共同研究] Augusta University(米国)

    • 関連する報告書
      2021 実績報告書
  • [国際共同研究] University of California Santa Barbara(米国)

    • 関連する報告書
      2021 実績報告書
  • [雑誌論文] EyeShadows: Peripheral Virtual Copies for Rapid Gaze Selection and Interaction2024

    • 著者名/発表者名
      Orlosky Jason、Liu Chang、Sakamoto Kenya、Sidenmark Ludwig、Mansour Adam
    • 雑誌名

      IEEE Virtual Reality

      巻: . ページ: 681-689

    • DOI

      10.1109/vr58804.2024.00088

    • 関連する報告書
      2023 実績報告書
    • 査読あり / 国際共著
  • [雑誌論文] Immersing healthcare students in a virtual reality Parkinson's disease experience2024

    • 著者名/発表者名
      Li Yi (Joy)、Orlosky Jason、Jirau-Rosaly Wanda、Brown Shilpa、Rockich-Winston Nicole
    • 雑誌名

      International Journal of Medical Education

      巻: . ページ: 34-36

    • DOI

      10.5116/ijme.65f5.725c

    • 関連する報告書
      2023 実績報告書
    • 査読あり / 国際共著
  • [雑誌論文] Subjective Difficulty Estimation of Educational Comics Using Gaze Features2023

    • 著者名/発表者名
      SAKAMOTO Kenya、SHIRAI Shizuka、TAKEMURA Noriko、ORLOSKY Jason、NAGATAKI Hiroyuki、UEDA Mayumi、URANISHI Yuki、TAKEMURA Haruo
    • 雑誌名

      IEICE Transactions on Information and Systems

      巻: E106.D 号: 5 ページ: 1038-1048

    • DOI

      10.1587/transinf.2022EDP7100

    • ISSN
      0916-8532, 1745-1361
    • 年月日
      2023-05-01
    • 関連する報告書
      2023 実績報告書
    • 査読あり / オープンアクセス / 国際共著
  • [雑誌論文] Approximated Match Swiping: Exploring more Ergonomic Gaze-based Text Input for XR2023

    • 著者名/発表者名
      Mansour Adam、Orlosky Jason
    • 雑誌名

      International Symposium on Mixed and Augmented Reality

      巻: . ページ: 141-145

    • DOI

      10.1109/ismar-adjunct60411.2023.00037

    • 関連する報告書
      2023 実績報告書
    • 査読あり / 国際共著
  • [雑誌論文] Mitigation of VR Sickness During Locomotion With a Motion-Based Dynamic Vision Modulator2023

    • 著者名/発表者名
      Zhao Guanghan、Orlosky Jason、Feiner Steven、Ratsamee Photchara、Uranishi Yuki
    • 雑誌名

      IEEE Transactions on Visualization and Computer Graphics

      巻: 29 号: 10 ページ: 4089-4103

    • DOI

      10.1109/tvcg.2022.3181262

    • 関連する報告書
      2022 実績報告書
    • 査読あり / 国際共著
  • [雑誌論文] Layerable Apps: Comparing Concurrent and Exclusive Display of Augmented Reality Applications2022

    • 著者名/発表者名
      Huynh Brandon、Wysopal Abby、Ross Vivian、Orlosky Jason、Hollerer Tobias
    • 雑誌名

      IEEE International Symposium on Mixed and Augmented Reality

      巻: . ページ: 857-863

    • DOI

      10.1109/ismar55827.2022.00104

    • 関連する報告書
      2022 実績報告書
    • 査読あり / 国際共著
  • [雑誌論文] Evaluation of User Interfaces for Three-Dimensional Locomotion in Virtual Reality2022

    • 著者名/発表者名
      Lim Donghae、Shirai Shizuka、Orlosky Jason、Ratsamee Photchara、Uranishi Yuki、Takemura Haruo
    • 雑誌名

      ACM Symposium on Spatial User Interaction

      巻: . ページ: 1-9

    • DOI

      10.1145/3565970.3567693

    • 関連する報告書
      2022 実績報告書
    • 査読あり / 国際共著
  • [学会発表] EyeShadows: Peripheral Virtual Copies for Rapid Gaze Selection and Interaction2024

    • 著者名/発表者名
      Jason Orlosky
    • 学会等名
      IEEE Virtual Reality
    • 関連する報告書
      2023 実績報告書
    • 国際学会
  • [学会発表] 視線,表情,心拍,脳波を用いたVR空間でのマンガ教材読書時の主観的難易度推定2024

    • 著者名/発表者名
      石塚 裕之
    • 学会等名
      電子情報通信学会 メディアエクスペリエンス・バーチャル環境基礎研究会
    • 関連する報告書
      2023 実績報告書
  • [学会発表] Approximated Match Swiping: Exploring more Ergonomic Gaze-based Text Input for XR2023

    • 著者名/発表者名
      Jason Orlosky
    • 学会等名
      International Symposium on Mixed and Augmented Reality
    • 関連する報告書
      2023 実績報告書
    • 国際学会
  • [学会発表] Mitigation of VR Sickness During Locomotion With a Motion-Based Dynamic Vision Modulator2023

    • 著者名/発表者名
      Guanghan Zhao
    • 学会等名
      IEEE Virtual Reality
    • 関連する報告書
      2022 実績報告書
    • 国際学会
  • [学会発表] Layerable Apps: Comparing Concurrent and Exclusive Display of Augmented Reality Applications2022

    • 著者名/発表者名
      Brandon Huynh
    • 学会等名
      IEEE International Symposium on Mixed and Augmented Reality
    • 関連する報告書
      2022 実績報告書
    • 国際学会
  • [学会発表] Evaluation of User Interfaces for Three-Dimensional Locomotion in Virtual Reality2022

    • 著者名/発表者名
      Donghae Lim
    • 学会等名
      ACM Symposium on Spatial User Interaction
    • 関連する報告書
      2022 実績報告書
    • 国際学会

URL: 

公開日: 2021-04-28   更新日: 2024-12-25  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi