• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2020 Fiscal Year Annual Research Report

Development of a system to support playing musical instruments using augmented reality technology

Research Project

Project/Area Number 18K11573
Research InstitutionThe University of Tokushima

Principal Investigator

獅々堀 正幹  徳島大学, 大学院社会産業理工学研究部(理工学域), 教授 (50274262)

Co-Investigator(Kenkyū-buntansha) 光原 弘幸  徳島大学, 大学院社会産業理工学研究部(理工学域), 准教授 (90363134)
大野 将樹  徳島大学, 大学院社会産業理工学研究部(理工学域), 講師 (90433739)
Project Period (FY) 2018-04-01 – 2021-03-31
Keywords教育工学 / 拡張現実 / 音楽情報処理
Outline of Annual Research Achievements

本研究では専門的なアドバイザーがいなくても楽器の正しい演奏方法,特に運指の学習が効率的に行える楽器演奏支援システムの開発を目的とする.運指とは楽器を演奏するときの指の使い方のことであり,スムーズに演奏するための重要な演奏技能である.従来システムは教師となる運指モデルをモニター画面に表示させることで演奏を支援していたが,学習者が自身の手元と画面とを交互に確認しながら練習することになり,学習者にストレスを生じさせるといった問題点があった.
本研究では学習者にAR(拡張現実)機器を装着させ,学習者が演奏している手元に教師となる運指モデルを表示させることで,教師となる運指モデルと自身の運指を同時に見ながら直感的に学習することが可能な楽器演奏支援システムを開発することを目的とする.AR機器が表示する運指モデルに自身の指を合わせて動かすことで,あたかも専門家に指導を受けたかのような正しい運指技能を身に付けることができ,音楽教育現場における指導者の負担を軽減させるだけでなく,音楽の知識がなくても手軽に演奏を楽しめるため,楽器の演奏に興味を持つ子供を増加させることにも繋がる.令和元年度までに,メロディに合わせた教師用運指モデル表示システムおよび運指評価システムを開発した.特に,令和元年度はお手本用演奏映像から教師用運指モデルの自動生成技術を開発した.当初は,映像解析技術を用いて指の動きを検知する予定であったが,精度に問題が生じたため,モーションキャプチャー機器を用いて指の骨格情報を取得することにした.現在は,小学校低学年の音楽の教材になる程度の楽曲についてシステムを運用することが可能になっている.

  • Research Products

    (8 results)

All 2020

All Journal Article (3 results) (of which Peer Reviewed: 3 results,  Open Access: 2 results) Presentation (5 results) (of which Int'l Joint Research: 3 results)

  • [Journal Article] Prototype Digital Signage System for Learning Material Delivery Focusing on Student Friendship2020

    • Author(s)
      Mitsuhara Hiroyuki、Shishibori Masami
    • Journal Title

      International Journal of Emerging Technologies in Learning (iJET)

      Volume: 15 Pages: 161~161

    • DOI

      10.3991/ijet.v15i22.14171

    • Peer Reviewed / Open Access
  • [Journal Article] Comparative Experiments on Simulated Tornado Experience via Virtual Reality and Augmented Reality2020

    • Author(s)
      Mitsuhara Hiroyuki、Shishibori Masami
    • Journal Title

      The Journal of Information and Systems in Education

      Volume: 19 Pages: 21~31

    • DOI

      10.12937/ejsise.19.21

    • Peer Reviewed / Open Access
  • [Journal Article] The Development of a Hand-Washing Support System Using Image Processing Techniques2020

    • Author(s)
      Katsumi Nagata、Masaki Oono、Masami Shishibori
    • Journal Title

      International Journal of Advanced Intelligence

      Volume: 11 Pages: 1~13

    • Peer Reviewed
  • [Presentation] Academic Support for All Students Based on Reasonable Accommodations in Emergency Situations Using AI Chatbots2020

    • Author(s)
      Noboru Ueno, Hiroyuki Mitsuhara and Masami Shishibori
    • Organizer
      Proc. of the 28th International Conference on Computers in Education (ICCE 2020)
    • Int'l Joint Research
  • [Presentation] Construction of Reasonable Accommodation by Chatbot Using SNS and Operation of an Accessibility Center2020

    • Author(s)
      Noboru Ueno, Hiroyuki Mitsuhara and Masami Shishibori
    • Organizer
      Proc. of the 28th International Conference on Computers in Education (ICCE2020)
    • Int'l Joint Research
  • [Presentation] Make it Fun: The Application of Gamification in Earthquake Education for Foreigners2020

    • Author(s)
      Liu Meiqin, Hiroyuki Mitsuhara and Masami Shishibori
    • Organizer
      Proc. of the 28th International Conference on Computers in Education (ICCE2020)
    • Int'l Joint Research
  • [Presentation] 深層学習を用いた尿細胞診断の自動化手法2020

    • Author(s)
      鷲田武晃,尾矢剛志,常山幸一,大野将樹,獅々堀正幹
    • Organizer
      第19回情報科学技術フォーラム(FIT2020)
  • [Presentation] 卓球動画における深層学習を用いたスローモーションシーン検出手法2020

    • Author(s)
      迫田峻,大野将樹,獅々堀正幹
    • Organizer
      第19回情報科学技術フォーラム(FIT2020)

URL: 

Published: 2021-12-27  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi