• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to previous page

Guqin Music Notation Recognition by Machine Learning Methods

Research Project

Project/Area Number 23K24964
Project/Area Number (Other) 22H03709 (2022-2023)
Research Category

Grant-in-Aid for Scientific Research (B)

Allocation TypeMulti-year Fund (2024)
Single-year Grants (2022-2023)
Section一般
Review Section Basic Section 62040:Entertainment and game informatics-related
Research InstitutionNippon Institute of Technology

Principal Investigator

呉本 尭  日本工業大学, 先進工学部, 教授 (40294657)

Co-Investigator(Kenkyū-buntansha) 稗田 浩雄  公益財団法人未来工学研究所, 研究センター, 研究員 (10425796)
間普 真吾  山口大学, 大学院創成科学研究科, 教授 (70434321)
Project Period (FY) 2022-04-01 – 2026-03-31
Project Status Granted (Fiscal Year 2024)
Budget Amount *help
¥15,600,000 (Direct Cost: ¥12,000,000、Indirect Cost: ¥3,600,000)
Fiscal Year 2025: ¥910,000 (Direct Cost: ¥700,000、Indirect Cost: ¥210,000)
Fiscal Year 2024: ¥2,340,000 (Direct Cost: ¥1,800,000、Indirect Cost: ¥540,000)
Fiscal Year 2023: ¥3,900,000 (Direct Cost: ¥3,000,000、Indirect Cost: ¥900,000)
Fiscal Year 2022: ¥8,450,000 (Direct Cost: ¥6,500,000、Indirect Cost: ¥1,950,000)
Keywords機械学習 / 深層学習 / 古琴 / 減字譜 / 打譜 / 仙翁操 / 春暁吟 / 人工知能 / AI打譜 / YOLOv5 / VGG16
Outline of Research at the Start

本研究の目的は「現代人に翻訳・演奏されていない多くの七絃琴の琴譜である減字譜を機械学習技術によって、自動的に識別し、その琴曲を復元する(AI打譜)」ことの実現である。本研究の学術的独自性と創造性は、AI技術と古代芸術の学際的に融合及び古代琴曲の復元にある。自動打譜のアルゴリズム案は以下ように考慮する。a) 琴譜の構造化:単字認識の結果を琴譜ごとに応用し、深層学習モデルによって、初歩的な打譜結果を出力する;b) 打譜ルールと知識を表現するアルゴリズムの開発:専門家の打譜手順を明確に理解し、琴譜に対する識別を単字認識から、音楽となる琴曲への解釈につながる自動打譜アルゴリズムを開発する。

Outline of Annual Research Achievements

3000年以上の歴史を持つ中国の楽器である古琴(Guqin)の楽譜は手書き文字で残され、現代では、わずかの専門家しか解読できません。そのため、現存する3360曲の楽譜がありますが、実際演奏されている曲は数十曲に過ぎません。本研究では、最先端の人工知能(AI)技術を用いて、古琴譜である「減字譜」の識別・琴曲復元を目的にしています。本年度の実績としては、以下の3点あります。①深層学習モデルVGG16とYOLOv5を用いて、古琴演奏の入門曲である「仙翁操」の全曲の単字55個を識別することを試みました。それぞれの学習後の平均識別精度は87.50%と88.47%でした。②YOLOv5及び減字譜単字演奏ビデオデータを用いて、「仙翁操」の琴曲を復元(手書き文字楽譜をカメラで撮影し、音声・映像を出力する)するシステムを開発しました。③より多くの減字譜単字データベースを作成するため、「春暁吟」の減字譜を収集しました。また、単字に対する構成部分の解析を始めました。
本年度において、国際会議にて1件の成果発表と国内研究会にて1件の成果発表がありました。特に2024年1月に、本研究の紹介は英国の科学雑誌「Impact」に取り上げられました。
※Science Impact社が出版する雑誌Impactは、世界中の3万5000人の読者に向け配布され、大学・研究機関・国および地域の資金提供機関などに読まれています。出版物は世界で最大のオンライン学術情報源IngentaConnect(インジェンタ・コネクト:月150万アクセスがあり、3万の学術研究および産業図書館にて使用)上でオープンアクセスされます。

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

研究代表者と研究分担者の役割を順調に果たしており、研究成果が発表されています。また、現行中の減字譜単字の構造解析は、次年度に成果発表ができる程度に進展しています。

Strategy for Future Research Activity

次年度においては、減字譜単字の構造を機械学習技術によって解析することを進め、AIモデルが古琴譜への理解レベルを調査します。更に、最終年度においては、より多くの古琴譜データベースを作成し、AIシステムの実用性を向上させます。また、本研究のアプローチや成果を尺八や三味線などの楽譜自動認識への活用を検討します。

Report

(2 results)
  • 2023 Annual Research Report
  • 2022 Annual Research Report
  • Research Products

    (6 results)

All 2024 2023 2022 Other

All Journal Article (2 results) (of which Int'l Joint Research: 1 results,  Peer Reviewed: 2 results,  Open Access: 2 results) Presentation (3 results) (of which Int'l Joint Research: 1 results) Remarks (1 results)

  • [Journal Article] Guqing Music Recognition by Machine Learning Methods2024

    • Author(s)
      Takashi Kuremoto
    • Journal Title

      Impact

      Volume: 2024(1) Issue: 1 Pages: 40-42

    • DOI

      10.21820/23987073.2024.1.40

    • Related Report
      2023 Annual Research Report
    • Peer Reviewed / Open Access / Int'l Joint Research
  • [Journal Article] Restoration of Guqin Music by Deep Learning Methods2023

    • Author(s)
      Takashi Kuremoto, Kazuma Fujino, Hirokazu Takahashi, Shun Kuremoto, Mamiko Koshiba, Hiroo Hieda, Shingo Mabu
    • Journal Title

      Proceedings of the 2024 International Conference on Artificial Life and Robotics

      Volume: 2023 Pages: 320-324

    • Related Report
      2023 Annual Research Report
    • Peer Reviewed / Open Access
  • [Presentation] 深層学習モデルによる古琴譜の識別の試み2023

    • Author(s)
      呉本 尭, 藤野 航馬, 髙橋 浩雄, 呉本 舜, 小柴 満美子, 稗田 浩雄, 間普 真吾
    • Organizer
      FIT2023(第22回情報科学フォーラム)
    • Related Report
      2023 Annual Research Report
  • [Presentation] Recognition of Guqin Notation using Deep Learning2022

    • Author(s)
      Bowen Yang, Makoto Sato, Shun Kuremoto, Mamiko Koshiba, Shingo Mabu, Hiroo Hieda, Takashi Kuremoto
    • Organizer
      The 10th International Conference on Innovative Application Research and Education (ICIARE2022)
    • Related Report
      2022 Annual Research Report
    • Int'l Joint Research
  • [Presentation] 深層学習を用いた古琴譜の識別2022

    • Author(s)
      楊 博文, 佐藤 真琴, 呉本 舜, 小柴 満美子, 間普 真吾, 稗田 浩雄, 呉本 尭
    • Organizer
      2022年電気学会 電子・情報・システム部門大会
    • Related Report
      2022 Annual Research Report
  • [Remarks] 日本工業大学・研究活動トピックス2024年1月

    • URL

      https://www.nit.ac.jp/research-headlines/impact202401

    • Related Report
      2023 Annual Research Report

URL: 

Published: 2022-04-19   Modified: 2024-12-25  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi