• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to previous page

Support for middle and old aged persons in playing piano with automatic music recommendation and arrangement, and vertical line notation and automatic accompaniment system

Research Project

Project/Area Number 21K12187
Research Category

Grant-in-Aid for Scientific Research (C)

Allocation TypeMulti-year Fund
Section一般
Review Section Basic Section 62030:Learning support system-related
Research InstitutionKisarazu National College of Technology

Principal Investigator

Yasuyuki Saito  木更津工業高等専門学校, 情報工学科, 准教授 (40331996)

Co-Investigator(Kenkyū-buntansha) 金子 仁美  東京藝術大学, 音楽学部, 准教授 (00408949)
中村 栄太  九州大学, システム情報科学研究院, 准教授 (10707574)
饗庭 絵里子  電気通信大学, 大学院情報理工学研究科, 准教授 (40569761)
Project Period (FY) 2021-04-01 – 2025-03-31
Project Status Completed (Fiscal Year 2024)
Budget Amount *help
¥4,030,000 (Direct Cost: ¥3,100,000、Indirect Cost: ¥930,000)
Fiscal Year 2023: ¥1,300,000 (Direct Cost: ¥1,000,000、Indirect Cost: ¥300,000)
Fiscal Year 2022: ¥1,170,000 (Direct Cost: ¥900,000、Indirect Cost: ¥270,000)
Fiscal Year 2021: ¥1,560,000 (Direct Cost: ¥1,200,000、Indirect Cost: ¥360,000)
Keywordsピアノ運指 / 奏者の手の大きさ / ウェアラブルキーボード / リアルタイムMIDI録音データ / データベース / ピアノ運指認識 / ピアノ運指データベース / 手の大きさと運指の関係 / ピアノ演奏動画像解析 / ピアノ鍵盤分類器 / 半自動指位置追跡 / 自動楽曲推薦・編曲 / タテ線譜 / 自動伴奏システム / 中高齢者のピアノ演奏支援
Outline of Research at the Start

先端情報処理技術と統計学習理論に基づいて、ピアノ演奏の学習過程の効率化を研究する。本研究のキーポイントは、(1)誰でも読譜できる「タテ線譜」を中高齢者に適用すること、(2)急速に発展中の統計機械学習を用いた音楽情報処理に必要な大規模演奏データを獲得・分析すること、(3)演奏計算モデルに基づく奏者の個人性に応じた学習効率最適化により楽曲推薦することである。これらより、中高齢者の個人に最適な練習楽曲集を提示し、ピアノ演奏の継続による認知症予防などが見込まれる。情報学・音楽心理学・音楽教育学の研究者の共同体制の下で取り組む、一般性の高い理論に基づく学習効率化の先駆的な試みである。

Outline of Final Research Achievements

We constructed automatic piano fingering recognition system that integrates a finger position detection system and a keyboard coordinate derivation system, both of which are inputted video sequences from a ceiling camera. In addition, we also investigated the relationship between fingering and individual fingering and hand characteristics. On the other hand, we also tried to construct a piano fingering recognition system that can be easily used in ordinary households using wearable keyboards. To supplement the conventional static piano fingering dataset (PIG dataset), we obtained dynamic data by recording MIDI data of players' performances in real time.

Academic Significance and Societal Importance of the Research Achievements

ピアノ運指をコンピュータで自動認識することにより,奏者が不適切な運指で演奏していればそれを指摘して,適切な運指を提示することで,より円滑な演奏へと導ける.ウェアラブルキーボードは小型・軽量であり,データグローブほどの装着感もなく,場所の制約もないという特徴があるため,認識精度を高めることで,ピアノ運指認識の有用な方法となりうる.また,動的なピアノ演奏データセットを構築することで,打鍵のタイミングや音量といった動的な情報について,奏者の演奏と比較して可視化することで,より情緒豊かな演奏をするための理解を促せる.

Report

(5 results)
  • 2024 Annual Research Report   Final Research Report ( PDF )
  • 2023 Research-status Report
  • 2022 Research-status Report
  • 2021 Research-status Report
  • Research Products

    (37 results)

All 2025 2024 2023 2022 2021 Other

All Journal Article (2 results) (of which Peer Reviewed: 2 results) Presentation (30 results) (of which Int'l Joint Research: 5 results,  Invited: 1 results) Remarks (5 results)

  • [Journal Article] ジェラール・グリゼイ『機械仕掛けの時間』をめぐって - 楽曲分析による音楽の新たな時間概念の考察 -2024

    • Author(s)
      金子 仁美
    • Journal Title

      東京藝術大学音楽学部紀要

      Volume: 49 Pages: 33-52

    • Related Report
      2023 Research-status Report
    • Peer Reviewed
  • [Journal Article] 1970年代フランスにおける新しい作曲の姿勢2023

    • Author(s)
      金子 仁美
    • Journal Title

      桐朋学園大学研究紀要

      Volume: 49 Pages: 41-46

    • Related Report
      2023 Research-status Report
    • Peer Reviewed
  • [Presentation] ウェアラブルキーボードによるピアノ運指情報取得の一検討2025

    • Author(s)
      齋藤 康之
    • Organizer
      情報処理学会 音楽情報科学研究会
    • Related Report
      2024 Annual Research Report
  • [Presentation] RWCデータベース楽曲についての和声データセットと非和声音データセットの構築に向けて2025

    • Author(s)
      金子 仁美
    • Organizer
      科研費基盤研究・GMIワークショップ合同研究会
    • Related Report
      2024 Annual Research Report
  • [Presentation] ピアノ鍵盤検出用カスケード分類器の構築2024

    • Author(s)
      田村 陵真, 齋藤 康之
    • Organizer
      映像情報メディア学会 メディア工学研究会
    • Related Report
      2023 Research-status Report
  • [Presentation] MIDIピアノを用いたピアノコンクールの合格者と不合格者の演奏における拍間隔変化の比較2024

    • Author(s)
      高橋舞, 小林未知数, 中村栄太, 大向一輝
    • Organizer
      第134回情報処理学会人文科学とコンピュータ研究会
    • Related Report
      2023 Research-status Report
  • [Presentation] 創作知識の進化モデルに基づく作曲スタイルの変遷過程の分析2024

    • Author(s)
      中村栄太
    • Organizer
      第139回情報処理学会音楽情報科学研究会
    • Related Report
      2023 Research-status Report
  • [Presentation] 窒素 - 3Dモデルによる音楽XIV2024

    • Author(s)
      金子仁美
    • Organizer
      アンサンブル・コンテンポラリーα
    • Related Report
      2023 Research-status Report
  • [Presentation] Neural band-to-piano score arrangement with stepless difficulty control2023

    • Author(s)
      Moyu Terao, Eita Nakamura, Kazuyoshi Yoshii
    • Organizer
      48th IEEE International Conference on Acoustics, Speech, and Signal Processing Conference (ICASSP)
    • Related Report
      2023 Research-status Report
  • [Presentation] Experimental evolution of music styles using automatic composition models2023

    • Author(s)
      Eita Nakamura, Hitomi Kaneko, Takayuki Itoh, Kunihiko Kaneko
    • Organizer
      2023 Conference on Artificial Life (ALIFE)
    • Related Report
      2023 Research-status Report
  • [Presentation] Computational analysis of audio recordings of piano performance for automatic evaluation2023

    • Author(s)
      Norihiro Kato, Eita Nakamura, Kyoko Mine, Orie Doeda, Masanao Yamada
    • Organizer
      18th European Conference on Technology Enhanced Learning (ECTEL)
    • Related Report
      2023 Research-status Report
  • [Presentation] Automatic orchestration of piano scores for wind bands with user-specified instrumentation2023

    • Author(s)
      Takuto Nabeoka, Eita Nakamura, Kazuyoshi Yoshii
    • Organizer
      16th International Symposium on Computer Music Multidisciplinary Research (CMMR)
    • Related Report
      2023 Research-status Report
  • [Presentation] Computational analysis of selection and mutation probabilities in the evolution of chord progressions2023

    • Author(s)
      Eita Nakamura
    • Organizer
      16th International Symposium on Computer Music Multidisciplinary Research (CMMR)
    • Related Report
      2023 Research-status Report
  • [Presentation] 記号列の変異・選択モデルに基づくコード進行の進化過程の分析と予測2023

    • Author(s)
      中村栄太, 金子仁美, 伊藤貴之, 金子邦彦
    • Organizer
      第138回情報処理学会音楽情報科学研究会
    • Related Report
      2023 Research-status Report
  • [Presentation] 確率的生成モデルに基づく音楽スタイル進化の選択・変異・輸入過程の推論2023

    • Author(s)
      中村栄太
    • Organizer
      第16回日本人間行動進化学会大会
    • Related Report
      2023 Research-status Report
  • [Presentation] 日本のポピュラー音楽におけるメロディー特徴量の進化分析2023

    • Author(s)
      中村栄太
    • Organizer
      日本ポピュラー音楽学会第35回年次大会
    • Related Report
      2023 Research-status Report
  • [Presentation] 音楽分析・生成のための非和声音データベースの構築2023

    • Author(s)
      髙橋拓椰, 金子仁美, 中鹿亘, 嵯峨山茂樹
    • Organizer
      第137回情報処理学会音楽情報科学研究会
    • Related Report
      2023 Research-status Report
  • [Presentation] 恒星 - 3Dモデルによる音楽XIII2023

    • Author(s)
      金子仁美
    • Organizer
      全音楽譜出版社
    • Related Report
      2023 Research-status Report
    • Invited
  • [Presentation] ピアノ譜から吹奏楽譜への楽器編成を指定可能な自動編曲2023

    • Author(s)
      鍋岡琢渡, 中村栄太, 寺尾萌夢, 吉井和佳
    • Organizer
      第85回情報処理学会全国大会
    • Related Report
      2022 Research-status Report
  • [Presentation] 学習者のメタ認知と指導者の評価を考慮したピアノ練習演奏の分析2023

    • Author(s)
      加藤徳啓, 峯恭子, 中村栄太, 土江田織江, 山田昌尚
    • Organizer
      第85回情報処理学会全国大会
    • Related Report
      2022 Research-status Report
  • [Presentation] La vie de notre planete - composition par la modelisation 3D VII pour 12 enstruments japonais2023

    • Author(s)
      Hitomi Kaneko
    • Organizer
      自作レクチャー「地球・生命 -- 3Dモデルによる音楽VII」邦楽アンサンブルのための
    • Related Report
      2022 Research-status Report
    • Int'l Joint Research
  • [Presentation] ピアノ演奏時の運指検出システムの作成、およびプロとアマチュアの運指の比較による検証2023

    • Author(s)
      五十嵐 元樹,饗庭 絵里子
    • Organizer
      第85回情報処理学会全国大会
    • Related Report
      2022 Research-status Report
  • [Presentation] モデルによる補完を用いたピアノ運指の効率的なラベル付けの検証2022

    • Author(s)
      齋藤康之, 中村栄太, 饗庭絵里子, 金子仁美
    • Organizer
      第134回情報処理学会音楽情報科学研究会
    • Related Report
      2022 Research-status Report
  • [Presentation] 隠れマルコフモデルを用いたピアノ練習演奏の弾き間違い分析2022

    • Author(s)
      加藤徳啓, 中村栄太, 峯恭子, 土江田織江, 山田昌尚
    • Organizer
      第21回情報科学技術フォーラム(FIT2022)
    • Related Report
      2022 Research-status Report
  • [Presentation] 定テンポ制約付きCTCに基づく自動ドラム採譜2022

    • Author(s)
      鎌倉大地, 中村栄太, 吉井和佳
    • Organizer
      第136回情報処理学会音楽情報科学研究会
    • Related Report
      2022 Research-status Report
  • [Presentation] Automatic piano fingering from partially annotated scores using autoregressive neural networks2022

    • Author(s)
      Pedro Ramoneda, Dasaem Jeong, Eita Nakamura, Xavier Serra, Marius Miron
    • Organizer
      30th ACM International Conference on Multimedia
    • Related Report
      2022 Research-status Report
    • Int'l Joint Research
  • [Presentation] End-to-end lyrics transcription informed by pitch and onset estimation2022

    • Author(s)
      Tengyu Deng, Eita Nakamura, Kazuyoshi Yoshii
    • Organizer
      23rd International Society for Music Information Retrieval Conference
    • Related Report
      2022 Research-status Report
    • Int'l Joint Research
  • [Presentation] Tracking the evolution of a band's performances over decades2022

    • Author(s)
      Florian Thalmann, Eita Nakamura, Kazuyoshi Yoshii
    • Organizer
      23rd International Society for Music Information Retrieval Conference
    • Related Report
      2022 Research-status Report
    • Int'l Joint Research
  • [Presentation] ジェラール・グリゼイの作曲概念と他分野での表現法の照応2022

    • Author(s)
      金子仁美
    • Organizer
      第25回一橋大学「芸術と社会」研究会
    • Related Report
      2022 Research-status Report
  • [Presentation] 統計学習を介する文化進化のモデルと音楽・文芸・絵画データにおける共役分布則2021

    • Author(s)
      中村栄太, 持橋大地, 齋藤康之
    • Organizer
      第132回情報処理学会音楽情報科学研究会
    • Related Report
      2021 Research-status Report
  • [Presentation] ピアノ採譜のための音価推定と声部分離のマルチタスク学習2021

    • Author(s)
      平松祐紀, 中村栄太, 吉井和佳
    • Organizer
      第132回情報処理学会音楽情報科学研究会
    • Related Report
      2021 Research-status Report
  • [Presentation] Joint Estimation of Note Values and Voices for Audio-to-Score Piano Transcription2021

    • Author(s)
      Yuki Hiramatsu, Eita Nakamura, Kazuyoshi Yoshii
    • Organizer
      22nd International Society for Music Information Retrieval Conference (ISMIR)
    • Related Report
      2021 Research-status Report
    • Int'l Joint Research
  • [Remarks] PIG dataset

    • URL

      https://beam.kisarazu.ac.jp/research/PianoFingeringDataset/

    • Related Report
      2024 Annual Research Report 2021 Research-status Report
  • [Remarks] 中村栄太 研究室ページ

    • URL

      https://eita-nakamura.github.io/index-ja.html

    • Related Report
      2024 Annual Research Report
  • [Remarks] Piano Fingering Dataset (PIG dataset)

    • URL

      https://beam.kisarazu.ac.jp/~saito/research/PianoFingeringDataset/

    • Related Report
      2023 Research-status Report
  • [Remarks] Piano Fingering Dataset

    • URL

      https://beam.kisarazu.ac.jp/research/PianoFingeringDataset/

    • Related Report
      2022 Research-status Report
  • [Remarks] 中村栄太研究紹介ページ

    • URL

      https://eita-nakamura.github.io/index-ja.html

    • Related Report
      2022 Research-status Report

URL: 

Published: 2021-04-28   Modified: 2026-01-16  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi