• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2016 Fiscal Year Annual Research Report

Statistical Music Modelling and Automation Techniques for Expressive Performance and Accompaniment Generation Capturing Performers' Musicality

Research Project

Project/Area Number 15K16054
Research InstitutionKyoto University

Principal Investigator

中村 栄太  京都大学, 情報学研究科, 特別研究員(PD) (10707574)

Project Period (FY) 2015-04-01 – 2017-03-31
Keywords音楽情報処理 / 統計音楽モデル / 演奏モデル / 音楽言語モデル / 音楽スタイル
Outline of Annual Research Achievements

平成28年度は、演奏モデルと音楽言語モデルの統合による自動採譜手法への応用に関して大きな進捗があった。一つはポリリズムといった多声音楽での楽譜および演奏の特徴を記述するために有効な出力合流隠れマルコフモデルを用いるもので、多声部構造を持った楽譜の生成モデルおよび声部間で緩い同期を持った演奏の生成モデルを構築して、MIDI演奏から楽譜に変換するリズム採譜の問題へ応用した。この結果、採譜精度において従来法を大きく上回ることが示され、今後は音響信号からの自動採譜への応用も考えられる。また、音楽の反復構造を記述するため、音形の反復と変形をベイズ階層隠れマルコフモデルで記述する定式化を行った。これにより楽譜や演奏に含まれる典型的な音符パターンとその変形を教師なし学習の枠組みで捉える手法の開発を行った。単旋律メロディーに対するリズム採譜問題で採譜精度の向上に有効なことが示された。今後は多声部音楽モデルとの統合が課題である。
この他、従来の演奏誤りモデルを拡張し、MIDI演奏データと楽譜から演奏誤りを自動検出できる手法を開発した。これを自動伴奏技術と組み合わせて、ピアノ曲で演奏が困難な箇所をより容易に、しかし再現される音楽は同じになるようにする、演奏支援技術への応用を行った。また、ポピュラー音楽などの音響信号から伴奏音とソロ歌唱音を分離して、ユーザーの歌唱音とのマッチングを行い、リアルタイムでテンポを変化させてユーザーの歌に伴奏を同期させる技術の開発も行った。歌声に対する自動採譜技術や音楽文法モデルの開発などの成果もあった。
研究目標としていた演奏データの構築に関しては、60楽曲(フレーズ)× 3演奏者以上のデータ収集・整備を達成した。また、上記研究結果に基づき、効率的に演奏データ整備が可能な演奏アラインメントツールの開発を行い、近々公開予定である。

  • Research Products

    (29 results)

All 2017 2016 Other

All Int'l Joint Research (1 results) Journal Article (2 results) (of which Peer Reviewed: 2 results,  Acknowledgement Compliant: 2 results) Presentation (25 results) (of which Int'l Joint Research: 7 results) Remarks (1 results)

  • [Int'l Joint Research] Queen Mary University of London(United Kingdom)

    • Country Name
      United Kingdom
    • Counterpart Institution
      Queen Mary University of London
  • [Journal Article] Audio-Visual Beat Tracking Based on a State-Space Model for a Robot Dancer Performing with a Human Dancer2017

    • Author(s)
      Misato Ohkita, Yoshiaki Bando, Yukara Ikemiya, Eita Nakamura, Katsutoshi Itoyama, Kazuyoshi Yoshii
    • Journal Title

      Journal of Robotics and Mechatronics

      Volume: 29(1) Pages: 125-136

    • DOI

      10.20965/jrm.2017.p0125

    • Peer Reviewed / Acknowledgement Compliant
  • [Journal Article] Rhythm Transcription of Polyphonic Piano Music Based on Merged-Output HMM for Multiple Voices2017

    • Author(s)
      Eita Nakamura, Kazuyoshi Yoshii, Shigeki Sagayama
    • Journal Title

      IEEE/ACM Transactions on Audio, Speech and Language Processing

      Volume: 25(4) Pages: 794-806

    • DOI

      10.1109/TASLP.2017.2662479

    • Peer Reviewed / Acknowledgement Compliant
  • [Presentation] スケールと音高の過渡的変化を考慮したHSMMに基づく歌声F0軌跡に対する音符推定2017

    • Author(s)
      錦見亮, 中村栄太, 糸山克寿, 吉井和佳
    • Organizer
      第79回情報処理学会全国大会
    • Place of Presentation
      第79回情報処理学会全国大会
    • Year and Date
      2017-03-18 – 2017-03-18
  • [Presentation] 市販音楽CDを用いたユーザ歌唱に伴奏音が自動追従するスマートカラオケシステム2017

    • Author(s)
      和田雄介, 中村栄太, 糸山克寿, 吉井和佳
    • Organizer
      第79回情報処理学会全国大会
    • Place of Presentation
      名古屋大学 (愛知県名古屋市)
    • Year and Date
      2017-03-17 – 2017-03-17
  • [Presentation] ベイズ文脈自由文法に基づく和音系列の教師なし構文解析と自動生成2017

    • Author(s)
      津島啓晃, 吉井和佳, 糸山克寿, 中村栄太
    • Organizer
      第79回情報処理学会全国大会
    • Place of Presentation
      第79回情報処理学会全国大会
    • Year and Date
      2017-03-17 – 2017-03-17
  • [Presentation] Bayesian Multichannel Nonnegative Matrix Factorization for Audio Source Separation and Localization2017

    • Author(s)
      Kousuke Itakura, Yoshiaki Bando, Eita Nakamura, Katsutoshi Itoyama, Kazuyoshi Yoshii, Tatsuya Kawahara
    • Organizer
      42nd IEEE International Conference on Acoustics, Speech and Signal Processing (ICASSP)
    • Place of Presentation
      Louisiana (US)
    • Year and Date
      2017-03-08 – 2017-03-08
    • Int'l Joint Research
  • [Presentation] 楽譜簡略化と自動補完伴奏によるピアノ演奏練習支援システム2017

    • Author(s)
      福田翼, 中村栄太, 糸山克寿, 吉井和佳
    • Organizer
      第114回情報処理学会音楽情報科学研究会
    • Place of Presentation
      ヤマハ本社 (静岡県浜松市)
    • Year and Date
      2017-02-28 – 2017-02-28
  • [Presentation] 視線解析を併用した頷き動作による自動譜めくりシステム2017

    • Author(s)
      地曳はるか, 齋藤康之, 中村栄太, 嵯峨山茂樹
    • Organizer
      映像情報メディア学会 メディア工学研究会
    • Place of Presentation
      関東学院大 (神奈川県横浜市)
    • Year and Date
      2017-02-18 – 2017-02-18
  • [Presentation] Comparative Evaluation of Rhythm Transcription Algorithms on Polyphonic Piano Datasets2016

    • Author(s)
      Eita Nakamura, Kazuyoshi Yoshii
    • Organizer
      Digital Music Research Network Workshop 2016 (DMRN+11)
    • Place of Presentation
      London (UK)
    • Year and Date
      2016-12-20 – 2016-12-20
  • [Presentation] マルチチャネル音源分離のための低ランク音源モデルとスパース重畳過程に基づくネスト型ベイズ混合・因子モデル2016

    • Author(s)
      板倉光佑, 坂東宜昭, 中村栄太, 糸山克寿, 吉井和佳, 河原達也
    • Organizer
      第19回情報論的学習理論ワークショップ (IBIS2016)
    • Place of Presentation
      京都大学 (京都府京都市)
    • Year and Date
      2016-11-17 – 2016-11-17
  • [Presentation] 歌声F0軌跡に対する自動採譜のための準ビート同期セグメンタルHMM2016

    • Author(s)
      錦見亮, 中村栄太, 糸山克寿, 吉井和佳
    • Organizer
      第19回情報論的学習理論ワークショップ (IBIS2016)
    • Place of Presentation
      京都大学 (京都府京都市)
    • Year and Date
      2016-11-17 – 2016-11-17
  • [Presentation] 音楽音響信号に対する多重音高推定と和音構造学習のための階層ベイズ音響・言語統合モデル2016

    • Author(s)
      尾島優太, 中村栄太, 糸山克寿, 吉井和佳
    • Organizer
      第19回情報論的学習理論ワークショップ (IBIS2016)
    • Place of Presentation
      第19回情報論的学習理論ワークショップ (IBIS2016)
    • Year and Date
      2016-11-17 – 2016-11-17
  • [Presentation] Rhythm Transcription of Polyphonic MIDI Performances Based on a Merged-Output HMM for Multiple Voices2016

    • Author(s)
      Eita Nakamura, Kazuyoshi Yoshii, Shigeki Sagayama
    • Organizer
      13th Sound and Music Computing Conference (SMC)
    • Place of Presentation
      Hamburg (Germany)
    • Year and Date
      2016-09-03 – 2016-09-03
    • Int'l Joint Research
  • [Presentation] A Unified Bayesian Model of Time-Frequency Clustering and Low-Rank Approximation for Multi-Channel Source Separation2016

    • Author(s)
      Kousuke Itakura, Yoshiaki Bando, Eita Nakamura, Katsutoshi Itoyama, Kazuyoshi Yoshii
    • Organizer
      24th European Signal Processing Conference (EUSIPCO)
    • Place of Presentation
      Budapest (Hungary)
    • Year and Date
      2016-09-02 – 2016-09-02
    • Int'l Joint Research
  • [Presentation] Rhythm Transcription of MIDI Performances Based on Hierarchical Bayesian Modelling of Repetition and Modification of Musical Note Patterns2016

    • Author(s)
      Eita Nakamura, Katsutoshi Itoyama, Kazuyoshi Yoshii
    • Organizer
      24th European Signal Processing Conference (EUSIPCO)
    • Place of Presentation
      Budapest (Hungary)
    • Year and Date
      2016-09-01 – 2016-09-01
    • Int'l Joint Research
  • [Presentation] マルチチャネル音源分離のためのネスト型基底・音源混合モデルに基づく時間周波数クラスタリング2016

    • Author(s)
      板倉光佑, 坂東宜昭, 中村栄太, 糸山克寿, 吉井和佳, 河原達也
    • Organizer
      音声研究会
    • Place of Presentation
      京都大学 (京都府京都市)
    • Year and Date
      2016-08-24 – 2016-08-24
  • [Presentation] Musical Note Estimation for F0 Trajectories of Singing Voices Based on a Bayesian Semi-Beat-Synchronous HMM2016

    • Author(s)
      Ryo Nishikimi, Eita Nakamura, Katsutoshi Itoyama, Kazuyoshi Yoshii
    • Organizer
      17th International Society for Music Information Retrieval Conference (ISMIR)
    • Place of Presentation
      NY (US)
    • Year and Date
      2016-08-09 – 2016-08-09
    • Int'l Joint Research
  • [Presentation] A Hierarchical Bayesian Model of Chords, Pitches, and Spectrograms for Multipitch Analysis2016

    • Author(s)
      Yuta Ojima, Eita Nakamura, Katsutoshi Itoyama, Kazuyoshi Yoshii
    • Organizer
      17th International Society for Music Information Retrieval Conference (ISMIR)
    • Place of Presentation
      NY (US)
    • Year and Date
      2016-08-09 – 2016-08-09
    • Int'l Joint Research
  • [Presentation] 音型の反復と変形に基づく階層ベイズ音楽言語モデルとMIDI演奏のリズム採譜への応用2016

    • Author(s)
      中村栄太, 糸山克寿, 吉井和佳
    • Organizer
      第112回情報処理学会音楽情報科学研究会
    • Place of Presentation
      東京理科大学 (千葉県野田市)
    • Year and Date
      2016-08-01 – 2016-08-01
  • [Presentation] NMF vs PLCA: 多重音生成過程に対する無限因子モデルと無限混合モデル2016

    • Author(s)
      吉井和佳, 中村栄太, 糸山克寿, 後藤真孝
    • Organizer
      第112回情報処理学会音楽情報科学研究会
    • Place of Presentation
      東京理科大学 (千葉県野田市)
    • Year and Date
      2016-08-01 – 2016-08-01
  • [Presentation] タテ線譜と初心者向けピアノ運指のSMF からの自動生成2016

    • Author(s)
      佐藤陸, 中村栄太, 齋藤康之, 阿方俊, 五十嵐優, 嵯峨山茂樹
    • Organizer
      第112回情報処理学会音楽情報科学研究会
    • Place of Presentation
      東京理科大学 (千葉県野田市)
    • Year and Date
      2016-08-01 – 2016-08-01
  • [Presentation] 演奏者の楽譜の休止区間における自動伴奏のテンポ制御2016

    • Author(s)
      長野亜美, 齋藤康之, 中村栄太, 嵯峨山茂樹
    • Organizer
      第112回情報処理学会音楽情報科学研究会
    • Place of Presentation
      東京理科大学 (千葉県野田市)
    • Year and Date
      2016-07-31 – 2016-07-31
  • [Presentation] 頷き動作による自動譜めくりシステムでの合図とリズムノリの判別2016

    • Author(s)
      地曳はるか, 齋藤康之, 中村栄太, 嵯峨山茂樹
    • Organizer
      第112回情報処理学会音楽情報科学研究会
    • Place of Presentation
      東京理科大学 (千葉県野田市)
    • Year and Date
      2016-07-31 – 2016-07-31
  • [Presentation] 歌声F0軌跡に対する音符推定のためのベイジアン準ビート同期HMM2016

    • Author(s)
      錦見亮, 中村栄太, 糸山克寿, 吉井和佳
    • Organizer
      第112回情報処理学会音楽情報科学研究会
    • Place of Presentation
      東京理科大学 (千葉県野田市)
    • Year and Date
      2016-07-30 – 2016-07-30
  • [Presentation] 調・コード・音高・スペクトログラムの階層ベイズモデルに基づく多重音解析2016

    • Author(s)
      尾島優太, 中村栄太, 糸山克寿, 吉井和佳
    • Organizer
      第112回情報処理学会音楽情報科学研究報告
    • Place of Presentation
      東京理科大学 (千葉県野田市)
    • Year and Date
      2016-07-30 – 2016-07-30
  • [Presentation] GTTM に基づくメロディ音符列の確率的木構造モデル2016

    • Author(s)
      中村栄太, 浜中雅俊, 平田圭二, 吉井和佳
    • Organizer
      第30回人工知能学会全国大会
    • Place of Presentation
      北九州国際会議場 (福岡県北九州市)
    • Year and Date
      2016-06-08 – 2016-06-08
  • [Presentation] Conversion from Standard MIDI Files to Vertical Line Notation Scores and Automatic Decision of Piano Fingering for Beginners2016

    • Author(s)
      Yasuyuki Saito, Eita Nakamura, Riku Sato, Suguru Agata, Yuu Igarashi, Shigeki Sagayama
    • Organizer
      2nd International Conference on Technologies for Music Notation and Representation (TENOR)
    • Place of Presentation
      London (UK)
    • Year and Date
      2016-05-29 – 2016-05-29
    • Int'l Joint Research
  • [Remarks] 中村栄太

    • URL

      http://eita-nakamura.github.io/index-ja.html

URL: 

Published: 2018-01-16  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi