• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2019 Fiscal Year Annual Research Report

Music Generation and Analysis Based on Mathematical Modeling of Composiion, Performance and Acoustic Signals

Research Project

Project/Area Number 17H00749
Research InstitutionThe University of Electro-Communications

Principal Investigator

嵯峨山 茂樹  電気通信大学, 大学院情報理工学研究科, 客員研究員 (00303321)

Co-Investigator(Kenkyū-buntansha) 北原 鉄朗  日本大学, 文理学部, 准教授 (00454710)
齋藤 康之  木更津工業高等専門学校, 情報工学科, 准教授 (40331996)
堀 玄  亜細亜大学, 経営学部, 教授 (60322658)
小野 順貴  首都大学東京, システムデザイン研究科, 教授 (80334259)
中村 和幸  明治大学, 総合数理学部, 専任教授 (40462171)
堀内 靖雄  千葉大学, 大学院工学研究院, 准教授 (30272347)
齋藤 大輔  東京大学, 大学院工学系研究科(工学部), 講師 (40615150)
饗庭 絵里子  電気通信大学, 大学院情報理工学研究科, 准教授 (40569761)
Project Period (FY) 2017-04-01 – 2020-03-31
Keywords音楽情報処理 / 自動作曲・作詞 / 音楽信号加工 / 自動伴奏 / 和声解析 / 音楽処理インタフェース / 自動編曲 / 福祉応用
Outline of Annual Research Achievements

主な研究成果項目は、ユーザ入力の旋律断片や部分和声から曲を自動完成させる「自動補完」問題を初提唱。入力を拘束条件とする確率的音楽理論による最尤解を導く方法で実現。転調などを含めて楽曲を多彩にする方法も開発(博士論文) / 音楽信号中の和音の各音符のonset時刻のずれを楽譜情報を用いて高精度で検出 / 自動作曲システムOrpheusの再構築と多数の機能拡充、多数のメディア報道。登録ユーザは1万人超、累計作曲50万曲、再生400万回超 / 自動伴奏システムEurydiceを完全再開発:Eurydice 2 / 音光変換デバイス「ブリンキー」による音高の可視化システム / 英語の歌詞から画像を生成する手法とWebアプリを開発 / JamSketchのAndroid化 / VAEを用いたリハーモナイゼーション / POP楽曲のバラード風ピアノアレンジ / HamoKara(HMMを使ったハモリパート生成とそれを用いたカラオケハモリ練習支援システム) / 旋律概形を用いたメロディ編集 / HMMを用いたウォーキングベースラインの自動生成 / 印象語を用いたグラフィックイコライザー操作 / 位相情報を考慮したRNNによるドラム自動採譜 / ピアノ運指データセットの構築と分析、推定 / 有料老人ホームでEurydice による1本指タッピングによる楽曲進行を2種類の方法開拓 / タテ線譜とEurydice を併用.、運指と音高の誤り量の推移を研究 / マルチピッチボコーダの基本的な音声生成を確認 / 複数人歌唱のパート割推定に取り組み、「合唱音声情報処理」の確立を追及 / 単語の発声難易度の推定とそのためのデータベース作成、変調スペクトルに着眼した深層学習ベース音声合成分析 / KS Notationの記述法による機能和声の解析と、和声ラベルデータの作成を再開、など多数がある。

Research Progress Status

令和元年度が最終年度であるため、記入しない。

Strategy for Future Research Activity

令和元年度が最終年度であるため、記入しない。

Remarks

web ベースの日本語歌詞からの自動作曲システム。任意の日本語歌詞から、自分の好みの作曲条件設定に基づいて自動作曲でき、伴奏つきの合成音声と楽譜を出力する。新バージョンになってからでも37万曲(同一歌詞で作曲条件変更も含む)が作曲されている。ユーザが与えたキーワードから自動作詞する機能など、さまざまな機能がある。メディアでの紹介も多数(NHKドラえもん50周年特集、日テレ世界一受けたい授業など)。

  • Research Products

    (51 results)

All 2020 2019 Other

All Journal Article (24 results) (of which Peer Reviewed: 12 results,  Open Access: 4 results) Presentation (24 results) (of which Int'l Joint Research: 5 results) Remarks (1 results) Patent(Industrial Property Rights) (2 results) (of which Overseas: 2 results)

  • [Journal Article] 3-Dimensional Motif Modeling for Music Composition2020

    • Author(s)
      Shigeki Sagayama, Hitomi Kaneko
    • Journal Title

      Proceedings of the International Conference on New Music Concepts Inspired Education and New Computer Science Generation

      Volume: 7 Pages: 104 - 115

    • Peer Reviewed
  • [Journal Article] 旋律と「和声進行の緊張感」を入力する対話型和声付け支援システム2020

    • Author(s)
      高橋 拓椰,Christoph Wilk,嵯峨山 茂樹,宮下 芳明
    • Journal Title

      インタラクション2020予稿集

      Volume: 3A-08 Pages: 3A-08

    • Peer Reviewed
  • [Journal Article] usic Recreation in Nursing Home using Automatic Music Accompaniment System and Score of VLN2020

    • Author(s)
      Yasuyuki Saito, Yasuji Sakai, Yuu Igarashi, Suguru Agata, Eita Nakamura, Shigeki Sagayama
    • Journal Title

      Proceedings of 2020 IEEE 2nd Global Conference on Life Sciences and Technologies (LifeTech)

      Volume: - Pages: 127-131

    • Peer Reviewed
  • [Journal Article] 音光変換デバイス「ブリンキー」による音高のリアルタイム可視化2020

    • Author(s)
      石井 奏人, 堀池 大樹, シャイブラー ロビン, 若林 佑幸, 小野 順貴
    • Journal Title

      日本音響学会春季研究発表会講演論文集

      Volume: - Pages: 369-370

  • [Journal Article] マッシュアップ生成のための楽曲ミックスの良さのDNNによる評価の検討2020

    • Author(s)
      小林 史弥, 山岡 洸瑛, シャイブラー ロビン, 若林 佑幸, 小野 順貴
    • Journal Title

      日本音響学会春季研究発表会講演論文集

      Volume: - Pages: 1207-1208

  • [Journal Article] 歌声の歌唱タイミングと同期する伴奏システム2020

    • Author(s)
      野口真太朗, 堀内靖雄, 黒岩眞吾
    • Journal Title

      情報処理学会 研究報告(音楽情報科学)

      Volume: Vol.2020-MUS-126 Pages: 1-6

  • [Journal Article] 音楽と印象に関する一分析2020

    • Author(s)
      井上 湧哉, 植村 あい子, 北原 鉄朗
    • Journal Title

      情報処理学会 研究報告(音楽情報科学)

      Volume: Vol.2020-MUS-126, No.1 Pages: 1-7

  • [Journal Article] ユーザによるVOCALOID曲の歌唱のためのブレス位置推定2020

    • Author(s)
      内藤 悟嗣, 齋藤 佑樹, 高道 慎之介, 齋藤 康之, 猿渡 洋
    • Journal Title

      日本音響学会春季研究発表会講演論文集

      Volume: - Pages: 1 - 6

  • [Journal Article] 機械学習によるクラシック曲に対する機能和声を考慮した自動和声付与2020

    • Author(s)
      塚本康太,饗庭絵里子,北原鉄朗
    • Journal Title

      情報処理学会 研究報告(音楽情報科学)

      Volume: vol.2020-MUS-126, no.4 Pages: 5-5

  • [Journal Article] Polyphonic Voicing Optimization for Automatic Music Completion2019

    • Author(s)
      Christoph M. Wilk, Shigeki Sagayama
    • Journal Title

      Proceedings of APSIPA-ASC 2019 (2019 Asia-Pacific Signal and Information Processing - Annual Summit and Conference)

      Volume: - Pages: 375 - 382

    • Peer Reviewed
  • [Journal Article] Automatic Music Completion Based on Joint Optimization of Harmony Progression and Voicing2019

    • Author(s)
      Christoph Mathias Wilk, Shigeki Sagayama
    • Journal Title

      Journal of Information Processing

      Volume: 27 Pages: 693 - 700

    • DOI

      10.2197/ipsjjip.27.693

    • Peer Reviewed
  • [Journal Article] 楽譜情報を用いた高時間分解能Audio-to-MIDI変換2019

    • Author(s)
      保利 武志, 中村 和幸, 嵯峨山 茂樹
    • Journal Title

      情報処理学会論文誌

      Volume: 60(11) Pages: 2034-2047

    • Peer Reviewed
  • [Journal Article] Color Extraction from Lyrics2019

    • Author(s)
      Hori Gen
    • Journal Title

      Proceedings of the 2019 4th International Conference on Automation, Control and Robotics Engineering (CACRE2019)

      Volume: Article No.: 18 Pages: 1-6

    • DOI

      10.1145/3351917.3351991

    • Peer Reviewed / Open Access
  • [Journal Article] ゲーム風演出で読書を促進するモバイルアプリケーション2019

    • Author(s)
      草野 有沙, 西 由佳梨, 北原 鉄朗
    • Journal Title

      情報処理学会論文誌(テクニカルノート)

      Volume: Vol.60, No.11 Pages: 1978--1982

    • Peer Reviewed
  • [Journal Article] HamoKara: A System that Enables Amateur Singers to Practice Backing Vocals for Karaoke2019

    • Author(s)
      Mina Shiraishi, Kozue Ogasawara, and Tetsuro Kitahara
    • Journal Title

      Journal of Information Processing

      Volume: Vol.27 Pages: 683--692

    • Peer Reviewed / Open Access
  • [Journal Article] A Non-notewise Melody Editing Method for Supporting Musically Untrained People's Music Composition2019

    • Author(s)
      Kitahara Tetsuro、Tsuchiya Yuichi
    • Journal Title

      Journal of Creative Music Systems

      Volume: 3 Pages: -

    • DOI

      10.5920/jcms.624

    • Peer Reviewed / Open Access
  • [Journal Article] Generating Walking Bass Lines with HMM"2019

    • Author(s)
      Ayumi Shiga and Tetsuro Kitahara
    • Journal Title

      The 14th International Symposium on Computer Music Multidisciplinary Research (CMMR 2019)

      Volume: - Pages: 83--90

    • Peer Reviewed
  • [Journal Article] An Investigation towards Verbally Controllable Equalizer for Singing Voices2019

    • Author(s)
      Seiya Masuda, Eriko Aiba, and Tetsuro Kitahara
    • Journal Title

      Proceedings of the 5th Workshop on Intelligent Music Production (WIMP 2019)

      Volume: - Pages: -

    • Peer Reviewed / Open Access
  • [Journal Article] 自動伴奏システムEurydice の機能拡張とタテ線譜の併用事例2019

    • Author(s)
      齋藤 康之, 坂井 康二, 五十嵐 優
    • Journal Title

      日本電子キーボード音楽学会 第15回全国大会論文集

      Volume: - Pages: 14

  • [Journal Article] タテ線譜・ユリディスとは何か ~その融合的試行を追加する~2019

    • Author(s)
      阿方 俊, 坂井 康二, 五十嵐 優, 齋藤 康之, 西山 淑子, 橘川 琢, 小澤 真弓, 小熊 達也
    • Journal Title

      日本電子キーボード音楽学会 第15回全国大会

      Volume: - Pages: 10-11

  • [Journal Article] ピアノ運指データを用いた統計学習手法による運指推定2019

    • Author(s)
      中村 栄太, 齋藤 康之, 吉井 和佳
    • Journal Title

      情報処理学会 研究報告(音楽情報科学)

      Volume: vol.2019-MUS-124, no.12 Pages: 1-16

  • [Journal Article] PIG データセットと統計学習に基づくピアノ運指推定2019

    • Author(s)
      中村 栄太, 齋藤 康之, 吉井 和佳
    • Journal Title

      情報処理学会 研究報告(音楽情報科学)

      Volume: vol.2019-MUS-124, no.4 Pages: 2

  • [Journal Article] ピアノ運指自動抽出のための基礎検討2019

    • Author(s)
      齋藤 康之, 花澤 勇丞
    • Journal Title

      Visual Computing 2019

      Volume: poster 27 Pages: 1

  • [Journal Article] ピアノ運指データを用いた運指の個人性の解析2019

    • Author(s)
      中村 栄太, 齋藤 康之, 吉井 和佳
    • Journal Title

      情報処理学会 研究報告(音楽情報科学)

      Volume: vol.2019-MUS-123, no.42 Pages: 1-6

  • [Presentation] 旋律と「和声進行の緊張感」を入力する対話型和声付け支援システム2020

    • Author(s)
      高橋 拓椰,Christoph Wilk,嵯峨山 茂樹,宮下 芳明
    • Organizer
      インタラクション 2020
  • [Presentation] Music Recreation in Nursing Home using Automatic Music Accompaniment System and Score of VLN2020

    • Author(s)
      Yasuyuki Saito, Yasuji Sakai, Yuu Igarashi, Suguru Agata, Eita Nakamura, Shigeki Sagayama
    • Organizer
      2020 IEEE 2nd Global Conference on Life Sciences and Technologies (LifeTech)
    • Int'l Joint Research
  • [Presentation] 音光変換デバイス「ブリンキー」による音高のリアルタイム可視化2020

    • Author(s)
      石井 奏人, 堀池 大樹, シャイブラー ロビン, 若林 佑幸, 小野 順貴
    • Organizer
      日本音響学会春季研究発表会
  • [Presentation] マッシュアップ生成のための楽曲ミックスの良さのDNNによる評価の検討2020

    • Author(s)
      小林 史弥, 山岡 洸瑛, シャイブラー ロビン, 若林 佑幸, 小野 順貴
    • Organizer
      日本音響学会春季研究発表会
  • [Presentation] 歌声の歌唱タイミングと同期する伴奏システム2020

    • Author(s)
      野口真太朗, 堀内靖雄, 黒岩眞吾
    • Organizer
      情報処理学会音楽情報科学研究会
  • [Presentation] ピアノ用自動バラード調アレンジシステム2020

    • Author(s)
      草地 澪, 植村 あい子, 北原 鉄朗
    • Organizer
      インタラクション2020(インタラクティブ発表)
  • [Presentation] 動画の盛り上がり度に基づいたループシーケンサ2020

    • Author(s)
      安坂 文汰, 北原 鉄朗
    • Organizer
      インタラクション2020(インタラクティブ発表)
  • [Presentation] BGMの再生速度変化を用いた体幹トレーニング支援システム2020

    • Author(s)
      山本 鷹人, 北原 鉄朗
    • Organizer
      インタラクション2020(インタラクティブ発表)
  • [Presentation] カラオケにおける自動楽曲推薦2020

    • Author(s)
      伊藤 健友, 北原 鉄朗
    • Organizer
      インタラクション2020(インタラクティブ発表)
  • [Presentation] ドラム演奏表情付けに向けたドラム演奏のベロシティの分析2020

    • Author(s)
      関 晋之介, 井上 湧哉, 北原 鉄朗
    • Organizer
      情報処理学会 第126回音楽情報科学研究会 萌芽・デモ・議論セッション
  • [Presentation] クラシック曲の楽譜データに対する自動和声付与システムの構築に向けて2020

    • Author(s)
      塚本 康太, 饗庭 絵里子, 北原 鉄朗
    • Organizer
      情報処理学会 第126回音楽情報科学研究会 萌芽・デモ・議論セッション
  • [Presentation] 音楽と印象に関する一分析2020

    • Author(s)
      井上 湧哉, 植村 あい子, 北原 鉄朗
    • Organizer
      情報処理学会 第126回音楽情報科学研究会研究会
  • [Presentation] ユーザによるVOCALOID曲の歌唱のためのブレス位置推定2020

    • Author(s)
      内藤 悟嗣, 齋藤 佑樹, 高道 慎之介, 齋藤 康之, 猿渡 洋
    • Organizer
      日本音響学会 春季研究発表会
  • [Presentation] 機械学習によるクラシック曲に対する機能和声を考慮した自動和声付与2020

    • Author(s)
      塚本康太,饗庭絵里子,北原鉄朗
    • Organizer
      情報処理学会 音楽情報科学研究会
  • [Presentation] Polyphonic Voicing Optimization for Automatic Music Completion2019

    • Author(s)
      Christoph M. Wilk, Shigeki Sagayama
    • Organizer
      2019 Asia-Pacific Signal and Information Processing Association - Annual Summit and Conference (APSIPA-ASC)
    • Int'l Joint Research
  • [Presentation] Faster independent low-rank matrix analysiswith pairwise updates of demixing vectors2019

    • Author(s)
      Taishi Nakashima, Robin Scheibler, Yukoh Wakabayashi, and Nobutaka Ono
    • Organizer
      EUSIPCO 2019
    • Int'l Joint Research
  • [Presentation] Generating Walking Bass Lines with HMM2019

    • Author(s)
      Ayumi Shiga and Tetsuro Kitahara
    • Organizer
      The 14th International Symposium on Computer Music Multidisciplinary Research (CMMR 2019)
    • Int'l Joint Research
  • [Presentation] An Investigation towards Verbally Controllable Equalizer for Singing Voices2019

    • Author(s)
      Seiya Masuda, Eriko Aiba, and Tetsuro Kitahara
    • Organizer
      The 5th Workshop on Intelligent Music Production (WIMP 2019)
    • Int'l Joint Research
  • [Presentation] 自動伴奏システムEurydice の機能拡張とタテ線譜の併用事例2019

    • Author(s)
      齋藤 康之, 坂井 康二, 五十嵐 優
    • Organizer
      日本電子キーボード音楽学会 第15回全国大会
  • [Presentation] タテ線譜・ユリディスとは何か ~その融合的試行を追加する~2019

    • Author(s)
      阿方 俊, 坂井 康二, 五十嵐 優, 齋藤 康之, 西山 淑子, 橘川 琢, 小澤 真弓, 小熊 達也
    • Organizer
      日本電子キーボード音楽学会 第15回全国大会
  • [Presentation] ピアノ運指データを用いた統計学習手法による運指推定2019

    • Author(s)
      中村 栄太, 齋藤 康之, 吉井 和佳
    • Organizer
      情報処理学会 音楽情報科学研究会
  • [Presentation] PIG データセットと統計学習に基づくピアノ運指推定2019

    • Author(s)
      中村 栄太, 齋藤 康之, 吉井 和佳
    • Organizer
      情報処理学会 音楽情報科学研究会
  • [Presentation] ピアノ運指自動抽出のための基礎検討2019

    • Author(s)
      齋藤 康之, 花澤 勇丞
    • Organizer
      Visual Computing 2019
  • [Presentation] ピアノ運指データを用いた運指の個人性の解析2019

    • Author(s)
      中村 栄太, 齋藤 康之, 吉井 和佳
    • Organizer
      第123回 情報処理学会 音楽情報科学研究会(音学シンポジウム2019)
  • [Remarks] 自動作曲システム Orpheus

    • URL

      http://www.orpheus-music.org/

  • [Patent(Industrial Property Rights)] AUTOMATIC PERFORMANCE DEVICE AND AUTOMATIC PERFORMANCE METHOD2019

    • Inventor(s)
      SAGAYAMA Shigeki 他3名
    • Industrial Property Rights Holder
      SAGAYAMA Shigeki 他3名
    • Industrial Property Rights Type
      特許
    • Industrial Property Number
      EP19171746.1
    • Overseas
  • [Patent(Industrial Property Rights)] AUTOMATIC PERFORMANCE DEVICE AND AUTOMATIC PERFORMANCE METHOD2019

    • Inventor(s)
      SAGAYAMA Shigeki 他3名
    • Industrial Property Rights Holder
      SAGAYAMA Shigeki 他3名
    • Industrial Property Rights Type
      特許
    • Industrial Property Number
      35961160
    • Overseas

URL: 

Published: 2021-01-27  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi