• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to previous page

Automated Music Composition, Lyrics Generation and Accompaniment from the Speech Recognition Approach

Research Project

Project/Area Number 21H03462
Research Category

Grant-in-Aid for Scientific Research (B)

Allocation TypeSingle-year Grants
Section一般
Review Section Basic Section 61010:Perceptual information processing-related
Research InstitutionThe University of Electro-Communications

Principal Investigator

Sagayama Shigeki  電気通信大学, 大学院情報理工学研究科, 客員研究員 (00303321)

Co-Investigator(Kenkyū-buntansha) 金子 仁美  東京藝術大学, 音楽学部, 准教授 (00408949)
堀 玄  亜細亜大学, 経営学部, 教授 (60322658)
齋藤 康之  木更津工業高等専門学校, 情報工学科, 准教授 (40331996)
饗庭 絵里子  電気通信大学, 大学院情報理工学研究科, 准教授 (40569761)
酒向 慎司  名古屋工業大学, 工学(系)研究科(研究院), 准教授 (30396791)
Project Period (FY) 2021-04-01 – 2024-03-31
Project Status Completed (Fiscal Year 2023)
Budget Amount *help
¥17,420,000 (Direct Cost: ¥13,400,000、Indirect Cost: ¥4,020,000)
Fiscal Year 2023: ¥5,720,000 (Direct Cost: ¥4,400,000、Indirect Cost: ¥1,320,000)
Fiscal Year 2022: ¥5,460,000 (Direct Cost: ¥4,200,000、Indirect Cost: ¥1,260,000)
Fiscal Year 2021: ¥6,240,000 (Direct Cost: ¥4,800,000、Indirect Cost: ¥1,440,000)
Keywords自動作曲 / 隠れマルコフモデル / 言語の韻律特性 / 非和声音ラベル / 自動作詞 / 運指決定 / 自動作曲システムOrpheus / 自動伴奏システムEurydice / 自動伴奏 / 和声設計ツール / 画像からの歌詞自動作成 / 音楽情報処理 / 確率モデル / 和声解析
Outline of Research at the Start

我々は、知覚情報処理分野(特に音声認識)で生まれた優れた数理モデルを、音楽処理に適用し数々の知的処理技術を開拓し、多大な成果を挙げて来た。本課題では、自動作曲・自動作詞・自動伴奏を確率モデルにより計算可能な問題として定式化・拡張・高度化し、システム構築と一般ユーザへの提供、有効性評価などを、工学者・音楽家・心理学者との共同体制で遂行する。 具体的には、自動作曲システム Orpheus の version 4 に位置づけられる自動作曲・自動作詞の次段階の原理の探究と実現、自動伴奏システム Eurydice の version 2 の実現と社会応用などを主要目標としている。

Outline of Final Research Achievements

We developed a technology to automatically compose duets with accompaniment by simultaneously satisfying the requirements of music theory and linguistics based on the user's preferred composition conditions from freely input Japanese lyrics, as an advancement of speech recognition algorithms, and constructed and released the web-based automatic composition system "Orpheus" to the public. Since then, we have conducted research and development of various related technologies. Our main achievements include the development of new principles and algorithms for automatic composition suitable for stress-accent languages such as English, the development of a method for automatically setting appropriate composition conditions from the meaning of given lyrics, and related singing voice analysis. Meanwhile, we also conducted practical experiments in real-world applications as an application of the automatic accompaniment technology based on a probabilistic model that we developed in parallel.

Academic Significance and Societal Importance of the Research Achievements

音楽愛好者は多く作曲への関心も高いが、歌詞は思いつくが作曲は苦手というケースが多い。歌詞が入力されれば自動的に作曲する技術は生成AIの好適なゴールであるが、最近盛んな深層学習を用いた機械学習アプローチには向いておらず、研究成功例は決して多くない。本研究開発は、音楽理論と言語学に基づいて、違和感を感じない自然な音楽旋律とは何であるかを計算論的に正面から答え、その原理に基づいてwebベースの自動作曲システムOrpheusを構築し一般無料公開したものである。現時点では約77万曲が作曲され、アクセス回数は約3000万回である。TV20回以上などメディア出演や、商業的応用(Pepper)もされている。

Report

(4 results)
  • 2023 Annual Research Report   Final Research Report ( PDF )
  • 2022 Annual Research Report
  • 2021 Annual Research Report
  • Research Products

    (40 results)

All 2024 2023 2022 2021 Other

All Journal Article (22 results) (of which Peer Reviewed: 10 results) Presentation (9 results) (of which Int'l Joint Research: 3 results,  Invited: 7 results) Remarks (9 results)

  • [Journal Article] 信号周期整数倍長窓Kalliopeの理論的性質2024

    • Author(s)
      嵯峨山 茂樹
    • Journal Title

      電子情報通信学会論文誌

      Volume: J107-D(2) Pages: 82-86

    • Related Report
      2023 Annual Research Report
    • Peer Reviewed
  • [Journal Article] ジェラール・グリゼイ『機械仕掛けの時間』をめぐって - 楽曲分析による音楽の新たな時間概念の考察2024

    • Author(s)
      金子仁美
    • Journal Title

      東京藝術大学音楽学部紀要

      Volume: 49 Pages: 33-52

    • Related Report
      2023 Annual Research Report
    • Peer Reviewed
  • [Journal Article] 複数のラグ窓対を用いた音声基本周波数と周期性尺度の推定2024

    • Author(s)
      越森 道貴, 嵯峨山 茂樹, 中鹿 亘
    • Journal Title

      情報処理学会研究報告(音声言語情報処理)

      Volume: 2024-SLP-151

    • Related Report
      2023 Annual Research Report
  • [Journal Article] 2 種のラグ窓によるスペクトル平滑化を用いたF0 推定2024

    • Author(s)
      越森 道貴, 嵯峨山 茂樹, 中鹿 亘
    • Journal Title

      日本音響学会第151回(2024年春季)研究発表会講演論文集

      Volume: -

    • Related Report
      2023 Annual Research Report
  • [Journal Article] 照明演出の支援を目的とした楽曲の構造と雰囲気に基づく照明色・明度・動きの推定2024

    • Author(s)
      月東 菜乃, 酒向 慎司
    • Journal Title

      情報処理学会第86回全国大会講演論文集

      Volume: 2, 5V-01 Pages: 807-808

    • Related Report
      2023 Annual Research Report
  • [Journal Article] 1970年代フランスにおける新しい作曲の姿勢2023

    • Author(s)
      金子仁美
    • Journal Title

      桐朋学園大学研究紀要

      Volume: 49 Pages: 41-61

    • Related Report
      2023 Annual Research Report
    • Peer Reviewed
  • [Journal Article] 音楽分析・生成のための非和声音データベースの構築2023

    • Author(s)
      高橋拓椰, 金子仁美, 中鹿亘, 嵯峨山茂樹
    • Journal Title

      電子情報通信学会技術研究報告(音声)

      Volume: 123(88(SP2023)) Pages: 1-26

    • Related Report
      2023 Annual Research Report
  • [Journal Article] Controllable Automatic Melody Composition Model across Pitch/Stress-accent Languages2023

    • Author(s)
      Takuya Takahashi, Shigeki Sagayama, Toru Nakashika
    • Journal Title

      Proceedings of the 16th International Symposium on Computer Music

      Volume: cmmr2023_1a-1.pdf

    • Related Report
      2023 Annual Research Report
    • Peer Reviewed
  • [Journal Article] SBERT-based Musical Components Estimation from Lyrics Trained with Imbalanced "Orpheus" Data2023

    • Author(s)
      Mastuti Puspitasari, Gen Hori, Shigeki Sagayama, Toru Nakashika
    • Journal Title

      電子情報通信学会技術研究報告(音声)

      Volume: 123 (88(SP2023)) Pages: 86-90

    • Related Report
      2023 Annual Research Report
  • [Journal Article] SBERT-based Chord Progression Estimation from Lyrics Trained with Imbalanced Data2023

    • Author(s)
      Mastuti Puspitasari, Takuya Takahashi, Gen Hori, Shigeki Sagayama, Toru Nakashika
    • Journal Title

      Proceedings of the 16th International Symposium on Computer Music

      Volume: cmmr2023_3c-P7 Pages: 403-410

    • Related Report
      2023 Annual Research Report
    • Peer Reviewed
  • [Journal Article] Enumerating Left Hand Forms for Guitar Tablatures using Non-decreasing Finger Numbers and Separators2023

    • Author(s)
      Gen Hori
    • Journal Title

      Proceedings of TENOR2023

      Volume: - Pages: 62-67

    • Related Report
      2023 Annual Research Report
    • Peer Reviewed
  • [Journal Article] 音楽療法のための大型ボタンの押下による楽曲進行機能の装備2023

    • Author(s)
      阿方 俊, 西山 淑子, 秋谷 万里子, 齋藤 康之
    • Journal Title

      日本電子キーボード音楽学会 第18回全国大会, ラウンドテーブル

      Volume: - Pages: 13-14

    • Related Report
      2023 Annual Research Report
  • [Journal Article] ピアノ連弾時におけるヒト演奏者のテンポ・リズム制御:自動伴奏システムへの組み込み2023

    • Author(s)
      平賀 佑哉,饗庭 絵里子
    • Journal Title

      日本音響学会第150回秋季研究発表会

      Volume: -

    • Related Report
      2023 Annual Research Report
  • [Journal Article] 聴覚障害者の音楽体験支援のためのChironomieによる音楽可視化手法の提案2023

    • Author(s)
      辰巳 花菜, 酒向 慎司
    • Journal Title

      電子情報通信学会技術報告 福祉情報工学研究会

      Volume: 123, WIT2023-21 Pages: 17-20

    • Related Report
      2023 Annual Research Report
  • [Journal Article] ギターアンプのノブ操作による音色の変化に対応したブラックボックスモデリング2023

    • Author(s)
      江崎 友都, 酒向 慎司
    • Journal Title

      日本音響学会第150回秋季研究発表会

      Volume: 1-R-20 Pages: 261-262

    • Related Report
      2023 Annual Research Report
  • [Journal Article] Music Visualization using Chironomie2023

    • Author(s)
      Kana Tatsumi, Shinji Sako, Rafael Ramirez
    • Journal Title

      The 24th conference of the International Society for Music Information Retrieval (ISMIR)

      Volume: LP-34

    • Related Report
      2023 Annual Research Report
    • Peer Reviewed
  • [Journal Article] F0適応ラグ窓を用いた音声分析系の精緻化2022

    • Author(s)
      越森道貴, 嵯峨山茂樹, 岸田拓也, 中鹿 亘
    • Journal Title

      電子情報通信学会技術報告(音学シンポジウム)

      Volume: MUS-142

    • Related Report
      2022 Annual Research Report
  • [Journal Article] 半世紀の半生期の反省記 ――悔いだらけの研究人生――2022

    • Author(s)
      嵯峨山 茂樹
    • Journal Title

      日本音響学会誌

      Volume: 78 (7) Pages: 353-354

    • Related Report
      2022 Annual Research Report
    • Peer Reviewed
  • [Journal Article] すべての人々に演奏の喜びを-I ~その問題と解決策を探る~2022

    • Author(s)
      坂井 康二, 石井 良弥, 阿方 俊, 西山 淑子, 齋藤 康之
    • Journal Title

      日本電子キーボード音楽学会 第17回全国大会, ラウンドテーブル(オンライン開催,2022年9月11日(日)) 予稿集

      Volume: - Pages: 13-14

    • Related Report
      2022 Annual Research Report
  • [Journal Article] 合奏時のピアニストのテンポ・リズム制御:協奏可能な自動伴奏システム開発を目指して2022

    • Author(s)
      平賀佑哉,饗庭絵里子
    • Journal Title

      情報処理学会第85回全国大会予稿集

      Volume: 5T-09 Pages: 1-6

    • Related Report
      2022 Annual Research Report
  • [Journal Article] Three-Level Model for Fingering Decision of String Instruments2021

    • Author(s)
      Gen Hori
    • Journal Title

      Proc. 15th International Symposium on CMMR

      Volume: online Pages: 93-98

    • Related Report
      2021 Annual Research Report
    • Peer Reviewed
  • [Journal Article] Semi-Automatic Music Piece Creation Based on Impression Words Extracted from Object and Background in Color Image2021

    • Author(s)
      Yasuyuki Saito, Honoka Fujii, Shigeki Sagayama
    • Journal Title

      Proc. IEEE 10th Global Conference on Consumer Electronics (GCCE 2021)

      Volume: vol.1 Pages: 294-298

    • Related Report
      2021 Annual Research Report
    • Peer Reviewed
  • [Presentation] 窒素 - チェロのための2024

    • Author(s)
      金子仁美
    • Organizer
      アンサンブルコンテンポラリーα定期演奏会(オペラシティリサイタルホール)
    • Related Report
      2023 Annual Research Report
    • Invited
  • [Presentation] 恒星 - ヴァイオリンのための2023

    • Author(s)
      金子仁美
    • Organizer
      全音楽譜出版社主催演奏会(東京文化会館小ホール)
    • Related Report
      2023 Annual Research Report
    • Invited
  • [Presentation] 17 Years with Automatic Music Composition System “Orpheus” (keynote speech)2023

    • Author(s)
      Shigeki Sagayama
    • Organizer
      The 16th International Symposium on Computer Music
    • Related Report
      2023 Annual Research Report
    • Int'l Joint Research / Invited
  • [Presentation] 自動作曲の可能性と限界2023

    • Author(s)
      嵯峨山茂樹
    • Organizer
      学術会議公開シンポジウム「計算音響学の目指すもの」(「計算音響学」小委員会シンポジウム (2023.3.27).
    • Related Report
      2022 Annual Research Report
    • Invited
  • [Presentation] ジェラール・グリゼイの作曲概念と他分野での表現法の照応2022

    • Author(s)
      金子仁美
    • Organizer
      第25回一橋大学「芸術と社会」研究会 (2022.08.07)
    • Related Report
      2022 Annual Research Report
    • Invited
  • [Presentation] アクア~3Dモデルによる音楽XIII~クラリネット独奏のための (新作初演)2022

    • Author(s)
      金子仁美
    • Organizer
      JFC 日本作曲家協議会 日本の作曲家2022第2夜 (2022.11.13)
    • Related Report
      2022 Annual Research Report
    • Invited
  • [Presentation] 炭酸~3Dモデルによる音楽XIV~オンド・マルトノとトロンボーンのための(新作初演)2022

    • Author(s)
      金子仁美
    • Organizer
      第28回「四人組とその仲間たち」コンサート (2022.12.09)
    • Related Report
      2022 Annual Research Report
    • Invited
  • [Presentation] Three-Level Model for Fingering Decision of String Instruments2021

    • Author(s)
      Gen Hori
    • Organizer
      15th International Symposium on CMMR (Online)
    • Related Report
      2021 Annual Research Report
    • Int'l Joint Research
  • [Presentation] Semi-Automatic Music Piece Creation Based on Impression Words Extracted from Object and Background in Color Image2021

    • Author(s)
      Yasuyuki Saito, Honoka Fujii, Shigeki Sagayama
    • Organizer
      IEEE 10th Global Conference on Consumer Electronics (GCCE 2021)
    • Related Report
      2021 Annual Research Report
    • Int'l Joint Research
  • [Remarks] 自動作曲システム Orpheus Ver. 3.23

    • URL

      https://www.orpheus-music.org/

    • Related Report
      2023 Annual Research Report
  • [Remarks] 生成AIでPepperが作詞・作曲して、歌やダンスを披露するロボアプリ「即興パフォーマー」

    • URL

      https://www.softbankrobotics.com/jp/product/pepper/retail/app-performer/

    • Related Report
      2023 Annual Research Report
  • [Remarks] ヒンドソング 「生活者」展 1981-2021

    • URL

      https://seikatsusoken.jp/40th/hindosong/

    • Related Report
      2023 Annual Research Report
  • [Remarks] New Release! 5つの年代別ヒンドソング

    • URL

      https://seikatsusoken.jp/40th/hindosong/part2/

    • Related Report
      2023 Annual Research Report
  • [Remarks] AIで「流行りの曲」は作れるのか?~AI作詞作曲プロジェクトからの気づき~

    • URL

      https://www.hakuhodo.co.jp/magazine/104496/

    • Related Report
      2023 Annual Research Report
  • [Remarks] 自動作曲システム Orpheus Ver. 3.19

    • URL

      https://www.orpheus-music.org/

    • Related Report
      2022 Annual Research Report
  • [Remarks] 博報堂生活総合研究所「ヒンドソング」の作曲・公開

    • URL

      https://seikatsusoken.jp/40th/hindosong/

    • Related Report
      2022 Annual Research Report
  • [Remarks] 自動作曲システム Orpheus

    • URL

      https://www.orpheus-music.org/

    • Related Report
      2021 Annual Research Report
  • [Remarks] 博報堂生活総合研究所「ヒンドソング」

    • URL

      https://seikatsusoken.jp/40th/hindosong/

    • Related Report
      2021 Annual Research Report

URL: 

Published: 2021-04-28   Modified: 2025-01-30  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi