• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 前のページに戻る

音声認識手法を応用した自動作曲・自動作詞・自動伴奏の研究

研究課題

研究課題/領域番号 21H03462
研究種目

基盤研究(B)

配分区分補助金
応募区分一般
審査区分 小区分61010:知覚情報処理関連
研究機関電気通信大学

研究代表者

嵯峨山 茂樹  電気通信大学, 大学院情報理工学研究科, 客員研究員 (00303321)

研究分担者 金子 仁美  東京藝術大学, 音楽学部, 准教授 (00408949)
堀 玄  亜細亜大学, 経営学部, 教授 (60322658)
齋藤 康之  木更津工業高等専門学校, 情報工学科, 准教授 (40331996)
饗庭 絵里子  電気通信大学, 大学院情報理工学研究科, 准教授 (40569761)
酒向 慎司  名古屋工業大学, 工学(系)研究科(研究院), 准教授 (30396791)
研究期間 (年度) 2021-04-01 – 2024-03-31
研究課題ステータス 完了 (2023年度)
配分額 *注記
17,420千円 (直接経費: 13,400千円、間接経費: 4,020千円)
2023年度: 5,720千円 (直接経費: 4,400千円、間接経費: 1,320千円)
2022年度: 5,460千円 (直接経費: 4,200千円、間接経費: 1,260千円)
2021年度: 6,240千円 (直接経費: 4,800千円、間接経費: 1,440千円)
キーワード自動作曲 / 隠れマルコフモデル / 言語の韻律特性 / 非和声音ラベル / 自動作詞 / 運指決定 / 自動作曲システムOrpheus / 自動伴奏システムEurydice / 自動伴奏 / 和声設計ツール / 画像からの歌詞自動作成 / 音楽情報処理 / 確率モデル / 和声解析
研究開始時の研究の概要

我々は、知覚情報処理分野(特に音声認識)で生まれた優れた数理モデルを、音楽処理に適用し数々の知的処理技術を開拓し、多大な成果を挙げて来た。本課題では、自動作曲・自動作詞・自動伴奏を確率モデルにより計算可能な問題として定式化・拡張・高度化し、システム構築と一般ユーザへの提供、有効性評価などを、工学者・音楽家・心理学者との共同体制で遂行する。 具体的には、自動作曲システム Orpheus の version 4 に位置づけられる自動作曲・自動作詞の次段階の原理の探究と実現、自動伴奏システム Eurydice の version 2 の実現と社会応用などを主要目標としている。

研究成果の概要

我々は、自由な日本語歌詞入力から、ユーザの好みの作曲条件設定に基づいて、音楽理論と言語学の要請を同時に満たすことで伴奏つき二重唱を自動的に作曲する技術を、音声認識アルゴリズムの発展として開拓し、web経由の自動作曲システムOrpheusを構築・一般公開して以来、関連する様々な技術の研究開発を行った。主な成果は、英語などのストレスアクセント言語に向いた自動作曲の新原理とアルゴリズムの開発や、与えられた歌詞の意味内容から適切な作曲条件を自動設定する方法の開発や、関連して歌唱音声分析などを行った。一方、並行して開発してきた確率モデルによる自動伴奏技術の応用展開として、実応用現場での実用実験も行った。

研究成果の学術的意義や社会的意義

音楽愛好者は多く作曲への関心も高いが、歌詞は思いつくが作曲は苦手というケースが多い。歌詞が入力されれば自動的に作曲する技術は生成AIの好適なゴールであるが、最近盛んな深層学習を用いた機械学習アプローチには向いておらず、研究成功例は決して多くない。本研究開発は、音楽理論と言語学に基づいて、違和感を感じない自然な音楽旋律とは何であるかを計算論的に正面から答え、その原理に基づいてwebベースの自動作曲システムOrpheusを構築し一般無料公開したものである。現時点では約77万曲が作曲され、アクセス回数は約3000万回である。TV20回以上などメディア出演や、商業的応用(Pepper)もされている。

報告書

(4件)
  • 2023 実績報告書   研究成果報告書 ( PDF )
  • 2022 実績報告書
  • 2021 実績報告書
  • 研究成果

    (40件)

すべて 2024 2023 2022 2021 その他

すべて 雑誌論文 (22件) (うち査読あり 10件) 学会発表 (9件) (うち国際学会 3件、 招待講演 7件) 備考 (9件)

  • [雑誌論文] 信号周期整数倍長窓Kalliopeの理論的性質2024

    • 著者名/発表者名
      嵯峨山 茂樹
    • 雑誌名

      電子情報通信学会論文誌

      巻: J107-D(2) ページ: 82-86

    • 関連する報告書
      2023 実績報告書
    • 査読あり
  • [雑誌論文] ジェラール・グリゼイ『機械仕掛けの時間』をめぐって - 楽曲分析による音楽の新たな時間概念の考察2024

    • 著者名/発表者名
      金子仁美
    • 雑誌名

      東京藝術大学音楽学部紀要

      巻: 49 ページ: 33-52

    • 関連する報告書
      2023 実績報告書
    • 査読あり
  • [雑誌論文] 複数のラグ窓対を用いた音声基本周波数と周期性尺度の推定2024

    • 著者名/発表者名
      越森 道貴, 嵯峨山 茂樹, 中鹿 亘
    • 雑誌名

      情報処理学会研究報告(音声言語情報処理)

      巻: 2024-SLP-151

    • 関連する報告書
      2023 実績報告書
  • [雑誌論文] 2 種のラグ窓によるスペクトル平滑化を用いたF0 推定2024

    • 著者名/発表者名
      越森 道貴, 嵯峨山 茂樹, 中鹿 亘
    • 雑誌名

      日本音響学会第151回(2024年春季)研究発表会講演論文集

      巻: -

    • 関連する報告書
      2023 実績報告書
  • [雑誌論文] 照明演出の支援を目的とした楽曲の構造と雰囲気に基づく照明色・明度・動きの推定2024

    • 著者名/発表者名
      月東 菜乃, 酒向 慎司
    • 雑誌名

      情報処理学会第86回全国大会講演論文集

      巻: 2, 5V-01 ページ: 807-808

    • 関連する報告書
      2023 実績報告書
  • [雑誌論文] 1970年代フランスにおける新しい作曲の姿勢2023

    • 著者名/発表者名
      金子仁美
    • 雑誌名

      桐朋学園大学研究紀要

      巻: 49 ページ: 41-61

    • 関連する報告書
      2023 実績報告書
    • 査読あり
  • [雑誌論文] 音楽分析・生成のための非和声音データベースの構築2023

    • 著者名/発表者名
      高橋拓椰, 金子仁美, 中鹿亘, 嵯峨山茂樹
    • 雑誌名

      電子情報通信学会技術研究報告(音声)

      巻: 123(88(SP2023)) ページ: 1-26

    • 関連する報告書
      2023 実績報告書
  • [雑誌論文] Controllable Automatic Melody Composition Model across Pitch/Stress-accent Languages2023

    • 著者名/発表者名
      Takuya Takahashi, Shigeki Sagayama, Toru Nakashika
    • 雑誌名

      Proceedings of the 16th International Symposium on Computer Music

      巻: cmmr2023_1a-1.pdf

    • 関連する報告書
      2023 実績報告書
    • 査読あり
  • [雑誌論文] SBERT-based Musical Components Estimation from Lyrics Trained with Imbalanced "Orpheus" Data2023

    • 著者名/発表者名
      Mastuti Puspitasari, Gen Hori, Shigeki Sagayama, Toru Nakashika
    • 雑誌名

      電子情報通信学会技術研究報告(音声)

      巻: 123 (88(SP2023)) ページ: 86-90

    • 関連する報告書
      2023 実績報告書
  • [雑誌論文] SBERT-based Chord Progression Estimation from Lyrics Trained with Imbalanced Data2023

    • 著者名/発表者名
      Mastuti Puspitasari, Takuya Takahashi, Gen Hori, Shigeki Sagayama, Toru Nakashika
    • 雑誌名

      Proceedings of the 16th International Symposium on Computer Music

      巻: cmmr2023_3c-P7 ページ: 403-410

    • 関連する報告書
      2023 実績報告書
    • 査読あり
  • [雑誌論文] Enumerating Left Hand Forms for Guitar Tablatures using Non-decreasing Finger Numbers and Separators2023

    • 著者名/発表者名
      Gen Hori
    • 雑誌名

      Proceedings of TENOR2023

      巻: - ページ: 62-67

    • 関連する報告書
      2023 実績報告書
    • 査読あり
  • [雑誌論文] 音楽療法のための大型ボタンの押下による楽曲進行機能の装備2023

    • 著者名/発表者名
      阿方 俊, 西山 淑子, 秋谷 万里子, 齋藤 康之
    • 雑誌名

      日本電子キーボード音楽学会 第18回全国大会, ラウンドテーブル

      巻: - ページ: 13-14

    • 関連する報告書
      2023 実績報告書
  • [雑誌論文] ピアノ連弾時におけるヒト演奏者のテンポ・リズム制御:自動伴奏システムへの組み込み2023

    • 著者名/発表者名
      平賀 佑哉,饗庭 絵里子
    • 雑誌名

      日本音響学会第150回秋季研究発表会

      巻: -

    • 関連する報告書
      2023 実績報告書
  • [雑誌論文] 聴覚障害者の音楽体験支援のためのChironomieによる音楽可視化手法の提案2023

    • 著者名/発表者名
      辰巳 花菜, 酒向 慎司
    • 雑誌名

      電子情報通信学会技術報告 福祉情報工学研究会

      巻: 123, WIT2023-21 ページ: 17-20

    • 関連する報告書
      2023 実績報告書
  • [雑誌論文] ギターアンプのノブ操作による音色の変化に対応したブラックボックスモデリング2023

    • 著者名/発表者名
      江崎 友都, 酒向 慎司
    • 雑誌名

      日本音響学会第150回秋季研究発表会

      巻: 1-R-20 ページ: 261-262

    • 関連する報告書
      2023 実績報告書
  • [雑誌論文] Music Visualization using Chironomie2023

    • 著者名/発表者名
      Kana Tatsumi, Shinji Sako, Rafael Ramirez
    • 雑誌名

      The 24th conference of the International Society for Music Information Retrieval (ISMIR)

      巻: LP-34

    • 関連する報告書
      2023 実績報告書
    • 査読あり
  • [雑誌論文] F0適応ラグ窓を用いた音声分析系の精緻化2022

    • 著者名/発表者名
      越森道貴, 嵯峨山茂樹, 岸田拓也, 中鹿 亘
    • 雑誌名

      電子情報通信学会技術報告(音学シンポジウム)

      巻: MUS-142

    • 関連する報告書
      2022 実績報告書
  • [雑誌論文] 半世紀の半生期の反省記 ――悔いだらけの研究人生――2022

    • 著者名/発表者名
      嵯峨山 茂樹
    • 雑誌名

      日本音響学会誌

      巻: 78 (7) ページ: 353-354

    • 関連する報告書
      2022 実績報告書
    • 査読あり
  • [雑誌論文] すべての人々に演奏の喜びを-I ~その問題と解決策を探る~2022

    • 著者名/発表者名
      坂井 康二, 石井 良弥, 阿方 俊, 西山 淑子, 齋藤 康之
    • 雑誌名

      日本電子キーボード音楽学会 第17回全国大会, ラウンドテーブル(オンライン開催,2022年9月11日(日)) 予稿集

      巻: - ページ: 13-14

    • 関連する報告書
      2022 実績報告書
  • [雑誌論文] 合奏時のピアニストのテンポ・リズム制御:協奏可能な自動伴奏システム開発を目指して2022

    • 著者名/発表者名
      平賀佑哉,饗庭絵里子
    • 雑誌名

      情報処理学会第85回全国大会予稿集

      巻: 5T-09 ページ: 1-6

    • 関連する報告書
      2022 実績報告書
  • [雑誌論文] Three-Level Model for Fingering Decision of String Instruments2021

    • 著者名/発表者名
      Gen Hori
    • 雑誌名

      Proc. 15th International Symposium on CMMR

      巻: online ページ: 93-98

    • 関連する報告書
      2021 実績報告書
    • 査読あり
  • [雑誌論文] Semi-Automatic Music Piece Creation Based on Impression Words Extracted from Object and Background in Color Image2021

    • 著者名/発表者名
      Yasuyuki Saito, Honoka Fujii, Shigeki Sagayama
    • 雑誌名

      Proc. IEEE 10th Global Conference on Consumer Electronics (GCCE 2021)

      巻: vol.1 ページ: 294-298

    • 関連する報告書
      2021 実績報告書
    • 査読あり
  • [学会発表] 窒素 - チェロのための2024

    • 著者名/発表者名
      金子仁美
    • 学会等名
      アンサンブルコンテンポラリーα定期演奏会(オペラシティリサイタルホール)
    • 関連する報告書
      2023 実績報告書
    • 招待講演
  • [学会発表] 恒星 - ヴァイオリンのための2023

    • 著者名/発表者名
      金子仁美
    • 学会等名
      全音楽譜出版社主催演奏会(東京文化会館小ホール)
    • 関連する報告書
      2023 実績報告書
    • 招待講演
  • [学会発表] 17 Years with Automatic Music Composition System “Orpheus” (keynote speech)2023

    • 著者名/発表者名
      Shigeki Sagayama
    • 学会等名
      The 16th International Symposium on Computer Music
    • 関連する報告書
      2023 実績報告書
    • 国際学会 / 招待講演
  • [学会発表] 自動作曲の可能性と限界2023

    • 著者名/発表者名
      嵯峨山茂樹
    • 学会等名
      学術会議公開シンポジウム「計算音響学の目指すもの」(「計算音響学」小委員会シンポジウム (2023.3.27).
    • 関連する報告書
      2022 実績報告書
    • 招待講演
  • [学会発表] ジェラール・グリゼイの作曲概念と他分野での表現法の照応2022

    • 著者名/発表者名
      金子仁美
    • 学会等名
      第25回一橋大学「芸術と社会」研究会 (2022.08.07)
    • 関連する報告書
      2022 実績報告書
    • 招待講演
  • [学会発表] アクア~3Dモデルによる音楽XIII~クラリネット独奏のための (新作初演)2022

    • 著者名/発表者名
      金子仁美
    • 学会等名
      JFC 日本作曲家協議会 日本の作曲家2022第2夜 (2022.11.13)
    • 関連する報告書
      2022 実績報告書
    • 招待講演
  • [学会発表] 炭酸~3Dモデルによる音楽XIV~オンド・マルトノとトロンボーンのための(新作初演)2022

    • 著者名/発表者名
      金子仁美
    • 学会等名
      第28回「四人組とその仲間たち」コンサート (2022.12.09)
    • 関連する報告書
      2022 実績報告書
    • 招待講演
  • [学会発表] Three-Level Model for Fingering Decision of String Instruments2021

    • 著者名/発表者名
      Gen Hori
    • 学会等名
      15th International Symposium on CMMR (Online)
    • 関連する報告書
      2021 実績報告書
    • 国際学会
  • [学会発表] Semi-Automatic Music Piece Creation Based on Impression Words Extracted from Object and Background in Color Image2021

    • 著者名/発表者名
      Yasuyuki Saito, Honoka Fujii, Shigeki Sagayama
    • 学会等名
      IEEE 10th Global Conference on Consumer Electronics (GCCE 2021)
    • 関連する報告書
      2021 実績報告書
    • 国際学会
  • [備考] 自動作曲システム Orpheus Ver. 3.23

    • URL

      https://www.orpheus-music.org/

    • 関連する報告書
      2023 実績報告書
  • [備考] 生成AIでPepperが作詞・作曲して、歌やダンスを披露するロボアプリ「即興パフォーマー」

    • URL

      https://www.softbankrobotics.com/jp/product/pepper/retail/app-performer/

    • 関連する報告書
      2023 実績報告書
  • [備考] ヒンドソング 「生活者」展 1981-2021

    • URL

      https://seikatsusoken.jp/40th/hindosong/

    • 関連する報告書
      2023 実績報告書
  • [備考] New Release! 5つの年代別ヒンドソング

    • URL

      https://seikatsusoken.jp/40th/hindosong/part2/

    • 関連する報告書
      2023 実績報告書
  • [備考] AIで「流行りの曲」は作れるのか?~AI作詞作曲プロジェクトからの気づき~

    • URL

      https://www.hakuhodo.co.jp/magazine/104496/

    • 関連する報告書
      2023 実績報告書
  • [備考] 自動作曲システム Orpheus Ver. 3.19

    • URL

      https://www.orpheus-music.org/

    • 関連する報告書
      2022 実績報告書
  • [備考] 博報堂生活総合研究所「ヒンドソング」の作曲・公開

    • URL

      https://seikatsusoken.jp/40th/hindosong/

    • 関連する報告書
      2022 実績報告書
  • [備考] 自動作曲システム Orpheus

    • URL

      https://www.orpheus-music.org/

    • 関連する報告書
      2021 実績報告書
  • [備考] 博報堂生活総合研究所「ヒンドソング」

    • URL

      https://seikatsusoken.jp/40th/hindosong/

    • 関連する報告書
      2021 実績報告書

URL: 

公開日: 2021-04-28   更新日: 2025-01-30  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi