• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 課題ページに戻る

2021 年度 実績報告書

構造に基づくメロディ生成の一般化

研究課題

研究課題/領域番号 21H03572
配分区分補助金
研究機関国立研究開発法人理化学研究所

研究代表者

浜中 雅俊  国立研究開発法人理化学研究所, 革新知能統合研究センター, チームリーダー (30451686)

研究分担者 東条 敏  北陸先端科学技術大学院大学, 先端科学技術研究科, 教授 (90272989)
平田 圭二  公立はこだて未来大学, システム情報科学部, 教授 (30396121)
吉井 和佳  京都大学, 情報学研究科, 准教授 (20510001)
北原 鉄朗  日本大学, 文理学部, 教授 (00454710)
研究期間 (年度) 2021-04-01 – 2025-03-31
キーワードGTTM / タイムスパン木 / メロディモーフィング / メロディレンダリング / Melody Slot Machine / Melody Slot Machine HD / Apple AppStore
研究実績の概要

音楽構造に基づくメロディ生成の一般化を実現するため,Webベースの分析ツールを開発し,音楽理論GTTMのタイムスパン木の分析データの蓄積を行ってきた.具体的には,新たに100曲のタイムスパン木の分析を行った.また,深層学習を用いてタイムスパン分析を半自動化するツールの開発を行った.半自動化された分析ツールを用いたインタラクティブな作業を行うことで従来に比べ効率的にタイムスパン木を蓄積していくことが可能となった.タイムスパン木の正解データの蓄積を増加させることで,メロディ分析の逆過程にあたるメロディレンダリングの実現を目指す. また,蓄積されたデータを用いてツールの深層ネットワークを再度学習させることにより,半自動化ツールの分析精度を向上させる.構造に基づくメロディ生成を利用したアプリケーションとしてMelody Slot Machine on iPhoneおよびMelody Slot Machine HDを構築し,Apple AppStoreより公開した.いずれのアプリも30回起動するとユーザビリティ等に関するアンケートが案内される.アンケート情報を蓄積してアプリの改善を進める予定である.Melody Slot Machine on iPhoneとMelody Slot Machine HDは,メロディモーフィングを用いたアプリである.メロディモーフィングは,効率的にメロディのバリエーションを追加可能という特長があるが,その一方で,2つの入力メロディの大局的な構造が一致してなければモーフィングできないという制約があった.制約のないメロディ生成法として,本研究ではメロディ分析の逆過程にあたるメロディレンダリングの実現を目指す.

現在までの達成度 (区分)
現在までの達成度 (区分)

1: 当初の計画以上に進展している

理由

当初の予定通りタイムスパン木の分析データの蓄積が順調に進んでいる.それに加え,深層学習を用いて分析を半自動化するツールが新たに構築され,今後タイムスパン分析作業の効率化が期待できるようになった.タイムスパン木の正解データの蓄積を増加させることで,メロディ分析の逆過程にあたるメロディレンダリングの実現を目指す.これまで我々は,Melody Slot Machineという音楽構造を分析することの意義を示すための研究展示システムを構築し,学会や国際会議,展示会等などで紹介してきた.対面での展示が困難な状況が続いているため,Melody Slot Machineをアプリ化してMelody Slot Machine on iPhone,Melody Slot Machine HDとして公開した.いずれのアプリも30回起動するとユーザビリティ等に関するアンケートが案内される.アンケート情報を蓄積してアプリの改善を進める予定である.メロディモーフィングを用いたアプリである.メロディモーフィングは,効率的にメロディのバリエーションを追加可能という特長があるが,その一方で,2つの入力メロディの大局的な構造が一致してなければモーフィングできないという制約があった.制約のないメロディ生成法として,本研究ではメロディ分析の逆過程にあたるメロディレンダリングの実現を目指す.

今後の研究の推進方策

タイムスパン木の分析作業を半自動化するツールが構築できたので,今後ツールを用いて効率的にタイムスパン木データの蓄積を進める.蓄積されたデータを用いてツールの深層ネットワークを再度学習させることにより,半自動化ツールの分析精度を向上させる.さらに多くの分析データを蓄積させて,メロディ分析の逆過程にあたるメロディレンダリングの実現を目指す.また,蓄積されたタイムスパン木のデータを公開することで,音楽構造分析の研究が普及していくことを目指す.Melody Slot Machine on iPhoneやMelody Slot Machine HDは,事前にメロディモーフィングにより作ったメロディをレコーディングして作った素材を用いている.メロディモーフィングやメロディレンダリングをリアルタイムで実現するためにはGPGPUを搭載したマシンが必要であり,スタンドアロンのスマートフォンやタブレットでは実現が難しい.そこで,メロディのモーフィングやレンダリングを行うGPGPU搭載サーバを構築し,スマートフォンやタブレットからアクセス可能にすることで高度な処理を行うアプリの構築を目指す.

  • 研究成果

    (19件)

すべて 2022 2021 その他

すべて 雑誌論文 (10件) (うち査読あり 4件、 オープンアクセス 2件) 学会発表 (4件) 備考 (4件) 産業財産権 (1件)

  • [雑誌論文] 和声構造を表現した木の改変によるリハーモナイゼーションシステム2022

    • 著者名/発表者名
      倉﨑 大輔 , 大村 英史 , 澤田 隼 , 東条 敏 , 桂田 浩一
    • 雑誌名

      情報処理学会 音楽情報科学研究会 研究報告

      巻: 2022-MUS-133 ページ: 1-5

  • [雑誌論文] Time-span Tree Leveled by Duration of Time-span2021

    • 著者名/発表者名
      Masatoshi Hamanaka, Keiji Hirata and Satoshi Tojo
    • 雑誌名

      Proceedings of the 15th International Symposium on Computer Music Multidisciplinary Research (CMMR2022)

      巻: 1 ページ: 155-164

    • 査読あり / オープンアクセス
  • [雑誌論文] サウンドスコープフォン2021

    • 著者名/発表者名
      浜中雅俊
    • 雑誌名

      情報処理学会 音楽情報科学研究会 研究報告

      巻: 2021-MUS-131 ページ: 1-3

  • [雑誌論文] 旋律簡約の定式化に向けて2021

    • 著者名/発表者名
      平田圭二, 能登楓, 山内拓真, 竹川佳成
    • 雑誌名

      情報処理学会 音楽情報科学研究会 研究報告 2021-MUS-132

      巻: 2021-MUS-132 ページ: 1-4

  • [雑誌論文] Deep Augmented Performers: メロディモーフィングと身体機能の融合によるアンサンブル演奏システム2021

    • 著者名/発表者名
      三浦 寛也, 浜中 雅俊
    • 雑誌名

      情報処理学会 音楽情報科学研究会 研究報告

      巻: 2021-MUS-132 ページ: 1-8

  • [雑誌論文] 暗意-実現モデルに基づく旋律情報量の予備的検討2021

    • 著者名/発表者名
      山内拓真, 能登楓, 竹川佳成, 平田圭二
    • 雑誌名

      情報処理学会 音楽情報科学研究会 研究報告

      巻: 2021-MUS-132 ページ: 1-8

  • [雑誌論文] 暗意-実現モデルを用いた旋律抽象化に基づく類似度計算手法2021

    • 著者名/発表者名
      能登楓, 竹川佳成, 前澤陽, 藤島琢哉, 平田圭二
    • 雑誌名

      情報処理学会 音楽情報科学研究会 研究報告

      巻: 2021-MUS-132 ページ: 1-7

  • [雑誌論文] Simulated Emergence of Chord Function2021

    • 著者名/発表者名
      Yui Uehara, Satoshi Tojo
    • 雑誌名

      The 10th International Conference on Artificial Intelligence in Music, Sound, Art and Design

      巻: 1 ページ: 264-280

    • 査読あり
  • [雑誌論文] Deep Augmented Performers: A New Ensemble Performance System by Fusion of Melody Morphing and Body Movements2021

    • 著者名/発表者名
      Hiroya Miura, Masatoshi Hamanaka
    • 雑誌名

      the 34th Annual ACM Symposium on User Interface Software and Technology (UIST ’21)

      巻: 1 ページ: 129-130

    • 査読あり
  • [雑誌論文] Joint Estimation of Note Values and Voices for Audio-to-Score Piano Transcription2021

    • 著者名/発表者名
      Yuki Hiramatsu, Eita Nakamura, Kazuyoshi Yoshii
    • 雑誌名

      International Society for Music Information Retrieval Conference (ISMIR)

      巻: 1 ページ: 278-284

    • 査読あり / オープンアクセス
  • [学会発表] 多人数演奏楽譜から連弾譜への自動編曲2022

    • 著者名/発表者名
      島村 美羽, 阿久井 愛, 北原 鉄朗
    • 学会等名
      日本音響学会 2022年 春季研究発表会
  • [学会発表] Jpopのラテン風ピアノ編曲システムの試作2022

    • 著者名/発表者名
      阿久井 愛, 島村 美羽, 北原 鉄朗
    • 学会等名
      日本音響学会 2022年 春季研究発表会
  • [学会発表] GTTM分析のオープンソース実装2022

    • 著者名/発表者名
      山川 峻, 北原 鉄朗
    • 学会等名
      日本音響学会 2022年 春季研究発表会
  • [学会発表] Sound Scope Phone: Focus on a Specific Part Using Face and Hand Tracking2021

    • 著者名/発表者名
      Masatoshi Hamanaka
    • 学会等名
      the 22nd International Society for Music Information Retrieval Conference (ISMIR2021), Late Breaking
  • [備考] Masatoshi Hamanaka

    • URL

      http://gttm.jp/hamanaka/

  • [備考] News-2022 March

    • URL

      https://gttm.jp/hamanaka/news-2022-march/

  • [備考] MelodySlotMachine

    • URL

      https://gttm.jp/hamanaka/melodyslotmachine/

  • [備考] MelodySlotMachineHD

    • URL

      https://gttm.jp/hamanaka/melodyslotmachinehd/

  • [産業財産権] 楽曲簡約装置、楽曲簡約方法、プログラム、ならびに、情報記録媒体2021

    • 発明者名
      浜中 雅俊
    • 権利者名
      理化学研究所
    • 産業財産権種類
      特許
    • 産業財産権番号
      特願2021-175236

URL: 

公開日: 2022-12-28  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi