• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 課題ページに戻る

2014 年度 実施状況報告書

マルコフ連鎖モンテカルロ法の挙動に基づくベイズ推定におけるモデル選択手法の開発

研究課題

研究課題/領域番号 25330283
研究機関東京大学

研究代表者

永田 賢二  東京大学, 新領域創成科学研究科, 助教 (10556062)

研究期間 (年度) 2013-04-01 – 2017-03-31
キーワード機械学習 / マルコフ連鎖モンテカルロ法 / ベイズ推定 / モデル選択 / スペクトル分解
研究実績の概要

本研究では,マルコフ連鎖モンテカルロ(MCMC)法の挙動や緩和過程に基づいたベイズ推定の新たなモデル選択法の開発を行う.
平成26年度では,新たなモデル選択手法として,WBICの有効性の検証を行った.スペクトル分解に利用される動径基底関数(RBF)ネットワークなどの階層構造をもつ確率モデルでは,モデルとパラメータが一対一に対応しないため,従来のAICやBICなどの情報量規準が利用できない問題があった.今回着目するWBICでは,階層的なモデルであっても成り立ち,さらに,単一のサンプリング過程により計算可能であり,ベイズ推定における自由エネルギーの計算と比べると高速演算可能である利点を有している.本研究では,実際にRBFネットワークでその挙動を数値シミュレーションにより検証することでその有効性を明らかにした.
また,推定の相転移構造を抽出するために,ベイズ比熱に着目した.これまでの学習理論の成果により,モデル内の代数多様体構造に対応する実対数閾値が学習のデータ数無限における漸近的な挙動を示すことが知られている.昨年度の成果により,実対数閾値をモンテカルロシミュレーションを通じて求めるアルゴリズムを提案した.そこで,今年度では,さまざまなデータ数に応じて,得られる実対数閾値の変化に着目した.その結果,推定が大きく変化するデータ数で,得られる実対数閾値が発散する結果が得られた.これは,与えられたモデルにおいて,必要となるデータ数を判定できることを示している.

現在までの達成度 (区分)
現在までの達成度 (区分)

1: 当初の計画以上に進展している

理由

実対数閾値を数値的に求めることから,所望の推定に必要となるデータ数が見積もれることは,今までの研究ではなく,あらゆる実データ解析に多大な恩恵を与えることが期待される.そうしたことから,当初計画以上に進展しているといえる.

今後の研究の推進方策

サンプリングによりベイズ推定の性質を確認できることを活かし,ベイズ推定の近似手法である変分ベイズ推定法の近似精度や推定精度を明らかにする.

次年度使用額が生じた理由

平成26年度で行ったシミュレーションが,現有の計算機資源で十分であったため,購入予定であった計算機の納入を次年度に見送ったため.

次年度使用額の使用計画

時系列スペクトルデータの解析では,多数のスペクトルデータを一括して処理するため,その計算に見合うワークステーションの購入に計上する.また,成果報告のための国内・国外旅費に計上する.

  • 研究成果

    (6件)

すべて 2015 2014

すべて 雑誌論文 (2件) (うち査読あり 2件、 謝辞記載あり 2件) 学会発表 (4件) (うち招待講演 2件)

  • [雑誌論文] Verification of effectiveness of a probabilistic algorithm for latent structure extraction using an associative memory model2014

    • 著者名/発表者名
      Kensuke Wakasugi, Tatsu Kuwatani, Kenji Nagata, Hideki Asoh and Masato Okada
    • 雑誌名

      Journal of the Physical Society of Japan

      巻: 83 ページ: 104801-1--8

    • DOI

      http://dx.doi.org/10.7566/JPSJ.83.104801

    • 査読あり / 謝辞記載あり
  • [雑誌論文] Model selection of NiGa2S4 triangular lattice by Bayesian inference2014

    • 著者名/発表者名
      Hikaru Takenaka, Kenji Nagata, Takashi Mizokawa, Masato Okada
    • 雑誌名

      Journal of the Physical Society of Japan

      巻: 83 ページ: 124706-1--5

    • DOI

      http://dx.doi.org/10.7566/JPSJ.83.124706

    • 査読あり / 謝辞記載あり
  • [学会発表] 動径基底関数ネットワークのベイズ事後分布が持つ相転移2015

    • 著者名/発表者名
      徳田悟,永田賢二,岡田真人
    • 学会等名
      日本物理学会第70回年次大会
    • 発表場所
      早稲田大学,東京都,日本
    • 年月日
      2015-03-24 – 2015-03-24
  • [学会発表] 時系列スペクトルデータからの潜在的動力学推定2015

    • 著者名/発表者名
      村田伸,永田賢二,植村誠,岡田真人
    • 学会等名
      電子情報通信学会ニューロコンピューティング研究会
    • 発表場所
      玉川大学,東京都,日本
    • 年月日
      2015-03-17 – 2015-03-17
  • [学会発表] 交換モンテカルロ法によるベイズ推定とデータ駆動科学2014

    • 著者名/発表者名
      永田賢二
    • 学会等名
      電子情報通信学会信号処理研究会
    • 発表場所
      立命館大学,大阪府,日本
    • 年月日
      2014-08-28 – 2014-08-28
    • 招待講演
  • [学会発表] 交換モンテカルロ法を用いたベイズ推定とデータ駆動科学2014

    • 著者名/発表者名
      永田賢二
    • 学会等名
      第58回システム制御情報学会研究発表講演会
    • 発表場所
      京都テルサ,京都府,日本
    • 年月日
      2014-05-23 – 2014-05-23
    • 招待講演

URL: 

公開日: 2016-05-27  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi