研究課題/領域番号 |
25330283
|
研究機関 | 東京大学 |
研究代表者 |
永田 賢二 東京大学, 新領域創成科学研究科, 助教 (10556062)
|
研究期間 (年度) |
2013-04-01 – 2017-03-31
|
キーワード | 機械学習 / マルコフ連鎖モンテカルロ法 / ベイズ推定 / モデル選択 / スペクトル分解 |
研究実績の概要 |
本研究では,マルコフ連鎖モンテカルロ(MCMC)法の挙動や緩和過程に基づいたベイズ推定の新たなモデル選択法の開発を行う. 平成26年度では,新たなモデル選択手法として,WBICの有効性の検証を行った.スペクトル分解に利用される動径基底関数(RBF)ネットワークなどの階層構造をもつ確率モデルでは,モデルとパラメータが一対一に対応しないため,従来のAICやBICなどの情報量規準が利用できない問題があった.今回着目するWBICでは,階層的なモデルであっても成り立ち,さらに,単一のサンプリング過程により計算可能であり,ベイズ推定における自由エネルギーの計算と比べると高速演算可能である利点を有している.本研究では,実際にRBFネットワークでその挙動を数値シミュレーションにより検証することでその有効性を明らかにした. また,推定の相転移構造を抽出するために,ベイズ比熱に着目した.これまでの学習理論の成果により,モデル内の代数多様体構造に対応する実対数閾値が学習のデータ数無限における漸近的な挙動を示すことが知られている.昨年度の成果により,実対数閾値をモンテカルロシミュレーションを通じて求めるアルゴリズムを提案した.そこで,今年度では,さまざまなデータ数に応じて,得られる実対数閾値の変化に着目した.その結果,推定が大きく変化するデータ数で,得られる実対数閾値が発散する結果が得られた.これは,与えられたモデルにおいて,必要となるデータ数を判定できることを示している.
|
現在までの達成度 (区分) |
現在までの達成度 (区分)
1: 当初の計画以上に進展している
理由
実対数閾値を数値的に求めることから,所望の推定に必要となるデータ数が見積もれることは,今までの研究ではなく,あらゆる実データ解析に多大な恩恵を与えることが期待される.そうしたことから,当初計画以上に進展しているといえる.
|
今後の研究の推進方策 |
サンプリングによりベイズ推定の性質を確認できることを活かし,ベイズ推定の近似手法である変分ベイズ推定法の近似精度や推定精度を明らかにする.
|
次年度使用額が生じた理由 |
平成26年度で行ったシミュレーションが,現有の計算機資源で十分であったため,購入予定であった計算機の納入を次年度に見送ったため.
|
次年度使用額の使用計画 |
時系列スペクトルデータの解析では,多数のスペクトルデータを一括して処理するため,その計算に見合うワークステーションの購入に計上する.また,成果報告のための国内・国外旅費に計上する.
|