2014 Fiscal Year Research-status Report
マルコフ連鎖モンテカルロ法の挙動に基づくベイズ推定におけるモデル選択手法の開発
| Project/Area Number |
25330283
|
|---|
| Research Institution | The University of Tokyo |
|---|
Principal Investigator |
永田 賢二 東京大学, 新領域創成科学研究科, 助教 (10556062)
|
|---|
| Project Period (FY) |
2013-04-01 – 2017-03-31
|
| Keywords | 機械学習 / マルコフ連鎖モンテカルロ法 / ベイズ推定 / モデル選択 / スペクトル分解 |
|---|
| Outline of Annual Research Achievements |
本研究では，マルコフ連鎖モンテカルロ(MCMC)法の挙動や緩和過程に基づいたベイズ推定の新たなモデル選択法の開発を行う．
平成26年度では，新たなモデル選択手法として，WBICの有効性の検証を行った．スペクトル分解に利用される動径基底関数(RBF)ネットワークなどの階層構造をもつ確率モデルでは，モデルとパラメータが一対一に対応しないため，従来のAICやBICなどの情報量規準が利用できない問題があった．今回着目するWBICでは，階層的なモデルであっても成り立ち，さらに，単一のサンプリング過程により計算可能であり，ベイズ推定における自由エネルギーの計算と比べると高速演算可能である利点を有している．本研究では，実際にRBFネットワークでその挙動を数値シミュレーションにより検証することでその有効性を明らかにした．
また，推定の相転移構造を抽出するために，ベイズ比熱に着目した．これまでの学習理論の成果により，モデル内の代数多様体構造に対応する実対数閾値が学習のデータ数無限における漸近的な挙動を示すことが知られている．昨年度の成果により，実対数閾値をモンテカルロシミュレーションを通じて求めるアルゴリズムを提案した．そこで，今年度では，さまざまなデータ数に応じて，得られる実対数閾値の変化に着目した．その結果，推定が大きく変化するデータ数で，得られる実対数閾値が発散する結果が得られた．これは，与えられたモデルにおいて，必要となるデータ数を判定できることを示している．
|
| Current Status of Research Progress |
Current Status of Research Progress
1: Research has progressed more than it was originally planned.
Reason
実対数閾値を数値的に求めることから，所望の推定に必要となるデータ数が見積もれることは，今までの研究ではなく，あらゆる実データ解析に多大な恩恵を与えることが期待される．そうしたことから，当初計画以上に進展しているといえる．
|
| Strategy for Future Research Activity |
サンプリングによりベイズ推定の性質を確認できることを活かし，ベイズ推定の近似手法である変分ベイズ推定法の近似精度や推定精度を明らかにする．
|
| Causes of Carryover |
平成26年度で行ったシミュレーションが，現有の計算機資源で十分であったため，購入予定であった計算機の納入を次年度に見送ったため．
|
| Expenditure Plan for Carryover Budget |
時系列スペクトルデータの解析では，多数のスペクトルデータを一括して処理するため，その計算に見合うワークステーションの購入に計上する．また，成果報告のための国内・国外旅費に計上する．
|
