2012 Fiscal Year Annual Research Report
階層的な確率モデルにおけるベイズ学習の汎用的利用法の確立
| Project/Area Number |
22700230
|
|---|
| Research Institution | The University of Tokyo |
|---|
Principal Investigator |
永田 賢二 東京大学, 新領域創成科学研究科, 助教 (10556062)
|
|---|
| Project Period (FY) |
2010-04-01 – 2014-03-31
|
| Keywords | 機械学習 / ベイズ学習 / 交換モンテカルロ法 / メトロポリス法 / スペクトル分解 |
|---|
| Research Abstract |
本研究では，階層的な確率モデルに対して，学習精度の優れたアルゴリズムとしてベイズ学習を考え，ベイズ学習の汎用的な利用を目的とする．具体的に，交換モンテカルロ法によるベイズ学習の近似手法を取り扱い，交換モンテカルロ法の最適設計の構築や，動径基底関数(RBF)ネットワークによるスペクトル分解問題に適用する．
RBFネットワークは，階層的な構造を持つ確率モデルであるため，従来のモデル選択規準であるAICやBICを利用することができないといった問題点が知られている．こうした学習モデルでは，自由エネルギーや汎化誤差の主要項の係数である学習係数を知ることがモデルや学習の性質を知る上で重要となる．学習係数を導出する手法としては，代数幾何学を用いた手法が確立されているが，その計算はモデル毎に行う必要があり，新たな導出法を確立することが重要な課題であった．
本年度の研究では，学習係数と交換モンテカルロ法における平均交換率の解析的な関係に着目し，学習係数を求めるアルゴリズムとして，交換モンテカルロ法のシミュレーションにより導出される平均交換率から学習係数を導出するアルゴリズムを開発した．また，RBFネットワークのベイズ推定の問題に適用することで，その有効性を明らかにした．
交換モンテカルロ法を代表とするマルコフ連鎖モンテカルロ(MCMC)法を利用した応用として，地球科学分野におけるイメージングデータ解析や，拡散係数といった対象の物理過程を抽出する目的で，ハイパーパラメータの推定精度の解明を行った．
さらに，高次元データにおける変数選択問題において，系統的な解の全数探索手法に交換モンテカルロ法を利用し，データを再構成できる最適解の枚挙を行うと同時に，そうした最適解の個数を推定する手法を開発した．
|
| Current Status of Research Progress |
Reason
24年度が最終年度であるため、記入しない。
|
| Strategy for Future Research Activity |
24年度が最終年度であるため、記入しない。
|
