2003 Fiscal Year Annual Research Report
Project/Area Number |
03J03544
|
Research Institution | Tokyo Institute of Technology |
Principal Investigator |
山崎 啓介 東京工業大学, 大学院・総合理工学研究科, 特別研究員(DC1)
|
Keywords | 確率的複雑さ / 特異モデル / 代数幾何 / モデル選択 / ベイジアンネットワーク / 隠れマルコフモデル |
Research Abstract |
近年開発された代数幾何学的手法を用いることで、これまで理論解析が行えなかった特異モデルについて、確率的複雑さを解明する定理を得た。確率的複雑さはベイズ推測において非常に重要な量であり、学習機械の最適設計に欠かすことのできないものである。本研究で扱った特異構造をもつ学習機械はベイジアンネットワークと隠れマルコフモデルである。ベイジアンネットワークは因果関係を用いた推論モデルであり、システム故障診断や医療診断補助、ユーザー補助プログラム等の応用を持つ。また、隠れマルコフモデルは時系列を扱うことのできる推論モデルであり、音声認識、遺伝子構造解析等に用いられている。いずれの学習機械も情報工学で非常に広い応用分野を持つ統計モデルである。しかしながら、これらのモデルは特異構造をもつ為、その応用事例の多さにもかかわらず、理論解析が進んでいなかった。本研究では代数幾何学的手法を用いることで、確率的複雑さの理論値を与えることに成功した。これにより、確率的複雑さは従来考えられていた値よりも小さいことが明らかになった。これはモデルの有用性を保証するものであり、学習機械のサイズを選択する際の重要な知見である。また、従来から存在した確率的複雑さの近似計算手法、例えばラプラス近似や変分ベイズ法、マルコフチェーンモンテカルロ法等の評価が可能となった。さらに、モデルをベイジアンネットワークと見なすことにより、代数幾何学的手法を適用する際の統一的なアルゴリズムを構築することができた。これはモデルをグラフ表現した際の構造と学習機械の性能との数理的な関係を解明するための基盤として、有用な結果と考えられる。
|
Research Products
(6 results)
-
[Publications] Keisuke Yamazaki, Sumio Watanabe: "Singularities in mixture models and upper bounds of stochastic complexity"International Journal of Neural Networks. 16. 1029-1038 (2003)
-
[Publications] Keisuke Yamazaki, Sumio Watanabe: "Stochastic complexity of Bayesian networks"Proc. of Uncertainty in Artificial Intelligence. 592-599 (2003)
-
[Publications] Keisuke Yamazaki, Sumio Watanabe: "Stochastic complexities of hidden Markov models"Proc. of Neural Networks for Signal Processing. 179-188 (2003)
-
[Publications] Sumio Watanabe, Keisuke Yamazaki: "Algebraic Geometry, Zeta Functions, and Marginal Likelihood of Bayesian Statistics"Proc. of Anniversary of the Information Criterion. (2003)
-
[Publications] 山崎 啓介, 渡辺 澄夫: "ベイジアンネットワークの汎化誤差"日本神経回路学会 第13回全国大会 講演論文集. 32-33 (2003)
-
[Publications] 山崎 啓介, 渡辺 澄夫: "ベイジアンネットワークの確率的複雑さと代数幾何"電子情報通信学会 信学技報. 28. 37-42 (2003)