2011 Fiscal Year Annual Research Report
| Project/Area Number |
23300054
|
|---|
| Research Institution | Tokyo Institute of Technology |
|---|
Principal Investigator |
佐藤 泰介 東京工業大学, 大学院・情報理工学研究科, 教授 (90272690)
|
|---|
| Co-Investigator(Kenkyū-buntansha) |
亀谷 由隆 東京工業大学, 大学院・情報理工学研究科, 助教 (60361789)
|
|---|
| Keywords | アブダクション / shared BDD / PRISM / Bayes推論 |
|---|
| Research Abstract |
統計的アブダクションをプログラミング言語と融合したPRISM処理系についてはH23年夏に人工知能国際会議で発表した一般的MCMC法をPRISM上に実装した。全面的にC言語による実装であり、Prologによる実装に対し10倍以上のサンプリング速度を実現することができた。その結果PRISMは推論法としては今までの最尤法、変分ベイズ法に加えてMCMC法によるVibterbi解の推定、および対数周辺尤度の推定が可能になり、他に例のない豊富な種類のベイズ推論をユーザに提供できるようになった。また、計算量の多いベイズ推論とは別に計算量の少ないVT(Viterbi training)に基づいたパラメータ学習法の開発を進め、統計的構文解析に適用して基本的性能を確認した。
PRISMより一般的なアブダクションを可能にするCBPMについてはサンプリングに基づいたパラメータ学習法を開発し学習実験を行った。CBPMは基本的にlog-linearモデルを扱うので、基本的に山登り法に基づいたパラメータ学習を行うが、その際期待値計算が必要とされる。しかしこの期待値計算は非常に困難であるので、MCMCを使ったサンプリングにより近似的な期待値計算を実現した。我々のサンプリングはslice samplingとSAT技術を組み合わせた独創的なものであり、Gibbsサンプリングに見られるような孤立した部分状態空間を持たない。
またCBPMの確率の厳密計算については「共有BDD」とデータ構造を導入し、複数の観測アトムから作られた複数のBDDを使って学習アルゴリズムを動かす場合の計算の無駄を排除する事により、効率的計算を可能にした。
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
本研究はデータの規則性と不確定性を論理に基づいて統一的に扱う統計的アブダクションの処理系をプログラミング言語と融合したPRISMと制約と組み合わせたCBPM(constraint-based probabilistic modeling)の2つの処理系の研究開発を行っている。前者については主要な統計的推論であるベイズ推論のMCMCと決定性の近似方法である変分ベイズの2種類の実行を世界で初めて一つのモデリング言語上に実装した。また後者については命題論理式の圧縮表現であるBDDをパラメータ学習、およびベイズ推論に適用し、BDDの新しい可能性を示している。
|
| Strategy for Future Research Activity |
PRISMについて最初予定していたmode-directed tablingによる効率的探索より、VT系の効率的学習の研究を優先させる。またCBPMについてはMCMCによる確率推論の効率化を図る。
|
-
-
-
-
-
-
-
[Journal Article] Kinetic models and qualitative abstraction for relational learning in systems biology2011
Author(s)
Synnaeve, G., Inoue, K., Doncescu, A., Nabeshima, H., Kameya, Y, Ishihata, M., Sato, T.
-
Journal Title
Proceedings of the International Conference on Bioinformatics Models, Methods and Algorithms (BIOINFORMATICS-2011)
Peer Reviewed
-
-
-
-
-
