研究課題
統計的アブダクションをプログラミング言語と融合したPRISM処理系についてはH23年夏に人工知能国際会議で発表した一般的MCMC法をPRISM上に実装した。全面的にC言語による実装であり、Prologによる実装に対し10倍以上のサンプリング速度を実現することができた。その結果PRISMは推論法としては今までの最尤法、変分ベイズ法に加えてMCMC法によるVibterbi解の推定、および対数周辺尤度の推定が可能になり、他に例のない豊富な種類のベイズ推論をユーザに提供できるようになった。また、計算量の多いベイズ推論とは別に計算量の少ないVT(Viterbi training)に基づいたパラメータ学習法の開発を進め、統計的構文解析に適用して基本的性能を確認した。PRISMより一般的なアブダクションを可能にするCBPMについてはサンプリングに基づいたパラメータ学習法を開発し学習実験を行った。CBPMは基本的にlog-linearモデルを扱うので、基本的に山登り法に基づいたパラメータ学習を行うが、その際期待値計算が必要とされる。しかしこの期待値計算は非常に困難であるので、MCMCを使ったサンプリングにより近似的な期待値計算を実現した。我々のサンプリングはslice samplingとSAT技術を組み合わせた独創的なものであり、Gibbsサンプリングに見られるような孤立した部分状態空間を持たない。またCBPMの確率の厳密計算については「共有BDD」とデータ構造を導入し、複数の観測アトムから作られた複数のBDDを使って学習アルゴリズムを動かす場合の計算の無駄を排除する事により、効率的計算を可能にした。
2: おおむね順調に進展している
本研究はデータの規則性と不確定性を論理に基づいて統一的に扱う統計的アブダクションの処理系をプログラミング言語と融合したPRISMと制約と組み合わせたCBPM(constraint-based probabilistic modeling)の2つの処理系の研究開発を行っている。前者については主要な統計的推論であるベイズ推論のMCMCと決定性の近似方法である変分ベイズの2種類の実行を世界で初めて一つのモデリング言語上に実装した。また後者については命題論理式の圧縮表現であるBDDをパラメータ学習、およびベイズ推論に適用し、BDDの新しい可能性を示している。
PRISMについて最初予定していたmode-directed tablingによる効率的探索より、VT系の効率的学習の研究を優先させる。またCBPMについてはMCMCによる確率推論の効率化を図る。
すべて 2012 2011
すべて 雑誌論文 (7件) (うち査読あり 7件) 学会発表 (5件)
Proceedings of the 24th Australasian Joint Conference on Artificial Intelligence (AI-2011), LNAI 7106, Springer
ページ: 203-212
Proceedings of the 3rd Asian Conference on Machine Learning (ACML-2011)
ページ: 81-96
Proceedings of the 23rd IEEE International Conference on Tools with Artificial Intelligence (ICTAI-2011)
ページ: 732-739
The 21st International Conference on Inductive Logic Programming (ILP-2011)
Machine Learning, Vol. 83, No. 2
ページ: 241-264
Proceedings of the 22nd International Joint Conference on Artificial Intelligence (IJCAI-2011)
ページ: 1472-1477
Proceedings of the International Conference on Bioinformatics Models, Methods and Algorithms (BIOINFORMATICS-2011)
