2012 Fiscal Year Annual Research Report
| Project/Area Number |
23300054
|
|---|
| Research Institution | Tokyo Institute of Technology |
|---|
Principal Investigator |
佐藤 泰介 東京工業大学, 情報理工学(系)研究科, 教授 (90272690)
|
|---|
| Project Period (FY) |
2011-04-01 – 2014-03-31
|
| Keywords | アブクション / PRISM / ベイズ推論 |
|---|
| Research Abstract |
論理に基づいた確率モデリング言語PRISMの開発を進めた。PRISMのパラメータ学習法はすでに最尤推定に基づくEM学習、事前分布を取り入れたMAP学習、変分ベイズに基づくVB学習が利用可能であるが、それらはすべて生成モデルの（周辺）尤度に基づくもので、必ずしも判別問題に於ける判別精度と結びつくものではなかった。そこで判別問題における判別精度の向上を目指し、PRISM用のVT学習を開発した。VTが最大化するものは尤度とは異なり隠れ変数を考慮し、判別問題に優れる識別的モデルのパラメータ学習法に類似している。その結果経験的に尤度に基づいたパラメータ学習に比べしばしば生成モデルの判別精度を向上させることが知られている。しかしながらこれまでのVT学習は個別モデルに対して開発されており、PRISMのような汎用のプログラミング言語に基づく確率モデルに適用できるVT学習は存在しなかった。我々はPRISMの確率計算の中間データ構造である説明グラフ上で動作するVT学習法をPRISMの意味論である分布意味論より数学的に導出し、幾つかの標準的モデルで良好に動作することを確認した。さらにVTのベイズ化を進め、VTとVBを融合したVTVB学習アルゴリズムの導出にも成功した。
一方確率モデリングではマルコフ連鎖に於ける状態到達確率のような確率の無限和を計算する必要性が多々生じる。 確率の無限和が計算出来ると先に述べたマルコフ連鎖を使った確率的遷移システムの検証や確率文法におけるprefixの確率計算、およびprefix確率にもとづくプランニング認識など種々の応用が可能になる。 従来確率の無限和を計算する試みは個別モデルに対して試みられて来たが、PRISMにおける説明グラフにループを許すことによりこのような確率の無限和を一般的に計算できることを証明し、簡単な確率モデルでその計算可能性を実験的に検証した。
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
本研究はデータの規則性と不確定性を論理に基づいて統一的に扱う統計的アブダクションの処理系をプログラミング言語と融合したPRISMと制約と組み合わせたCBPM（constraint-based probabilistic modeling）の２つの処理系の研究開発を行っている。前者については生成的学率モデルの判別問題の判別精度向上を狙ってPRISM向けのVT（Viterbi training）学習法を開発し、実験的に有効性を示した。またベイズ推論と組み合わせたVTVB学習法の導出にも成功している。 さらにPRISMの確率計算のための中間データ構造である説明グラフにループを許すことによりある種の確率の無限和が計算可能になることを見出し、PCFG（確率文脈自由文法）などのprefix計算に成功した。また後者についてはCBPMで定義される制約付き分布からの効率的なサンプリング法を開発している。
|
| Strategy for Future Research Activity |
PRISMについてVT学習およびそれを変分ベイズ学習と組み合わせたVBVT学習をPRISMに実装公開する。また確率文法における文の確率を一般化したprefix確率の計算ルーチンもPRISMに実装公開するとともに、確率的なプラン認識に応用する。
|
Research Products
(4 results)
