機械学習を目的とした論理に基づいた確率モデリング言語PRISMの開発を進めた。PRISMは生成的確率モデリングをサポートするモデリング言語であるが,一般に生成的確率モデルはロジステック回帰などの判別的確率モデルに比較し,識別問題における性能が劣ると言われている.今年度はこの問題を克服するため,PRISMのダイナミックプログラミングに基づく確率計算機能を活かしつつ,判別的確率モデルを記述し学習するD-PRISMを開発実装した. D-PRISMはPRISMと同様に論理式によりモデルを記述するが,PRISMとはことなり,論理式に与える確率を実数の重みに一般化してあり,そのため正規化操作により確率分布を定義する.定義可能な判別的確率モデルは良く知られているロジステック回帰,条件付きマルコフ確率場などから最先端のマルコフ確率場文脈自由文法など広範囲に渡り,実験的に対応する生成的確率モデルに対して識別性能が向上することを確認した.PRISMとD-PRISMにより統計的機械学習の代表的モデルクラスである生成的モデルと判別的モデルを論理的に記述し,ダイナミックプログラミングを用いた確率の厳密計算により効率的にパラメータ学習することが可能になった. 他方確率モデリングでシステムの要素の相互の確率的依存関係記述するとしばしば確率の無限和を計算する必要が多々生じる。我々はPRISMで一般に線形方程式を解くことによりこのような確率の無限和が計算出来るできるようし,実際に確率文脈自由文法の接頭辞の確率計算に適用した.更にインターネットのウェブログデータに接頭辞の確率計算を応用することにより,不完全なウェブログデータからもユーザの意図の推定が可能になることを実験的に示した.
|