情報量に基づく確率推論の研究

1995 Fiscal Year Annual Research Report

• Project/Area Number: 06680292
• Research Institution: Science University of Tokyo
• Principal Investigator: 仁木 直人 東京理科大学, 工学部, 教授 (10000209)
• Co-Investigator(Kenkyū-buntansha): 橋口 博樹 東京理科大学, 工学部, 助手 (50266920)
• Keywords: 不確実性 / Kullback-Leibler情報量 / 主観確率 / エントロピー最大化原理 / 学習過程

Research Abstract

本研究の主目的は、Bayes流の「主観確率」を基盤に、Kullback-Leibler情報量を適合性あるいは整合性の基準として導入することにより、理論的基盤を持った「不確実な事実に基づく推論」の方式を確立することにある。
本研究では、観測値・経験則・先験知識の複合体を離散同時分布としてとらえ、それに関係する命題の真偽に対する確信度に関した推論をエントロピー最大化原理に従って実行する方法を提案した。その統計的・数学的基礎付けを行うとともに、計算機上に小規模な評価システムを作成して、すでに実用的エキスパートシステム構築に向けての一歩を踏み出している。
本年度は前年度の成果を踏まえ、計算機による数値実験を主体に行った。その際必要となる推定方法についても検討し、非線型最適化法による推定に加え、より実用的と思われる線形逐次近似法の開発をも行っている。実験の結果は、この推論規則が常識に反さない出力を生み出すことを示している。
途中から計画に加わった「情報量を基準とした量的学習過程」研究では、既存知識を表わす離散分布から直接の観測と経験より得た経験分布への移行過程を人間の学習に対する数理モデルと捉えている。十分に観測が行われた状態に対応する漸近的性質の妥当性は研究代表者らの研究グループですでに明らかにされていたが、本研究により、漸近理論から一歩踏み出した、より現実的な学習モデルとして発展しつつある。特に、Bayes構造を基にした学習モデルの提案、および、学習過程指標のBootstrap推定の提案は、今後の量的学習についての指針となるものと考えている。

Research Products

• [Publications] Niki., Nakagawa S. and Hashiguchi, H.: "Computer algebra application to the distribution theory of multivariate statistics." Proc. 1st Asian Tech. Conf. Math.,. 689-696 (1995)