ノンパラメトリック・モデルに於けるオンライン知識情報処理の最適化

2003 Fiscal Year Annual Research Report

• Project/Area Number: 15700191
• Research Institution: Okayama University
• Principal Investigator: 相田 敏明 岡山大学, 工学部, 講師 (60290722)
• Keywords: 統計的推測 / ベイズ推定 / 統計力学 / 場の理論 / 繰り込み群 / ノンパラメトリック / 予測 / 非摂動効果

Research Abstract

今年度は,次の2項目を意図した研究を行った.
1.「繰り込み群」という統計力学の基本原理の一つを応用した,学習,回帰・予測問題等,ベイズ推定の枠組みで議論可能な統計的情報処理問題を統一的に扱う,誤差減少率最大化の為の一般論の構築
2.「繰り込み群」の非摂動性に立脚した,従来より知られている研究成果の改善
これら目標達成の為の,以下の2つの研究計画に対し,次の成果を得た.
1.統計的情報処理問題の,オンライン処理効率最大化の為の一般論の構築:
(1)当初,統計的情報処理問題への「繰り込み群」の適用は,オンライン処理にのみ有効と考えられたが,バッチ処理に対しても有効であり,高い一般性を有する理論であることが解明された.
(2)ベイズ的な統計的推測理論の有効性の起源である,システムの自由度数調節メカニズムを,ノンパラメトリック・モデルを例に「場の理論」の観点から解明した.
(3)ベイズ的な予測分布関数には,繰り込み群(正確にはExact Renormalization Group)方程式としての構造があることを解明し,その構造を尊重した,より一般化的な統計的推測理論を提案した.
(4)(3)の一般化された統計的推測理論で導入された関数が,予測誤差減少率最大化の為に満たすべき差分方程式を,Exact Renormalization Group理論をもとに導出した.
(5)(4)で導かれた差分方程式を(漸近領域で)容易に解くことを可能にする為の,一般式を導出した.
(6)(5)の一般式を,確率分布関数の推定問題へ適用し,理論の有効性を解析的,数値的に確認した.
2.Exact Renormalization Group理論による,1.の問題の非摂動的解析の為の一般論の確立:
1.(4)に記した様に,Exact RG理論を応用して,非摂動効果を取り入れた一般公式を導出した.