研究概要 |
統計的パターン認識という柔軟な知的情報処理のもとで、パターン認識と多変量データ解析との融合が脚光を浴びている。本論文では、分類問題の視座から、パターン認識と密接な関係にある非線形判別分析について考究した。ベイズ理論の観点からネットワーク尤度を構成し、誤差評価関数である予測平方和規準とKullback-Leibler情報量規準との関係を明確にする定理を導出した。そして、ニューロン間のリンク荷重を未知パラメータとみなし、尤度原理による統計的推測を行った。 従来、隠れユニット数の決定などのモデル選択の規準には、残差の正規性を前提にした予測平方和に基づくAIC(Akaike Information Criterion)を採用されてきた。しかし、判別分析などの分類問題の場合、残差の正規性を仮定することの矛盾点を明確にし、情報量基準のバイアス補正の観点からブートストラップ法による隠れユニット数の決定アルゴリズムを開発した。誤判別率に注視して、Fisherの線形判別,二次判別およびCART(Classification And Regression Trees)との性能比較を行い、提案法の有効性を示した。 階層型ニューラルネットにおける未解決な問題の一つとして、過大なネットワークを用いることによる汎化能力の低下がある。そのため、リンク荷重の枝切り(pruning)によるコンパクト構造化が試みられてきた。この枝切りに関し、ペナルティ関数の導入や評価関数の二次導関数(ヘシアン行列)に基づく方法が提案されている。しかし、ネットワークを学習する際、ペナルティ項の追加やサイズの大きなヘシアン行列(およびその逆行列)の計算により学習時間が膨大になるなどの難点がある。本論文では、リンク荷重の有意性に着目した尤度比検定による冗長なリンク荷重の枝切りアルゴリズムを開発した。また、尤度比検定による説明変数の選択法も提唱した。このコンパクト構造化により、ネットワーク構造の解釈が容易になる。更に、多次元データの視覚化の観点から、階層型ニューラルネットワークの情報圧縮法を提案した。具体的には、圧縮スコアによる多変量データの次元縮約を行い、非線形判別の様態のグラフィカル表現を可能にした。
|