| 研究概要 |
サポートベクトルマシン(SVM)では入力空間を特徴空間に写像して,特徴空間で線形分離超平面を構成するが,カーネルを用いると特徴空間を直接扱う必要がない.このために特徴空間の構造を知らなくても,識別器を構成できる反面,どのようなカーネルを選ぶかは,試行錯誤に頼らざるを得ない.
このため特徴空間の構造の解明を行うべくまずこれまで解明されていることの調査を行った。その結果,標本特徴空間の概念があることが判明した.標本特徴空間は,写像された教師データにより張られる空間で,特徴空間と同じ構造を持つことが証明されている。これは,学習の主問題を双対問題に変換していたのを,主問題のままで解くことができることを示している.このために,双対問題の代わりに主問題を解く利点について検討を進めている。
さらに,パターン認識問題に適したカーネルとしてマハラノビスカーネルを提案した.このカーネルは,従来のRBF(Radial Basis Function)カーネルを拡張したもので,教師データにより共分散行列を求めることによりカーネルパラメータを決定する.共分散行列をそのまま使うと計算量が増えるために,共分散行列を対角化したカーネルも提案した.さらにSVMの学習においては,マージンパラメータとカーネルのスケールパラメータを決める必要があるが,従来の格子点探索でなく線探索法を提案した.コンピュータ実験において,対角化マハラノビスカーネルの方が非対角マハラノビスカーネルよりも汎化能力が高いこと,線探索で格子点探索と同等の汎化能力を有すること,またRBFカーネルと同等の汎化能力を持つことを検証した.
|
