2005 Fiscal Year Annual Research Report
幾何学的手法によるカーネル法の汎化能力の漸近論的解析
| Project/Area Number |
15700130
|
|---|
| Research Institution | Kyoto University |
|---|
Principal Investigator |
池田 和司 京都大学, 情報学研究科, 助教授 (10262552)
|
|---|
| Keywords | 学習理論 / サポートベクトルマシン / カーネル法 / 学習曲線 / カーネル選択 / 情報幾何学 / スパイク統計 |
|---|
| Research Abstract |
カーネル法の代表的なアルゴリズムであるサポートベクトルマシン(SVM)は,カーネル法とマージン最大化を組み合わせたアルゴリズムである.SVMは高い汎化能力を持つことで知られ,多くの応用例が報告されており,その理論的裏づけはPAC学習と呼ばれる枠組みで与えられている.その枠組みではマージン最大化が汎化能力向上に大きな役割を果たすとされているが,これは一種の最悪評価による上限であるため,実際のSVMの汎化能力の高さを説明するものではない.そこで本研究では,平均汎化誤差を評価基準として用い,SVMの汎化能力を解析してきた.
本年度は,SVMにおけるカーネルおよびリフトアップの影響を理論的に評価する研究を行った.具体的には,SVMでは線形分離不可能な問題に対処するためにカーネル関数が用いられているが,どのようなカーネル関数が汎化誤差を小さくするかは明らかではなかった.そこでカーネル関数が極端な場合,すなわちほぼ0になる場合とほぼ1になる場合について,どのようなSVM解が得られるかを理論的に導出した.
また,リフトアップは非斉次分離超平面を斉次分離超平面に変換する手法であるが,これがSVM解にどのように影響を与えるかは明らかにされていなかった.そこでその影響を理論的に解析した.
さらに,当初の予定にはなかったが,神経スパイクの最適指標の導出の研究も行った.これはSVM解析にも用いられる情報幾何学を応用し,大脳皮質から得られる神経スパイク列を分別するために最適な手法を,情報幾何学的視点から導出した.
|
