2021 Fiscal Year Annual Research Report
Development of high generalization classifiers by controlling margin distributions
| Project/Area Number |
19K04441
|
|---|
| Research Institution | Kobe University |
|---|
Principal Investigator |
阿部 重夫 神戸大学, 工学研究科, 名誉教授 (50294195)
|
|---|
| Project Period (FY) |
2019-04-01 – 2022-03-31
|
| Keywords | パターン認識 |
|---|
| Outline of Annual Research Achievements |
SVM(サポートベクトルマシン)は種々の応用分野に対して高い汎化能力を実現するが、「多くの分野でSVMより格段に汎化能力の高い識別器が存在しうるか」という根本的な問題提起に対して、肯定的な解を求めるべく研究を進めた。その一つの方法として、VC (Vapnik-Chervonenkis)次元の最小化を図ったMCM（最小複雑度マシン）とSVM(サポートベクトルマシン)とを融合する方式を考案した。この方式は、SVMの最小マージンを最大化するとともに、最大マージンを最小化すると解釈でき、MSVM(最小複雑度SVM)と名付けた。最終年度では、以下の結果を得た。
１．最小複雑度L1 SVM(ML1 SVM)に対して外れ値を自動的に除いて最大マージンを最小化するSL1 SVMを開発した。ベンチマークデータでの評価結果では、ML1 SVMと汎化能力の差はあまりないが、学習時間がML1 SVMよりも長くかかることが分かった。この評価結果により、現状では標準のSVMであるL1 SVMに最大マージンの最小化を加えたML1 SVMがL1 SVMを上回る汎化能力をもつ識別器として有力であるとの結論を得た。
２．LS (最小自乗) SVMは、分離識別面の付近にデータが集まるように学習するために、VC次元を最小化する作用が働いていると考えられるが、L1 SVMと比較すると、特定のベンチマークデータで汎化能力が低下することが知られている。このため、LS SVMに対して最大マージンを最小化するMLS SVMの方式を開発した。
今後、MLS SVMの方式評価をおこないML1 SVMより良好な汎化能力を示すかを評価するとともに、多重カーネルSVMに対しても最大マージンを最小化する方式を導入することにより、ML1 SVMを凌ぐ識別器が構成できるかの検討を進める。
|
