2015 Fiscal Year Annual Research Report
多クラス識別に対する幾何的マージン最大化ソフトマージンサポートベクトルマシン
| Project/Area Number |
24500275
|
|---|
| Research Institution | Osaka University |
|---|
Principal Investigator |
巽 啓司 大阪大学, 工学(系)研究科(研究院), 准教授 (30304017)
|
|---|
| Project Period (FY) |
2012-04-01 – 2016-03-31
|
| Keywords | 多クラス識別 / サポートベクトルマシン / マージン最大化 / 一対多手法 / 汎化性能 / 多目的最適化 |
|---|
| Outline of Annual Research Achievements |
これまでの研究で検討したモデルの中で平均して汎化性の高い、一対多手法(OAA)にもとづくMMSVM(MMSVM-OA)のソフトおよびハードマージンモデルの更なる改良を検討した。
1)ソフトマージンモデルにおける定式化の修正：パレート最適解を求める際の定式化を見直し、従来用いた「正規化された侵入量」を、「正規化を行わない侵入量」に変更し，侵入量とマージンのトレードオフを自然な形で表せるモデルを導出した。また、さらにε制約法のパラメータ設定において、従来一通りしか選択していなかった設定方法を拡張し、各クラスペアごとに複数の自然な組み合わせを選択する方法に拡張し、計算実験で検証した。
2) 前処理として行う学習法と計算量削減のための解の領域限定法の改良：
2a: 解の領域限定法の改良：従来のMMSVM-OAでの、「OAAの学習により得られた法線ベクトルのスカラー倍の和として識別超平面を限定」していた方法を、OAAの法線ベクトル全体により張られる空間上のベクトルで置き換える方法を提案し、計算実験を行った。固有値分解する行列のサイズや使用する決定変数が若干増加することによる計算量増加が若干みられるものの、多くの問題で汎化性能を向上できることを確認した。
2b：前処理学習の改良：従来のMMSVM-OAで、「全クラスデータを用いたOAAの習により法線ベクトルを得、それを用いて識別超平面の法線ベクトルを限定」していた部分を、各クラスごとのクラスタリングにより得られるベクトルにより張られる空間に限定して学習する方法を提案し、計算実験を行ったところ計算量を大幅に削減し、多くの問題で汎化性能をほぼ維持できることを確認した。
|
