研究課題/領域番号 |
25420438
|
研究機関 | 神戸大学 |
研究代表者 |
阿部 重夫 神戸大学, 工学(系)研究科(研究院), 名誉教授 (50294195)
|
研究期間 (年度) |
2013-04-01 – 2016-03-31
|
キーワード | パターン認識 / 特徴選択 / ブロック追加 / ブロック削除 / サポートベクトルマシン |
研究実績の概要 |
パターン認識器の入力変数,すなわち特徴量の数が膨大で,サンプルデータ数がわずかな大次元小サンプルパターン認識問題で,特徴量数を汎化能力が低下しない範囲で最小化する特徴選択方式の開発を進めている。これまでに開発したブロック追加・削除(BABD)方式では,従来の逐次選択方式に対して,交差検定による認識率が低下しない範囲で高速に特徴選択ができるが,昨年度はこの方式をさらに高速化するために,BABDを繰り返して適用する繰り返しBABD法を開発した。本年度は以下の研究成果を得た。 (1) 特徴量の集合をブロックに分割して,ブロックごとにBABDを適用して高速化を図る追加BABD法を開発し,最大で4倍程度の高速化が得られることを確かめた。また関数近似に対しても,追加BABD法を開発した。 (2) サポートベクトルマシン(SVM)の学習方法としてSMO(Sequential Minimum Optimization)法とニュートン法を組み合わせたSMO-NM法を開発した。この方式では学習が難しくなったときに,自動的に同時処理の変数を増やすことにより学習を高速化できる。計算機実験では,最大でSMOに対して100倍の高速化が得られた。この方式を関数近似に拡張した。 (3) データを複数のクラスに分類するマルチラベル問題に対して,ファジィマルチラベルSVMを開発し,実際のデータで汎化能力が向上することを確認した。 (4) SVMが最小のマージンを最大化するのに対して,マージンの平均を最大化し,マージンの分散を最小化するLDM(Large Margin Distribution)方式が注目されており,この方式の検討を開始した。
|
現在までの達成度 (区分) |
現在までの達成度 (区分)
1: 当初の計画以上に進展している
理由
当初予定になかったファジィマルチラベルSVMを開発できた。これによりBABDの適用範囲をさらに拡大することが可能になった。また,事前情報によるSVMの汎化能力の向上の1つの方法として,マハラノビス距離よりも有望と考えられるLDM方式の検討に入った。
|
今後の研究の推進方策 |
今後以下の研究を進める。 (1) LDMでは決定すべきパラメータ数がSVMより多いのが問題である。このため,SVMと同等数のパラメータよりなるLDMの定式化を進め,その有効性を実データで検証する。この方式を関数近似に拡張して,実データでその有効性を検証する。 (2) BABDに開発したLDMを組み込み,実際のデータでSVMより汎化能力の高い特徴選択を行うことができることを検証する。 (3) 並列化も含めた学習方式によりBABDの高速化を図る。
|