• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 課題ページに戻る

2014 年度 実施状況報告書

大次元小サンプル問題における特徴選択方式の開発

研究課題

研究課題/領域番号 25420438
研究機関神戸大学

研究代表者

阿部 重夫  神戸大学, 工学(系)研究科(研究院), 名誉教授 (50294195)

研究期間 (年度) 2013-04-01 – 2016-03-31
キーワードパターン認識 / 特徴選択 / ブロック追加 / ブロック削除 / サポートベクトルマシン
研究実績の概要

パターン認識器の入力変数,すなわち特徴量の数が膨大で,サンプルデータ数がわずかな大次元小サンプルパターン認識問題で,特徴量数を汎化能力が低下しない範囲で最小化する特徴選択方式の開発を進めている。これまでに開発したブロック追加・削除(BABD)方式では,従来の逐次選択方式に対して,交差検定による認識率が低下しない範囲で高速に特徴選択ができるが,昨年度はこの方式をさらに高速化するために,BABDを繰り返して適用する繰り返しBABD法を開発した。本年度は以下の研究成果を得た。
(1) 特徴量の集合をブロックに分割して,ブロックごとにBABDを適用して高速化を図る追加BABD法を開発し,最大で4倍程度の高速化が得られることを確かめた。また関数近似に対しても,追加BABD法を開発した。
(2) サポートベクトルマシン(SVM)の学習方法としてSMO(Sequential Minimum Optimization)法とニュートン法を組み合わせたSMO-NM法を開発した。この方式では学習が難しくなったときに,自動的に同時処理の変数を増やすことにより学習を高速化できる。計算機実験では,最大でSMOに対して100倍の高速化が得られた。この方式を関数近似に拡張した。
(3) データを複数のクラスに分類するマルチラベル問題に対して,ファジィマルチラベルSVMを開発し,実際のデータで汎化能力が向上することを確認した。
(4) SVMが最小のマージンを最大化するのに対して,マージンの平均を最大化し,マージンの分散を最小化するLDM(Large Margin Distribution)方式が注目されており,この方式の検討を開始した。

現在までの達成度 (区分)
現在までの達成度 (区分)

1: 当初の計画以上に進展している

理由

当初予定になかったファジィマルチラベルSVMを開発できた。これによりBABDの適用範囲をさらに拡大することが可能になった。また,事前情報によるSVMの汎化能力の向上の1つの方法として,マハラノビス距離よりも有望と考えられるLDM方式の検討に入った。

今後の研究の推進方策

今後以下の研究を進める。
(1) LDMでは決定すべきパラメータ数がSVMより多いのが問題である。このため,SVMと同等数のパラメータよりなるLDMの定式化を進め,その有効性を実データで検証する。この方式を関数近似に拡張して,実データでその有効性を検証する。
(2) BABDに開発したLDMを組み込み,実際のデータでSVMより汎化能力の高い特徴選択を行うことができることを検証する。
(3) 並列化も含めた学習方式によりBABDの高速化を図る。

  • 研究成果

    (4件)

すべて 2015 2014

すべて 雑誌論文 (4件) (うち査読あり 4件、 謝辞記載あり 4件)

  • [雑誌論文] Fuzzy Support Vector Machines for Multilabel Classification2015

    • 著者名/発表者名
      Shigeo Abe
    • 雑誌名

      Pattern Recognition

      巻: 48 ページ: 2110-2117

    • DOI

      10.1016/j.patcog.2015.01.009

    • 査読あり / 謝辞記載あり
  • [雑誌論文] Fusing Sequential Minimal Optimization and Newton's Method for Support Vector Training2014

    • 著者名/発表者名
      Shigeo Abe
    • 雑誌名

      International Journal of Machine Learning and Cybernetics

      巻: 1 ページ: 1-20

    • DOI

      10.1007/s13042-014-0265-x

    • 査読あり / 謝辞記載あり
  • [雑誌論文] Incremental Input Variable Selection by Block Addition and Block Deletion2014

    • 著者名/発表者名
      Shigeo Abe
    • 雑誌名

      ICANN 2014, LNCS 8681

      巻: 1 ページ: 547-554

    • 査読あり / 謝辞記載あり
  • [雑誌論文] Incremental Feature Selection by Block Addition and Block Deletion Using Least Squares SVRs2014

    • 著者名/発表者名
      Shigeo Abe
    • 雑誌名

      ANNPR 2014, LNAI 8774

      巻: 1 ページ: 35-46

    • 査読あり / 謝辞記載あり

URL: 

公開日: 2016-05-27  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi