• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2014 Fiscal Year Research-status Report

大次元小サンプル問題における特徴選択方式の開発

Research Project

Project/Area Number 25420438
Research InstitutionKobe University

Principal Investigator

阿部 重夫  神戸大学, 工学(系)研究科(研究院), 名誉教授 (50294195)

Project Period (FY) 2013-04-01 – 2016-03-31
Keywordsパターン認識 / 特徴選択 / ブロック追加 / ブロック削除 / サポートベクトルマシン
Outline of Annual Research Achievements

パターン認識器の入力変数,すなわち特徴量の数が膨大で,サンプルデータ数がわずかな大次元小サンプルパターン認識問題で,特徴量数を汎化能力が低下しない範囲で最小化する特徴選択方式の開発を進めている。これまでに開発したブロック追加・削除(BABD)方式では,従来の逐次選択方式に対して,交差検定による認識率が低下しない範囲で高速に特徴選択ができるが,昨年度はこの方式をさらに高速化するために,BABDを繰り返して適用する繰り返しBABD法を開発した。本年度は以下の研究成果を得た。
(1) 特徴量の集合をブロックに分割して,ブロックごとにBABDを適用して高速化を図る追加BABD法を開発し,最大で4倍程度の高速化が得られることを確かめた。また関数近似に対しても,追加BABD法を開発した。
(2) サポートベクトルマシン(SVM)の学習方法としてSMO(Sequential Minimum Optimization)法とニュートン法を組み合わせたSMO-NM法を開発した。この方式では学習が難しくなったときに,自動的に同時処理の変数を増やすことにより学習を高速化できる。計算機実験では,最大でSMOに対して100倍の高速化が得られた。この方式を関数近似に拡張した。
(3) データを複数のクラスに分類するマルチラベル問題に対して,ファジィマルチラベルSVMを開発し,実際のデータで汎化能力が向上することを確認した。
(4) SVMが最小のマージンを最大化するのに対して,マージンの平均を最大化し,マージンの分散を最小化するLDM(Large Margin Distribution)方式が注目されており,この方式の検討を開始した。

Current Status of Research Progress
Current Status of Research Progress

1: Research has progressed more than it was originally planned.

Reason

当初予定になかったファジィマルチラベルSVMを開発できた。これによりBABDの適用範囲をさらに拡大することが可能になった。また,事前情報によるSVMの汎化能力の向上の1つの方法として,マハラノビス距離よりも有望と考えられるLDM方式の検討に入った。

Strategy for Future Research Activity

今後以下の研究を進める。
(1) LDMでは決定すべきパラメータ数がSVMより多いのが問題である。このため,SVMと同等数のパラメータよりなるLDMの定式化を進め,その有効性を実データで検証する。この方式を関数近似に拡張して,実データでその有効性を検証する。
(2) BABDに開発したLDMを組み込み,実際のデータでSVMより汎化能力の高い特徴選択を行うことができることを検証する。
(3) 並列化も含めた学習方式によりBABDの高速化を図る。

  • Research Products

    (4 results)

All 2015 2014

All Journal Article (4 results) (of which Peer Reviewed: 4 results,  Acknowledgement Compliant: 4 results)

  • [Journal Article] Fuzzy Support Vector Machines for Multilabel Classification2015

    • Author(s)
      Shigeo Abe
    • Journal Title

      Pattern Recognition

      Volume: 48 Pages: 2110-2117

    • DOI

      10.1016/j.patcog.2015.01.009

    • Peer Reviewed / Acknowledgement Compliant
  • [Journal Article] Fusing Sequential Minimal Optimization and Newton's Method for Support Vector Training2014

    • Author(s)
      Shigeo Abe
    • Journal Title

      International Journal of Machine Learning and Cybernetics

      Volume: 1 Pages: 1-20

    • DOI

      10.1007/s13042-014-0265-x

    • Peer Reviewed / Acknowledgement Compliant
  • [Journal Article] Incremental Input Variable Selection by Block Addition and Block Deletion2014

    • Author(s)
      Shigeo Abe
    • Journal Title

      ICANN 2014, LNCS 8681

      Volume: 1 Pages: 547-554

    • Peer Reviewed / Acknowledgement Compliant
  • [Journal Article] Incremental Feature Selection by Block Addition and Block Deletion Using Least Squares SVRs2014

    • Author(s)
      Shigeo Abe
    • Journal Title

      ANNPR 2014, LNAI 8774

      Volume: 1 Pages: 35-46

    • Peer Reviewed / Acknowledgement Compliant

URL: 

Published: 2016-05-27  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi