• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2007 Fiscal Year Annual Research Report

リスク最小化に基づく非凸型識別手法の開発と与信審査・医療診断問題への実証的適用

Research Project

Project/Area Number 19710124
Research InstitutionTokyo Institute of Technology

Principal Investigator

武田 朗子  Tokyo Institute of Technology, 大学院・情報理工学研究科, 助教 (80361799)

Keywordsサポートベクターマシーン / 非凸二次計画問題 / Conditional Value-at-Risk / 汎化誤差 / 局所最適性
Research Abstract

サポートベクターマシーン(Support Vector Machine: SVM)は、あらかじめ分類された訓練データ(ラベル付きデータ)に基づいて分類ルールを学習し、そのルールを適用してテストデータ(ラベル無しデータ)を分類する手法であり、現実の問題への応用において優れた性能を持つことが報告されている。特に、ν-SVM [Scholkopf等, 2000] はパラメータ選択が他のSVMに比べて容易なため、注目を集めている。
本年度の研究では、ν-SVM の拡張モデルとして提案されたExtended ν-SVM [Perez-Cruz等, 2003] の性能評価を行った。 Extended ν-SVMに対して、金融業界でよく知られたリスク尺度 (CVaR: Conditional Value-at-Risk) に基づく新しい解釈を与えた。また、Rockafellar & Uryasev等によるCVaRの理論的研究成果をExtended ν-SVMに適用することにより、Extended ν-SVMの分類性能を評価し、モデルの妥当性を示すことができた。具体的には、Extended ν-SVMの汎化誤差(学習に使わなかったテストデータで推定結果をテストした場合の誤差)の上界式を導出し、Extended ν-SVMによるCVaR最小化がその上界式を最小化する解を与えることを証明した。
Extended ν-SVMは、ν-SVMよりも性能のよい分類器を構築することが示されているが、問題が非凸二次計画問題となるため、扱えるデータ集合の規模は、現時点では実用上十分な大きさに達していない。そこで、既存の反復解法を有限回の反復で終了するように改良し、より規模の大きな問題が解けるようになった。また、アルゴリズムの局所最適性についても示した。

  • Research Products

    (12 results)

All 2008 2007 Other

All Journal Article (6 results) (of which Peer Reviewed: 6 results) Presentation (5 results) Remarks (1 results)

  • [Journal Article] A Modified Algorithm for Nonconvex Support Vector Classification2008

    • Author(s)
      A. Takeda
    • Journal Title

      Proceedings of the International Conference on Artificial Intelligence and Applications (AIA 2008)

    • Peer Reviewed
  • [Journal Article] Dynamic Enumeration of All Mixed Cells2007

    • Author(s)
      T. Mizutani, A. Takeda, M. Kojima
    • Journal Title

      Discrete and Computational Geometry 37(3)

      Pages: 351-367

    • Peer Reviewed
  • [Journal Article] ロバスト最適化問題への確率的アプローチ2007

    • Author(s)
      武田朗子
    • Journal Title

      第19回RAMPシンポジウム論文集

      Pages: 163-176

    • Peer Reviewed
  • [Journal Article] Conditional Minimum Volume Ellipsoid with Applications to Subset Selectionfor MVE Estimator and Multiclass Discrimination

    • Author(s)
      J. Gotoh, A. Takeda
    • Journal Title

      Computational Optimization and Applications In press

    • Peer Reviewed
  • [Journal Article] Adjustable Robust Optimization Models for a Nonlinear Two-Period System

    • Author(s)
      A. Takeda, S. Taguchi, E. Tutuncu
    • Journal Title

      Journal of Optimization Theory and Applications In press

    • Peer Reviewed
  • [Journal Article] DEMiCs: A software package for computing the mixed volume via dynamic enumeration of all mixed cells

    • Author(s)
      T. Mizutani and A. Takeda
    • Journal Title

      IMA Volumes on "Software for algebraic geometry In press

    • Peer Reviewed
  • [Presentation] A Modified Algorithm for Nonconvex Support Vector Classification2008

    • Author(s)
      Akiko Takeda
    • Organizer
      Artificial Intelligence and Applications (AIA 2008)
    • Place of Presentation
      Congress Innsbruck (Innsbruck, Austria)
    • Year and Date
      2008-02-11
  • [Presentation] ロバスト最適化問題への確率的アプローチ2007

    • Author(s)
      武田朗子
    • Organizer
      第19回RAMPシンポジウム(RAMP2007)
    • Place of Presentation
      長崎ブリックホール国際会議場
    • Year and Date
      2007-10-26
  • [Presentation] CVaR最小化に基づくSupport Vector Machine2007

    • Author(s)
      武田朗子
    • Organizer
      SSOR
    • Place of Presentation
      伊東ホテル聚楽
    • Year and Date
      2007-08-29
  • [Presentation] Application of Conditional Value-at-Risk to Statistical Learning Problems2007

    • Author(s)
      Akiko Takeda
    • Organizer
      the Second Mathematical Programming Society International Conference on Continuous Optimization
    • Place of Presentation
      McMaster University(Hamilton, Canada)
    • Year and Date
      2007-08-15
  • [Presentation] Support Vector Machine Based on Conditional Value-at-Risk Minimization2007

    • Author(s)
      Akiko Takeda
    • Organizer
      Workshop on Advances in Optimization Program
    • Place of Presentation
      Tokyo Institute of Technology (Tokyo, Japan)
    • Year and Date
      2007-04-21
  • [Remarks]

    • URL

      http://www.is.titech.ac.jp/~takeda/

URL: 

Published: 2010-02-04   Modified: 2016-04-21  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi