• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to previous page

アンサンブル学習のアルゴリズム開発と理論的解析

Research Project

Project/Area Number 17700277
Research Category

Grant-in-Aid for Young Scientists (B)

Allocation TypeSingle-year Grants
Research Field Statistical science
Research InstitutionNagoya University (2007)
Tokyo Institute of Technology (2005-2006)

Principal Investigator

金森 敬文  Nagoya University, 情報科学研究科, 准教授 (60334546)

Project Period (FY) 2005 – 2007
Project Status Completed (Fiscal Year 2007)
Budget Amount *help
¥3,000,000 (Direct Cost: ¥3,000,000)
Fiscal Year 2007: ¥900,000 (Direct Cost: ¥900,000)
Fiscal Year 2006: ¥900,000 (Direct Cost: ¥900,000)
Fiscal Year 2005: ¥1,200,000 (Direct Cost: ¥1,200,000)
Keywordsアンサンブル学習 / ロバスト推定 / 不確実性 / 最適化 / バリューアットリスク / パラメトリック最適化 / 分位点回帰関数 / 条件付密度関数推定
Research Abstract

今年度は主にブースティングや不確実性のもとでの最適化に関する理論的な研究を行った。とくに最適解との関連について研究を進め,理論的に最適な損失関数を導出した。これにより計算効率の高い学習アルゴリズムの開発に貢献した。さらに大規模な数値実験により,提案方法の有効性を検証した。これらの考察を含むブースティングのロバスト化に関する論文は"Robust Boosting Algorithm against Mislabelling in Multi-Class Problems"にまとめられ,雑誌Neural Computationに掲載が決定している。
さらに,ブースティングを多値確率分布の推定に応用する研究を行った。これにより,判別関数だけを推定した場合と比較して,データに関するより精緻な推論を実行することを可能にした。この方法はラベル数が3以上であっても実行できるため,実用上非常に優れた推定法になっている。この成果は"Obtaining Conditional Probability Estimation from Multiclass Boosting"にまとめられIEICE Transactions on Information and Systems誌に掲載された。さらに確率分布の推定に適している損失関数に関する研究をすすめ、数値実験による検証を行った。この結果は、国際会議Algolithmic Learning Thery 2007において発表された。
また能動学習の情報幾何学的な研究を行った。ブースティングの幾何的構造と類似の構造が,能動的学習の有効性を理解するのに役立つことを指摘して,最適なサンプリングによる能動学習法を提案した。この成果はNeurocomputing誌に掲載された。

Report

(3 results)
  • 2007 Annual Research Report
  • 2006 Annual Research Report
  • 2005 Annual Research Report
  • Research Products

    (14 results)

All 2008 2007 2006 2005 Other

All Journal Article (12 results) (of which Peer Reviewed: 3 results) Presentation (1 results) Book (1 results)

  • [Journal Article] Robust Boosting Algorithm against Mislabelling in Multi-Class Problems2008

    • Author(s)
      Takenouchi, T., Eguchi, S., Murata, N., Kanamori, T.
    • Journal Title

      Neural Computation To appear

    • Related Report
      2007 Annual Research Report
    • Peer Reviewed
  • [Journal Article] Obtaining Conditional Probability Estimation from Multiclass Boosting2007

    • Author(s)
      Kanamori, T.
    • Journal Title

      IEICE Transactions on Information and Systems 12

      Pages: 2033-2042

    • Related Report
      2007 Annual Research Report
    • Peer Reviewed
  • [Journal Article] Pool-based Active Learning with Optimal Sampling Distribution and its Information Geometrical Interpretation2007

    • Author(s)
      Kanamori, T.,
    • Journal Title

      Neurocomputing 71

      Pages: 353-362

    • Related Report
      2007 Annual Research Report
    • Peer Reviewed
  • [Journal Article] Geometrical Structure of Boosting Algorithm2007

    • Author(s)
      Kanamori T., Takenouchi T., Murata N.
    • Journal Title

      New Generation Computing 6・25

      Pages: 117-141

    • Related Report
      2006 Annual Research Report
  • [Journal Article] Conditional Mean Estimation under Asymmetric and Heteroscedastic Error by Linear Combination of Quantile Regressions2006

    • Author(s)
      Kanamori T., Takeuchi I.
    • Journal Title

      Computational Statistics and Data Analysis 50・12

      Pages: 3605-3618

    • Related Report
      2006 Annual Research Report
  • [Journal Article] Obtaining Conditional Probability Estimation From Multiclass Boosting2006

    • Author(s)
      Kanamori T.
    • Journal Title

      情報論的学習理論ワークショップ予稿集 8

    • Related Report
      2006 Annual Research Report
  • [Journal Article] Conditional mean estimation under asymmetric and heteroscedastic error by linear combination of quantile regressions2006

    • Author(s)
      Takafumi Kanamori, Ichiro Takeuchi
    • Journal Title

      Computational Statistics and Data Analysis 掲載決定

    • Related Report
      2005 Annual Research Report
  • [Journal Article] Conditional Value-at-Risk Approach to Robust Optimization and Applications to Statistical Learning under Distribution Perturbation2005

    • Author(s)
      武田朗子, 金森敬文
    • Journal Title

      情報論的学習理論ワークショップ予稿集 8巻

      Pages: 111-116

    • Related Report
      2005 Annual Research Report
  • [Journal Article] 区分線形パス追跡法による条件分位点パスの計算2005

    • Author(s)
      竹内一郎, 野村要, 金森敬文
    • Journal Title

      情報論的学習理論ワークショップ予稿集 8巻

      Pages: 105-110

    • Related Report
      2005 Annual Research Report
  • [Journal Article] ブースティングと学習アルゴリズム 三人寄れば文殊の知恵は本当か2005

    • Author(s)
      村田昇, 金森敬文, 竹之内高志
    • Journal Title

      電子情報通信学会誌 88・9

      Pages: 724-729

    • Related Report
      2005 Annual Research Report
  • [Journal Article] Pool-based Active Learning with Optimal Sampling Distribution and its Information Geometrical Interpretation

    • Author(s)
      Kanamori T.
    • Journal Title

      Neurocomputing (In press)

    • Related Report
      2006 Annual Research Report
  • [Journal Article] Robust Loss Functions for Boosting

    • Author(s)
      Kanamori T., Takenouchi T., Eguchi S., Murata N.
    • Journal Title

      Neural Computation (In press)

    • Related Report
      2006 Annual Research Report
  • [Presentation] Multiclass Boosting Algorithms for Shrinkage Estimators of Class Probability2007

    • Author(s)
      Kanamori, T.
    • Organizer
      Algorithmic Learning Theory Conference
    • Place of Presentation
      仙台・日本
    • Year and Date
      2007-10-02
    • Related Report
      2007 Annual Research Report
  • [Book] ブースティング 学習アルゴリズムの設計技法2006

    • Author(s)
      金森敬文, 畑埜晃平, 渡辺治
    • Total Pages
      224
    • Publisher
      森北出版
    • Related Report
      2006 Annual Research Report

URL: 

Published: 2005-04-01   Modified: 2016-04-21  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi