• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2006 Fiscal Year Annual Research Report

アンサンブル学習のアルゴリズム開発と理論的解析

Research Project

Project/Area Number 17700277
Research InstitutionTokyo Institute of Technology

Principal Investigator

金森 敬文  東京工業大学, 大学院情報理工学研究科, 助手 (60334546)

Keywordsアンサンブル学習 / ロバスト推定 / 不確実性 / バリューアットリスク / パラメトリック最適化 / 分位点回帰関数
Research Abstract

今年度は主にブースティングなどのアンサンブル学習アルゴリズムに関する理論的な研究を行った.とくにロバスト化について研究を進め,理論的に最適な損失関数を導出した.これにより外れ値を含む実データに対して,安定した判別関数を推定することができる.大規模な数値実験により,提案方法の有効性を検証した.この成果は論文"Robust Loss Functions for Boosting"にまとめられ,雑誌Neural Computationに掲載が決定している.
さらに,ブースティングは判別関数だけでなく出力の条件付き確率を推定することができることを指摘して,確率分布をブースティング手法を用いて構成する方法を提案した.これにより,判別関数だけを推定した場合と比較して,データに関するより精緻な推論を実行することを可能にした.この方法はラベル数が3以上であっても実行できるため,実用上非常に優れた推定法になっている.この成果は情報論的学習理論ワークショップにおいて発表された.
またブースティングの情報幾何学的な研究を行った.またリサンプリングによるブースティング法は,学習データの重み付きで実現できることを指摘した.この研究成果は雑誌New Generation Computingに発表されている.さらにブースティングの幾何的構造と類似の構造が,能動的学習の有効性を理解するのに役立つことを指摘して,最適なサンプリングによる能動学習法を提案した.この成果はNeurocomputing誌に掲載が決定している.
本年度はさらに,ブースティングの研究を著書としてまとめた.ブースティングの統計的な側面だけでなく,計算論的な側面についても詳細に解説した.当該分野の研究者に対して有益な情報を提供している.著書は森北出版から出版されている.

  • Research Products

    (6 results)

All 2007 2006 Other

All Journal Article (5 results) Book (1 results)

  • [Journal Article] Geometrical Structure of Boosting Algorithm2007

    • Author(s)
      Kanamori T., Takenouchi T., Murata N.
    • Journal Title

      New Generation Computing 6・25

      Pages: 117-141

  • [Journal Article] Conditional Mean Estimation under Asymmetric and Heteroscedastic Error by Linear Combination of Quantile Regressions2006

    • Author(s)
      Kanamori T., Takeuchi I.
    • Journal Title

      Computational Statistics and Data Analysis 50・12

      Pages: 3605-3618

  • [Journal Article] Obtaining Conditional Probability Estimation From Multiclass Boosting2006

    • Author(s)
      Kanamori T.
    • Journal Title

      情報論的学習理論ワークショップ予稿集 8

  • [Journal Article] Pool-based Active Learning with Optimal Sampling Distribution and its Information Geometrical Interpretation

    • Author(s)
      Kanamori T.
    • Journal Title

      Neurocomputing (In press)

  • [Journal Article] Robust Loss Functions for Boosting

    • Author(s)
      Kanamori T., Takenouchi T., Eguchi S., Murata N.
    • Journal Title

      Neural Computation (In press)

  • [Book] ブースティング 学習アルゴリズムの設計技法2006

    • Author(s)
      金森敬文, 畑埜晃平, 渡辺治
    • Total Pages
      224
    • Publisher
      森北出版

URL: 

Published: 2008-05-08   Modified: 2016-04-21  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi