• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 前のページに戻る

ブースティング手法による統計的推論に関する理論的研究とその計算機による実装

研究課題

研究課題/領域番号 14780169
研究種目

若手研究(B)

配分区分補助金
研究分野 統計科学
研究機関東京工業大学

研究代表者

金森 敬文  東京工業大学, 大学院・情報理工学研究科, 助手 (60334546)

研究期間 (年度) 2002 – 2004
研究課題ステータス 完了 (2004年度)
配分額 *注記
1,600千円 (直接経費: 1,600千円)
2004年度: 500千円 (直接経費: 500千円)
2003年度: 500千円 (直接経費: 500千円)
2002年度: 600千円 (直接経費: 600千円)
キーワードブースティング / アンサンブル学習 / ロバスト統計 / 判別分析 / 多値判別 / 不均一分散 / 回帰分析 / ロバスト化
研究概要

今年度はアンサンブル学習のひとつであるブースティングについて,数理統計学や機械学習の観点から研究をおこなった.また,ロバスト統計の手法を応用して,回帰分析に新しいデータ解析法を導入した.以下に概要を述べる.
1.ブーステイングの幾何学構造の解明
性能があまり高くない学習方法を組み合わせて,強力な判別関数を構成する手法であるブースティングについて,情報幾何学的な観点から研究をおこなった.とくに多値判別について,既存手法を大幅に一般化する枠組を提供し,多様なノイズに対処可能な学習方法を提案した。
2.ブースティングのロバスト化と有効性の両立についての研究
ブースティングのロバスト化については,すでに本研究課題により研究がすすめられている.外れ値に対してロバストなだけではなく,さらに予測精度が非常に高いブースティング法を数理統計的な観点から提案し,その性能を理論,データ解析の両面から検証した.その結果,高次元大規模データに対して有効な方法であることが確認された.
3.回帰分析に対する新しいデータ解析法の提案
非常に裾が重く非対称性が高いような極めて複雑なノイズのもとで,安定した推定結果を与える学習方法を提案した.提案方法は単純なアルゴリズムで与えられ,計算効率が非常に良い.また既存方法ではノイズの分布に関する精報が必要であったが,提案手法はノイズに対する詳しい情報が得られない状況であっても,信頼性の高い推定結果が得られることが理論的に示された.さらに保険料推定など実データへの適用によって,提案手法が十分に実用的であることが明らにされた.

報告書

(3件)
  • 2004 実績報告書
  • 2003 実績報告書
  • 2002 実績報告書
  • 研究成果

    (15件)

すべて 2005 2004 その他

すべて 雑誌論文 (6件) 文献書誌 (9件)

  • [雑誌論文] Estimators for Conditional Expectations under Asymmetric and Heteroscedastic Error Distribusions2005

    • 著者名/発表者名
      Takafumi Kanamori, Ichiro Takeuchi
    • 雑誌名

      International Symposium on The Art of Statistical Metaware 21

      ページ: 312-313

    • 関連する報告書
      2004 実績報告書
  • [雑誌論文] Information Geometry of U-boost and Bregman Divergence2004

    • 著者名/発表者名
      Noboru Murata, Takashi Takenouchi, Takafumi Kanamori, Shinto Eguchi
    • 雑誌名

      Neural Computation 16・7

      ページ: 1437-1482

    • 関連する報告書
      2004 実績報告書
  • [雑誌論文] The most robust loss function for boosting2004

    • 著者名/発表者名
      Takafumi Kanamori, Takashi Takenouchi, Shinto Eguchi, Noboru Murata
    • 雑誌名

      Lecture note in computer science, Neural Information Proccessing 3316

      ページ: 496-501

    • 関連する報告書
      2004 実績報告書
  • [雑誌論文] Statistical Models for Multi-Class Classification and Integrability of Estimation Equations2004

    • 著者名/発表者名
      Takafumi Kanamori
    • 雑誌名

      Proceedings of Information-Based Induction Sciences 7

      ページ: 170-177

    • 関連する報告書
      2004 実績報告書
  • [雑誌論文] Robust Boosting and Loss Functions2004

    • 著者名/発表者名
      Takafumi Kanamori, Takashi Takenouchi, Shinto Eguchi, Noboru Murata
    • 雑誌名

      IEICE Technical Report 104・225

      ページ: 1-6

    • NAID

      110003232646

    • 関連する報告書
      2004 実績報告書
  • [雑誌論文] アンサンブル学習の新展開2004

    • 著者名/発表者名
      金森 敬文
    • 雑誌名

      Learning SICE symposium on Intelligent Systems 31

      ページ: 25-30

    • 関連する報告書
      2004 実績報告書
  • [文献書誌] Murata, N., Takeuchi, T., Kanamori, T., Eguchi, S.: "Information Geometry of U-Boost and Bregman Divergence"Neural Computation. (出版予定).

    • 関連する報告書
      2003 実績報告書
  • [文献書誌] 金森敬文, 村田昇: "ブースティングとそのロバスト化"電子情報通信学会誌. 86・10. 769-772 (2003)

    • 関連する報告書
      2003 実績報告書
  • [文献書誌] Kanamori, T., Shimodaira, H.: "Active Learning algorithm using the maximum weighted log-likelihood estimator"Journal of Statistical Planning and Inference. 116. 149-162 (2003)

    • 関連する報告書
      2003 実績報告書
  • [文献書誌] Kanamori, T., Takeuchi, I.: "Estimation of conditional mean by the linear combination of quantile regression under heteroscedastic asymmetric"IEICE Technical Report, NC2003-22. 103・227. 43-48 (2003)

    • 関連する報告書
      2003 実績報告書
  • [文献書誌] Kanamori, T.: "Statistical Asymptotic Theory of Active Learning"Annals of the Institute of Statistical Mathematics. 54. 459-475 (2002)

    • 関連する報告書
      2002 実績報告書
  • [文献書誌] Takeuchi, I., Bengio, Y., Kanamori T.: "Robust Regression with Asymmetric Heavy-Tail Nose Distributions"Neural Computation. 14. 2469-2496 (2002)

    • 関連する報告書
      2002 実績報告書
  • [文献書誌] 金森敬文, 村田昇: "ブースティングとそのロバスト化"電子情報通信学会誌. (出版予定).

    • 関連する報告書
      2002 実績報告書
  • [文献書誌] Kanamori, T., Shimodaira, H.: "Active Learning algorithm using the maximum weighted log-likelihood estimator"Journal of Statistical Planning and Inference. (出版予定).

    • 関連する報告書
      2002 実績報告書
  • [文献書誌] Jose R.Dorronsoro (ED.): "Artificial Neural Networks ICANN2002"Springer. 1382 (2002)

    • 関連する報告書
      2002 実績報告書

URL: 

公開日: 2002-04-01   更新日: 2016-04-21  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi