• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2010 Fiscal Year Annual Research Report

機械学習と最適化理論の横断的研究

Research Project

Project/Area Number 20700251
Research InstitutionNagoya University

Principal Investigator

金森 敬文  名古屋大学, 情報科学研究科, 准教授 (60334546)

Keywords機械学習 / 数理工学 / 統計数学
Research Abstract

今年度は主に密度比の推定の理論とその応用,最適化計算への幾何学的方法の応用について,研究を行った.また機械学習アルゴリズムの統計的信頼性に関する研究をスタートさせた.
1.密度比とは,ふたつの確率密度関数の比によって表される関数であり,共変量シフトのもとでの学習や外れ値検出,特徴抽出,次元削減,独立成分分析,2標本問題など広範に応用され,機械学習における基本的方法として確立されつつある.今年度は,前年度に提案した推定方法の理論的な推定精度に関する詳細について,研究を進めた.また実問題への応用として,密度比推定を外れ値検出に用い,成果を得た.これらの結果は"Direct density-ratio estimation with dimensionality reduction via least-squares hetero-distributional subspace search","Theoretical Analysis of Density Ratio Estimation"など複数の論文にまとめられ,出版されている.
2.機械学習アルゴリズムの推定結果に対する統計的信頼性を評価するための方法であるマルチスケールブートストラップについて研究を行った.これにより,従来の方法では正確に推定することが困難だった予測誤差を,精度よく推定することが可能となった,これらの結果は"Multiscale-bagging with Applications to Classification", Multiscale Bagging with Applications to Classification and Active Learning"としてまとめられ,国際会議で報告されている.
3.最適化問題に対する解法のひとつである準ニュートン法について,何学的な方法を導入して従来の方法を拡張し,さらに統計的な方法を用いて,アルゴリズムの頑健性を理論的に評価した.これらの結果は"A Bregman extension of quasi-Newton updates"としてまとめられ,国際会議で報告されている.

  • Research Products

    (9 results)

All 2011 2010

All Journal Article (4 results) (of which Peer Reviewed: 4 results) Presentation (5 results)

  • [Journal Article] Statistical Outlier Detection Using Direct Density Ratio Estimation2011

    • Author(s)
      S.Hido, Y.Tsuboi, H.Kashima, M.Sugiyama, T.Kanamori
    • Journal Title

      Knowledge and Information Systems

      Volume: 26 Pages: 309-336

    • Peer Reviewed
  • [Journal Article] Direct density-ratio estimation with dimensionality reduction via least-squares hetero-distributional subspace search2011

    • Author(s)
      Sugiyama M., Yamada M., von Bunau P., Suzuki T., Kanamori T., Kawanabe M
    • Journal Title

      Neural Networks

      Volume: 24 Pages: 183-198

    • Peer Reviewed
  • [Journal Article] Theoretical Analysis of Density Ratio Estimation2010

    • Author(s)
      Kanamori, T., Suzuki, T., Sugiyama
    • Journal Title

      IEICE Transactions on Fundamentals of Electronics, Communications and Computer Sciences

      Volume: E93-A Pages: 787-798

    • Peer Reviewed
  • [Journal Article] Deformation of Log-Likelihood Loss Function for Multiclass Boosting2010

    • Author(s)
      Kanamori, T.
    • Journal Title

      Neural Networks

      Volume: 23 Pages: 843-864

    • Peer Reviewed
  • [Presentation] Multiscale Bagging with Applications to Classification and Active Learning2010

    • Author(s)
      Shimodaira H.Kanamori T., Masayoshi A., Kouta Mine
    • Organizer
      The 2nd Asian Conference on Machine Learning
    • Place of Presentation
      Tokyo
    • Year and Date
      2010-11-10
  • [Presentation] Multiscale-bagging with Applications to Classification2010

    • Author(s)
      A.Masayoshi, Kanamori T., Shimodaira H
    • Organizer
      The 2nd Asian Conference on Machine Learning
    • Place of Presentation
      Tokyo
    • Year and Date
      2010-11-10
  • [Presentation] A Bregman extension of quasi-Newton updates2010

    • Author(s)
      Kanamori T., Ohara Atsumi
    • Organizer
      Information Geometry and its Applications
    • Place of Presentation
      Leipzig, Germany
    • Year and Date
      2010-08-02
  • [Presentation] Direct density ratio estimation with dimensionality reduction2010

    • Author(s)
      Sugiyama, M., Hara, S., von Bunau, P., Suzuki, T., Kanamori, T., Kawanabe, M
    • Organizer
      the 10th SIAM International Conference on Data Mining
    • Place of Presentation
      Ohio, USA
    • Year and Date
      2010-05-29
  • [Presentation] Conditional density estimation via least-squares density ratio estimation2010

    • Author(s)
      Sugiyama, M., Takeuchi, I., Kanamori, T., Suzuki, T., Hachiya, H., Okanohara, D
    • Organizer
      Thirteenth International Conference on Artificial Intelligence and Statistics
    • Place of Presentation
      Sardinia, Italy
    • Year and Date
      2010-05-13

URL: 

Published: 2012-07-19  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi