研究概要 |
今年度は主に密度比の推定の理論とその応用,最適化計算への幾何学的方法の応用について,研究を行った.また機械学習アルゴリズムの統計的信頼性に関する研究をスタートさせた. 1.密度比とは,ふたつの確率密度関数の比によって表される関数であり,共変量シフトのもとでの学習や外れ値検出,特徴抽出,次元削減,独立成分分析,2標本問題など広範に応用され,機械学習における基本的方法として確立されつつある.今年度は,前年度に提案した推定方法の理論的な推定精度に関する詳細について,研究を進めた.また実問題への応用として,密度比推定を外れ値検出に用い,成果を得た.これらの結果は"Direct density-ratio estimation with dimensionality reduction via least-squares hetero-distributional subspace search","Theoretical Analysis of Density Ratio Estimation"など複数の論文にまとめられ,出版されている. 2.機械学習アルゴリズムの推定結果に対する統計的信頼性を評価するための方法であるマルチスケールブートストラップについて研究を行った.これにより,従来の方法では正確に推定することが困難だった予測誤差を,精度よく推定することが可能となった,これらの結果は"Multiscale-bagging with Applications to Classification", Multiscale Bagging with Applications to Classification and Active Learning"としてまとめられ,国際会議で報告されている. 3.最適化問題に対する解法のひとつである準ニュートン法について,何学的な方法を導入して従来の方法を拡張し,さらに統計的な方法を用いて,アルゴリズムの頑健性を理論的に評価した.これらの結果は"A Bregman extension of quasi-Newton updates"としてまとめられ,国際会議で報告されている.
|