機械学習と最適化理論の横断的研究

• 研究課題/領域番号: 20700251
• 研究種目: 若手研究(B)
• 配分区分: 補助金
• 研究分野: 統計科学
• 研究機関: 名古屋大学
• 研究代表者: 金森 敬文 名古屋大学, 情報科学研究科, 准教授 (60334546)
• 研究期間 (年度): 2008 – 2011
• 研究課題ステータス: 完了 (2011年度)
• 配分額: 4,290千円 (直接経費: 3,300千円、間接経費: 990千円); 2011年度: 1,040千円 (直接経費: 800千円、間接経費: 240千円); 2010年度: 1,040千円 (直接経費: 800千円、間接経費: 240千円); 2009年度: 1,040千円 (直接経費: 800千円、間接経費: 240千円); 2008年度: 1,170千円 (直接経費: 900千円、間接経費: 270千円)
• キーワード: 統計的学習理論 / 機械学習 / 数理工学 / 統計数学

研究概要

統計科学や計算機科学の境界領域である機械学習の分野では,大規模データに潜む確率的な構造を,精度よく推論するための方法が研究されている.一方最適化理論の分野では,コンピュータを高度に用いて,様々な意思決定に現れる数理的な問題を,効率的に計算するための方法が研究されている.本研究では,機械学習と最適化理論を包括する理論基盤を構築し,高度な推論・計算アルゴリズムを開発することを目的としている.

研究成果

• [雑誌論文] Worst-Case Violation of Sampled Convex Programs for Optimization with Uncertainty (2012)
  • 著者名/発表者名: T. Kanamori, A. Takeda
  • 雑誌名: Journal of Optimization Theory and Applications 巻: vol.152, Issue 1 ページ: 171-197
  • 査読あり
• [雑誌論文] F-divergence estimation and two-sample homogeneity test under semiparametric density-ratio models (2012)
  • 著者名/発表者名: T. Kanamori, T. Suzuki, M. Sugiyama
  • 雑誌名: IEEE Transactions on Information Theory 巻: Vol.58, Issue 2 ページ: 708-720
  • 査読あり
• [雑誌論文] Statistical analysis of kernel-based least-squares density-ratio estimation (2012)
  • 著者名/発表者名: T. Kanamori, T. Suzuki, M. Sugiyama
  • 雑誌名: Machine Learning 巻: vol.86, Issue 3 ページ: 335-367
  • 査読あり
• [雑誌論文] Pooling Design and Bias Correction in DNA Library Screening (2012)
  • 著者名/発表者名: T.Kanamori, H.Uehara, M.Jimbo
  • 雑誌名: Journal of Statistical Theory and Practice 巻: 6 ページ: 220-238
  • 査読あり
• [雑誌論文] Statistical analysis of kernel-based least-squares density-ratio estimation (2012)
  • 著者名/発表者名: T.Kanamori, T.Suzuki, M.Sugiyama
  • 雑誌名: Machine Learning 巻: 86 ページ: 335-367
  • 査読あり
• [雑誌論文] f-divergence estimation and two-sample homogeneity test under semiparametric density-ratio models (2012)
  • 著者名/発表者名: T.Kanamori, T.Suzuki, M.Sugiyama
  • 雑誌名: IEEE Transactions on Information Theory 巻: 58 ページ: 708-720
  • 査読あり
• [雑誌論文] Worst-Case Violation of Sampled Convex Programs for Optimization with Uncertainty (2012)
  • 著者名/発表者名: T.Kanamor, A.Takeda
  • 雑誌名: Journal of Optimization Theory and Applications 巻: 152 ページ: 171-197
  • 査読あり
• [雑誌論文] Multiscale Bagging and its Applications (2011)
  • 著者名/発表者名: H. Shimodaira, T. Kanamori, M. Aoki, K. Mine
  • 雑誌名: IEICE Transactions on Information and Systems 巻: Volume E94-D No.10 ページ: 1924-1932
  • NAID: 10030193311
  • 査読あり
• [雑誌論文] Multiscale Bagging and its Applications (2011)
  • 著者名/発表者名: H.Shimodaira, T.Kanamori, M.Aoki, K.Mine
  • 雑誌名: IEICE Transactions on Information and Systems 巻: E94-D ページ: 1924-1932
  • NAID: 10030193311
  • 査読あり
• [雑誌論文] Least-Squares Two-Sample Test (2011)
  • 著者名/発表者名: M.Sugiyama, T.Suzuki, Y.Itho, T.Kanamori, M.Kimura
  • 雑誌名: Neural Networks 巻: 24 ページ: 735-751
  • 査読あり
• [雑誌論文] Statistical Outlier Detection Using Direct Density Ratio Estimation (2011)
  • 著者名/発表者名: S.Hido, Y.Tsuboi, H.Kashima, M.Sugiyama, T.Kanamori
  • 雑誌名: Knowledge and Information Systems 巻: 26 ページ: 309-336
  • 査読あり
• [雑誌論文] Direct density-ratio estimation with dimensionality reduction via least-squares hetero-distributional subspace search (2011)
  • 著者名/発表者名: Sugiyama M., Yamada M., von Bunau P., Suzuki T., Kanamori T., Kawanabe M
  • 雑誌名: Neural Networks 巻: 24 ページ: 183-198
  • 査読あり
• [雑誌論文] Deformation of Log-Likelihood Loss Function for Multiclass Boosting (2010)
  • 著者名/発表者名: T. Kanamori
  • 雑誌名: Neural Networks 巻: vol.23 ページ: 843-864
  • 査読あり
• [雑誌論文] Theoretical Analysis of Density Ratio Estimation (2010)
  • 著者名/発表者名: T. Kanamori, T. Suzuki, M. Sugiyama
  • 雑誌名: Communications and Computer Sciences 巻: vol.E93-A, no.4 ページ: 787-798
  • NAID: 10026863929
  • 査読あり
• [雑誌論文] Deformation of Log-Likelihood Loss Function for Multiclass Boosting (2010)
  • 著者名/発表者名: Takafumi Kanamori
  • 雑誌名: Neural Networks vol.23 ページ: 843-864
  • 査読あり
• [雑誌論文] Theoretical Analysis of Density Ratio Estimation. (2010)
  • 著者名/発表者名: Kanamori, T., Suzuki, T., Sugiyama
  • 雑誌名: IEICE Transactions on Fundamentals of Electronics, Communications and Computer Sciences vol.E93-A, no.4 ページ: 787-798
  • NAID: 10026863929
• [雑誌論文] Theoretical Analysis of Density Ratio Estimation (2010)
  • 著者名/発表者名: Kanamori, T., Suzuki, T., Sugiyama
  • 雑誌名: IEICE Transactions on Fundamentals of Electronics, Communications and Computer Sciences 巻: E93-A ページ: 787-798
  • NAID: 10026863929
  • 査読あり
• [雑誌論文] Deformation of Log-Likelihood Loss Function for Multiclass Boosting (2010)
  • 著者名/発表者名: Kanamori, T.
  • 雑誌名: Neural Networks 巻: 23 ページ: 843-864
  • 査読あり
• [雑誌論文] Theoretical Analysis of Density Ratio Estimation (2010)
  • 著者名/発表者名: Kanamori, T., Suzuki, T., Sugiyama, M.
  • 雑誌名: IEICE Transactions on Fundamentals of Electronics, Communications and Computer Sciences E93-A ページ: 787-798
  • NAID: 10026863929
  • 査読あり
• [雑誌論文] A Least-squares Approach to Direct Importance Estimation (2009)
  • 著者名/発表者名: T. Kanamori, S. Hido, M. Sugiyama
  • 雑誌名: Journal of Machine Learning Research 巻: 10 ページ: 1391-1445
  • 査読あり
• [雑誌論文] Nonparametric Conditional Density Estimation Using Piecewise-Linear Path Following for Kernel Quantile Regression (2009)
  • 著者名/発表者名: I. Takeuchi, K. Nomura, T. Kanamori
  • 雑誌名: Neural Computation 巻: vol.21, num. 2 ページ: 533-559
  • 査読あり
• [雑誌論文] A Least-squares Approach to Direct Importance Estimation. (2009)
  • 著者名/発表者名: Takafumi Kanamori, Shohei Hido, Masashi Sugiyama
  • 雑誌名: Journal of Machine Learning Research. 10 ページ: 1391-1445
  • 査読あり
• [雑誌論文] A Robust Approach Based on Conditional Value-at-Risk Measure to Statistical Learning Problems. (2009)
  • 著者名/発表者名: Takeda, A., Kanamori, T.
  • 雑誌名: European Journal of Operational Research 198 ページ: 287-296
  • 査読あり
• [雑誌論文] A Least-squares Approach to Direct Importance Estimation (2009)
  • 著者名/発表者名: Takafumi Kanamori, Shohei Hido, M asashi Sugiyama
  • 雑誌名: Journal of Machine Learning Research. 10 ページ: 1391-1445
  • 査読あり
• [雑誌論文] Nonparametric Conditional Density Estimation Using Piecewise-Linear Path Following for Kernel Quantile Regression (2009)
  • 著者名/発表者名: Takeuchi, Ichiro, Nomura, Kaname, Kanamori, Takafumi
  • 雑誌名: Neural Computation 21 ページ: 533-559
  • 査読あり
• [雑誌論文] Mutual information estimation reveals global associations between stimuli and biological processes (2009)
  • 著者名/発表者名: Suzuki, T., Sugiyama, M., Kanamori, T., and Sese, J
  • 雑誌名: BMC Bioinformatics 10 ページ: 52-52
  • 査読あり
• [雑誌論文] Robust Boosting Algorithm against Mislabelling in Multi-Class Problems (2008)
  • 著者名/発表者名: T. Takenouchi, S. Eguchi, N. Murata, T. Kanamori
  • 雑誌名: Neural Computation 巻: vol.20, num. 6 ページ: 1596-1630
  • 査読あり
• [雑誌論文] Robust Boosting Algorithm against Mislabelling in Multi-Class Problems. (2008)
  • 著者名/発表者名: Takenouchi, T., Eguchi, S., Murata, N., Kanamori, T.
  • 雑誌名: Neural Computation vol.20, num.6 ページ: 1596-1630
• [雑誌論文] Robust Boosting Algorithm against Mislabelling in Multi-Class Problems (2008)
  • 著者名/発表者名: Takenouchi, Takashi., Eguchi, Sinto, Murata, Nobobu, Kanamori, Takafumi
  • 雑誌名: Neural Computation 20 ページ: 1596-1630
  • 査読あり
• [学会発表] 半教師付き学習の漸近論 (2012)
  • 著者名/発表者名: 川喜田雅則, 金森敬文
  • 学会等名: 研究集会「確率測度の最適化と通信路容量について」
  • 発表場所: 統計数理研究所
  • 年月日: 2012-03-12
• [学会発表] 判別分析における損失関数と不確実性集合の共役性について (2012)
  • 著者名/発表者名: 金森敬文, 武田朗子, 鈴木大慈
  • 学会等名: 科研費シンポジウム「生体数理・社会数理の統計科学」
  • 発表場所: 早稲田大学
  • 年月日: 2012-03-01
• [学会発表] 機械学習における共役性について (2012)
  • 著者名/発表者名: 金森敬文, 武田朗子, 鈴木大慈
  • 学会等名: 幾何統計小研究集会「データ解析における新規連携分野の調査」
  • 発表場所: 名古屋工業大学
  • 年月日: 2012-02-01
• [学会発表] Relative density-ratio estimation for robust distribution comparison (2011)
  • 著者名/発表者名: M. Yamada, T. Suzuki, T. Kanamori, H. Hachiya, and M. Sugiyama
  • 学会等名: Neural Information Processing Systems
  • 発表場所: Granada, Spain
  • 年月日: 2011-12-13
• [学会発表] Relative density-ratio estimation for robust distribution comparison (2011)
  • 著者名/発表者名: Yamada, M., Suzuki, T., Kanamori, T., Hachiya, H., Sugiyama, M
  • 学会等名: Neural Information Processing Systems (NIPS2011)
  • 発表場所: Granada, Spain
  • 年月日: 2011-12-13
• [学会発表] f-divergence estimation and two-sample homogeneity test under semiparametric density-ratio models (2011)
  • 著者名/発表者名: T.Kanamori, T.Suzuki, M.Sugiyama
  • 学会等名: 情報理論とその応用シンポジウム
  • 発表場所: 岩手
  • 年月日: 2011-11-29
• [学会発表] ロバスト最適化による判別モデル (2011)
  • 著者名/発表者名: 武田朗子, 参木裕之, 金森敬文
  • 学会等名: 情報論的学習理論ワークショップ
  • 発表場所: 奈良女子大学
  • 年月日: 2011-11-09
• [学会発表] Multiscale Bagging with Applications to Classification and Active Learning (2010)
  • 著者名/発表者名: Shimodaira H.Kanamori T., Masayoshi A., Kouta Mine
  • 学会等名: The 2nd Asian Conference on Machine Learning
  • 発表場所: Tokyo
  • 年月日: 2010-11-10
• [学会発表] Multiscale-bagging with Applications to Classification (2010)
  • 著者名/発表者名: A.Masayoshi, Kanamori T., Shimodaira H
  • 学会等名: The 2nd Asian Conference on Machine Learning
  • 発表場所: Tokyo
  • 年月日: 2010-11-10
• [学会発表] A Bregman extension of quasi-Newton updates (2010)
  • 著者名/発表者名: T. Kanamori and A. Ohara
  • 学会等名: Information Geometry and its Applications
  • 発表場所: Germany
  • 年月日: 2010-08-02
• [学会発表] A Bregman extension of quasi-Newton updates (2010)
  • 著者名/発表者名: Kanamori T., Ohara Atsumi
  • 学会等名: Information Geometry and its Applications
  • 発表場所: Leipzig, Germany
  • 年月日: 2010-08-02
• [学会発表] Direct density ratio estimation with dimensionality reduction SIAM (2010)
  • 著者名/発表者名: Sugiyama, M., Hara, S., von Bunau, P., Suzuki, T., Kanamori, T.,& Kawanabe, M
  • 学会等名: International Conference on Data Mining Columbus
  • 発表場所: Ohio, USA
  • 年月日: 2010-05-29
• [学会発表] Direct density ratio estimation with dimensionality reduction (2010)
  • 著者名/発表者名: Sugiyama, M., Hara, S., von Bunau, P., Suzuki, T., Kanamori, T., Kawanabe, M
  • 学会等名: the 10th SIAM International Conference on Data Mining
  • 発表場所: Ohio, USA
  • 年月日: 2010-05-29
• [学会発表] Conditional density estimation via least-squares density ratio estimation (2010)
  • 著者名/発表者名: Sugiyama, M., Takeuchi, I., Kanamori, T., Suzuki, T., Hachiya, H., Okanohara, D
  • 学会等名: Thirteenth International Conference on Artificial Intelligence and Statistics
  • 発表場所: Sardinia, Italy
  • 年月日: 2010-05-13
• [学会発表] A Bregman extension of quasi-Newton updates. (2010)
  • 著者名/発表者名: Kanamori T., Ohara Atsumi
  • 学会等名: Information Geometry and its Applications
  • 発表場所: Germany
• [学会発表] Kouta Mine Multiscale Bagging with Applications to Classification and Active Learning. (2010)
  • 著者名/発表者名: Shimodaira H., Kanamori T., Masayoshi A.
  • 学会等名: The 2nd Asian Conference on Machine Learning
  • 発表場所: Tokyo, Japan.
• [学会発表] Efficient direct importance estimation for covariate shift adaptation and outlier detection (2009)
  • 著者名/発表者名: Kanamori, T.
  • 学会等名: The 1st Institute of Mathematical Statistics, Asia Pacific Rim Meeting
  • 発表場所: Seoul
  • 年月日: 2009-06-28
• [学会発表] Condition Number Analysis of Kernel-based Density Ratio Estimation (2009)
  • 著者名/発表者名: T. Kanamori, T. Suzuki, M. Sugiyama
  • 学会等名: Numerical Mathematics in Machine Learning(NUMML2009)
  • 発表場所: Montreal, Canada
  • 年月日: 2009-06-18
• [学会発表] Condition Number Analysis of Kernel-based Density Ratio Estimation. (2009)
  • 著者名/発表者名: T. Kanamori, T. Suzuki, M. Sugiyama
  • 学会等名: ICML workshop on Numerical Mathematics in Machine Learning
  • 発表場所: Montreal Canada
• [学会発表] Efficient direct importance estimation for covariate shift adaptation and outlier detection. (2009)
  • 著者名/発表者名: T. Kanamori
  • 学会等名: The 1st Institute of Mathematical Statistics
  • 発表場所: Asia Pacific Rim Meeting, Seoul
• [学会発表] Efficient Direct Density Ratio Estimation for Non-stationarity Adaptation and Outlier Detection (2008)
  • 著者名/発表者名: T. Kanamori, M. Sugiyama, and S. Hido
  • 学会等名: Neural Information Processing Systems
  • 発表場所: Vancouver, B. C., Canada
  • 年月日: 2008-12-16
• [学会発表] Efficient Direct Density Ratio Estimation for Non-stationarity Adaptation and Outlier Detection (2008)
  • 著者名/発表者名: Takafumi Kanamori, Masashi Sugivama, and Shohei Hido
  • 学会等名: Neural Information Processing Systems
  • 発表場所: カナダ・バンクーバ
  • 年月日: 2008-12-16
• [学会発表] Shohei Hido Efficient Direct Density Ratio Estimation for Non-stationarity (2008)
  • 著者名/発表者名: Takafumi Kanamori, Masashi Sugiyama
  • 学会等名: Adaptation and Outlier Detection NIPS
  • 発表場所: Vancouver, Canada
• [図書] Density Ratio Estimation in Machine Learning (2012)
  • 著者名/発表者名: M. Sugiyama, T. Suzuki, T. Kanamori
  • 出版者: Cambridge University Press
• [図書] Density Ratio Estimation in Machine Learning (2012)
  • 著者名/発表者名: Masashi Sugiyama, Taiji Suzuki, Takafumi Kanamori
  • 出版者: Cambridge University Press
• [図書] 数理工学辞典 (2012)
  • 著者名/発表者名: 茨木俊秀, 片山徹, 藤重悟(監修)
  • 出版者: 朝倉出版
• [図書] パターン認識(Rで学ぶデータサイエンス5) (2009)
  • 著者名/発表者名: 金森敬文,竹之内高志,村田昇
  • 出版者: 共立出版
• [図書] パターン認識(Rで学ぶデータサイエンス5) (2009)
  • 著者名/発表者名: 金森敬文, 竹之内高志, 村田昇
  • 総ページ数: 274
  • 出版者: 共立出版
• [図書] Chapter contribution(Geometry of Covariate Shift with Applications to Active Learning, Dataset Shift in Machine Learning) (2008)
  • 著者名/発表者名: T. Kanamori, H. Shimodaira
  • 出版者: MIT Press