動的に変化する環境下での機械学習

• 研究課題/領域番号: 20680007
• 研究種目: 若手研究(A)
• 配分区分: 補助金
• 研究分野: 知能情報学
• 研究機関: 東京工業大学
• 研究代表者: 杉山 将 東京工業大学, 大学院・情報理工学研究科, 准教授 (90334515)
• 研究期間 (年度): 2008 – 2011
• 研究課題ステータス: 完了 (2011年度)
• 配分額: 25,480千円 (直接経費: 19,600千円、間接経費: 5,880千円); 2011年度: 4,160千円 (直接経費: 3,200千円、間接経費: 960千円); 2010年度: 6,110千円 (直接経費: 4,700千円、間接経費: 1,410千円); 2009年度: 6,110千円 (直接経費: 4,700千円、間接経費: 1,410千円); 2008年度: 9,100千円 (直接経費: 7,000千円、間接経費: 2,100千円)
• キーワード: 学習と知識獲得 / 知能情報処理 / 機械学習 / データマイニング / 非定常環境適応 / 共変量シフト / 重点サンプリング / 重要度重み / ロボット制御 / 強化学習 / 政策反復法 / 政策探索法 / 非定常環境 / 密度比推定

研究概要

従来の機械学習の研究では,データが生成される環境が時間とともに変化しないという大前提のもとで理論やアルゴリズムが構築されてきた.しかしながら,近年の応用場面ではそのような定常性が成り立たない場合が多い.そこで本研究プロジェクトでは,環境の変化に対応するための基礎理論,および,実用的なアルゴリズム開発を行なった.そして,その成果をロボティックス,画像認識,脳波解析,音声識別,自然言語処理など様々な分野に応用した.

研究成果

• [雑誌論文] Lighting condition adaptation for perceived age estimation (2011)
  • 著者名/発表者名: Ueki, K., Sugiyama, M., & Ihara, Y.
  • 雑誌名: Transactions on Information and Systems 巻: vol.E94-D, no.2 ページ: 392-395
  • NAID: 130000453904
  • 査読あり
• [雑誌論文] Reward weighted regression with sample reuse for direct policy search in reinforcement learning (2011)
  • 著者名/発表者名: Hachiya, H., Peters, J., & Sugiyama M.
  • 雑誌名: Neural Computation 巻: vol.23, no.11 ページ: 2798-2832
  • 査読あり
• [雑誌論文] Reward weighted regression with sample reuse for direct policy search in reinforcement learning (2011)
  • 著者名/発表者名: Hachiya, H., Peters, J., Sugiyama, M.
  • 雑誌名: Neural Computation 巻: 23 ページ: 2798-2832
  • 査読あり
• [雑誌論文] Dimensionality reduction for density ratio estimation in high-dimensional spaces (2010)
  • 著者名/発表者名: Sugiyama, M., Kawanabe, M., & Chui, P. L.
  • 雑誌名: Neural Networks 巻: vol.23, no.1 ページ: 44-59
  • NAID: 130008079586
  • 査読あり
• [雑誌論文] Semi-supervised speaker identification under covariate shift (2010)
  • 著者名/発表者名: Yamada, M., Sugiyama, M., & Matsui, T.
  • 雑誌名: Signal Processing 巻: vol.90, no.8 ページ: 2353-2361
  • NAID: 130008079628
  • 査読あり
• [雑誌論文] Efficient exploration through active learning for value function approximation in reinforcement learning (2010)
  • 著者名/発表者名: Akiyama, T., Hachiya, H., & Sugiyama, M.
  • 雑誌名: Neural Networks 巻: vol.23, no.5 ページ: 639-648
  • NAID: 130008079582
  • 査読あり
• [雑誌論文] Application of covariate shift adaptation techniques in brain computer interfaces (2010)
  • 著者名/発表者名: Li, Y., Kambara, H., Koike, Y., & Sugiyama, M.
  • 雑誌名: IEEE Transactions on Biomedical Engineering 巻: vol.57, no.6 ページ: 1318-1324
  • 査読あり
• [雑誌論文] Application of covariate shift adaptation techniques in brain computer interfaces. (2010)
  • 著者名/発表者名: Li, Y., Kambara, H., Koike, Y., Sugiyama, M.
  • 雑誌名: IEEE Transactions on Biomedical Engineering vol.57, no.6 ページ: 1318-1324
  • URL: http://sugiyama-www.cs.titech.ac.jp/~sugi/2010/BIWLDA.pdf
• [雑誌論文] Efficient exploration through active learning for value function approximation in reinforcement learning. (2010)
  • 著者名/発表者名: Akiyama, T., Hachiya, H., Sugiyama, M.
  • 雑誌名: NeuralNetworks vol.23, no.5 ページ: 639-648
  • NAID: 130008079582
  • URL: http://sugiyama-www.cs.titech.ac.jp/~sugi/2010/API.pdf
• [雑誌論文] Semi-supervised speaker identification under covariate shift. (2010)
  • 著者名/発表者名: Yamada, M., Sugiyama, M., Matsui, T.
  • 雑誌名: Signal Processing vol.90, no.8 ページ: 2353-2361
  • NAID: 130008079628
  • URL: http://sugiyama-www.cs.titech.ac.jp/~sugi/2010/IWKLR.pdf
• [雑誌論文] Semi supervised speaker identification under covariate shift. (2010)
  • 著者名/発表者名: Yamada, M., Sugiyama, M., Matsui, T.
  • 雑誌名: Signal Processing 巻: 90 ページ: 2353-2361
  • NAID: 130008079628
  • 査読あり
• [雑誌論文] Application of covariate shift adaptation techniques in brain computer interfaces. (2010)
  • 著者名/発表者名: Li, Y., Kambara, H., Koike, Y., Sugiyama, M.
  • 雑誌名: IEEE Trans.on Biomedical Engineering 巻: 57 ページ: 1318-1324
  • 査読あり
• [雑誌論文] Efficient exploration through active learning for value function approximation in reinforcement learning. (2010)
  • 著者名/発表者名: Akiyama, T., Hachiya, H., Sugiyama, M.
  • 雑誌名: Neural Networks 巻: 23 ページ: 639-648
  • NAID: 130008079582
  • 査読あり
• [雑誌論文] Direct density ratio estimation for large-scale covariate shift adaptation (2009)
  • 著者名/発表者名: Tsuboi, Y., Kashima, H., Hido, S., Bickel, S., & Sugiyama, M.
  • 雑誌名: Journal of Information Processing 巻: vol.17 ページ: 138-155
  • NAID: 130000120692
• [雑誌論文] Pool-based active learning in approximate linear regression (2009)
  • 著者名/発表者名: ugiyama, M. & Nakajima, S
  • 雑誌名: Machine Learning 巻: vol.75, no.3 ページ: 249-274
  • 査読あり
• [雑誌論文] A least-squares approach to direct importance estimation (2009)
  • 著者名/発表者名: Kanamori, T., Hido, S., & Sugiyama, M.
  • 雑誌名: Journal of Machine Learning Research 巻: vol.10 ページ: 1391-1445
  • 査読あり
• [雑誌論文] A density-ratio framework for statistical data processing (2009)
  • 著者名/発表者名: Sugiyama, M., Kanamori, T., Suzuki, T., Hido, S., Sese, J., Takeuchi, I., & Wang, L.
  • 雑誌名: IPSJ Transactions on Computer Vision and Applications 巻: vol.1 ページ: 183-208
  • NAID: 130000140299
  • 査読あり
• [雑誌論文] Direct importance estimation with Gaussian mixture models (2009)
  • 著者名/発表者名: Yamada, M. & Sugiyama, M
  • 雑誌名: IEICE Transactions on Information and Systems 巻: vol.E92-D, no.10 ページ: 2159-2162
  • NAID: 10026811983
  • 査読あり
• [雑誌論文] Adaptive importance sampling for value function approximation in off-policy reinforcement learning (2009)
  • 著者名/発表者名: Hachiya, H., Akiyama, T., Sugiyama, M., & Peters, J.
  • 雑誌名: Neural Networks 巻: vol.22, no.10 ページ: 1399-1410
  • 査読あり
• [雑誌論文] Adaptive importance sampling for value function approximation in off-policy reinforcement learning. (2009)
  • 著者名/発表者名: Hachiya, H., Akiyama, T., Sugiyama, M., Peters, J.
  • 雑誌名: Neural Networks vol.22, no.10 ページ: 1399-1410
  • URL: http://sugiyama-www.cs.titech.ac.jp/~sugi/2009/SRPI.pdf
• [雑誌論文] Pool-based active learning in approximate linear regression. (2009)
  • 著者名/発表者名: Sugiyama, M., Nakajima, S.
  • 雑誌名: Machine Learning vol.75, no.3 ページ: 249-274
  • URL: http://sugiyama-www.cs.titech.ac.jp/~sugi/2009/PALICE.pdf
• [雑誌論文] A least-squares approach to direct importance estimation. (2009)
  • 著者名/発表者名: Kanamori, T., Hido, S., Sugiyama, M.
  • 雑誌名: Journal of Machine Learning Research vol.10 (Jul.) ページ: 1391-1445
  • URL: http://sugiyama-www.cs.titech.ac.jp/~sugi/2009/LSIF.pdf
• [雑誌論文] A least-squares approach to direct importance estimation (2009)
  • 著者名/発表者名: Kanamori, T., Hido, S., Sugiyama, M.
  • 雑誌名: Journal of Machine Learning Research 10 ページ: 1391-1445
  • 査読あり
• [雑誌論文] A density-ratio framework for statistical data processing (2009)
  • 著者名/発表者名: Sugiyama, M., Kanamori, T., Suzuki, T., Hido, S., Sese, J., Takeuchi, I., Wang, L.
  • 雑誌名: IPSJ Transactions on Computer Vision and Applications 1 ページ: 183-208
  • NAID: 130000140299
  • 査読あり
• [雑誌論文] Adaptive importance sampling for value function approximation in off-policy reinforcement learning (2009)
  • 著者名/発表者名: Hachiya, H., Akiyama, T., Sugiyama, M., Peters, J
  • 雑誌名: Neural Networks 22 ページ: 1399-1410
  • 査読あり
• [雑誌論文] Direct importance estimation for covariate shift adaptation (2008)
  • 著者名/発表者名: Sugiyama, M., Suzuki, T., Nakajima, S., Kashima, H., von Bunau, P., & Kawanabe, M.
  • 雑誌名: Annals of the Institute of Statistical Mathematics 巻: vol.60, no.4 ページ: 699-746
  • 査読あり
• [雑誌論文] A batch ensemble approach to active learning with model selection (2008)
  • 著者名/発表者名: Sugiyama, M. & Rubens, N.
  • 雑誌名: Neural Networks 巻: vol.21, no.9 ページ: 1278-1286
  • 査読あり
• [雑誌論文] Direct importance estimation for covariate shift adaptation. (2008)
  • 著者名/発表者名: Sugiyama, M., Suzuki, T., Nakajima, S., Kashima, H., von Bunau, P., Kawanabe, M.
  • 雑誌名: Annals of the Institute of Statistical Mathematics vol.60, no.4 ページ: 699-746
  • URL: http://sugiyama-www.cs.titech.ac.jp/~sugi/2008/KLIEP.pdf
• [雑誌論文] Direct importance estimation for covariate shift adaptation. (2008)
  • 著者名/発表者名: Sugiyama, M., Suzuki, T., Nakajima, S., Kashima, H., von Biinau, P. & Kawanabe, M
  • 雑誌名: Annals of the Institute of Statistical Mathematics 60(4) ページ: 699-746
  • 査読あり
• [雑誌論文] Adaptive importance sampling for value function approximation in off-policy reinforcement learning
  • 著者名/発表者名: Hachiya, H., Akiyama, T., Sugiyama, M., & Peters, J
  • 雑誌名: Neural Network
  • 査読あり
• [学会発表] Perceived age estimation under lighting condition change by covariate shift adaptation (2010)
  • 著者名/発表者名: Ueki, K., Sugiyama, M., & Ihara, Y.
  • 学会等名: In Proceedings of 20th International Conference on Pattern Recognition(ICPR2010)
  • 発表場所: Istanbul, Turkey
• [学会発表] Automatic audio tagging using covariate shift adaptation (2010)
  • 著者名/発表者名: Wichern, G., Yamada, M., Thornburg, H., Sugiyama, M., & Spanias, A.
  • 学会等名: In Proceedings of IEEE International Conference on Acoustics, Speech, and Signal Processing(ICASSP2010)
  • 発表場所: Dallas, Texas, USA
• [学会発表] Perceived age estimation under lighting condition change by covariate shift adaptation. (2010)
  • 著者名/発表者名: Ueki, K., Sugiyama, M., Ihara, Y.
  • 学会等名: 20th International Conferenceon Pattern Recognition (ICPR2010)
  • URL: http://sugiyama-www.cs.titech.ac.jp/~sugi/2010/ICPR2010a.pdf
  • 発表場所: Istanbul, Turkey
• [学会発表] Perceived age estimation under lighting condition change by covariate shift adaptation. (2010)
  • 著者名/発表者名: Ueki, K., Sugiyama, M., Ihara, Y.
  • 学会等名: 20th International Conference on Pattern Recognition(ICPR2010)
  • 発表場所: イスタンブール,トルコ
• [学会発表] A framework of adaptive brain computer interfaces (2009)
  • 著者名/発表者名: Li, Y., Koike, Y., & Sugiyama, M.
  • 学会等名: In Proceedings of the 2nd International Conference on BioMedical Engineering and Informatics(BMEI09)
  • 発表場所: Tianjin, China
• [学会発表] Efficient sample reuse in EM-based policy search (2009)
  • 著者名/発表者名: Hachiya, H., Peters, J., & Sugiyama, M.
  • 学会等名: Presented at the European Conference on Machine Learning and Principles and Practice of Knowledge Discovery in Databases(ECML-PKDD2009)
  • 発表場所: Berlin, Springer, Bled, Slovenia
• [学会発表] Active policy iteration : Efficient exploration through active learning for value function approximation in reinforcement learning (2009)
  • 著者名/発表者名: Akiyama, T., Hachiya, H., & Sugiyama, M
  • 学会等名: In Proceedings of the Twenty-First International Joint Conference on Artificial Intelligence(IJCAI2009)
  • 発表場所: Pasadena, California, USA
• [学会発表] Covariate shift adaptation for semi-supervised speaker identification (2009)
  • 著者名/発表者名: Yamada, M., Sugiyama, M., & Matsui, T.
  • 学会等名: In Proceedings of IEEE International Conference on Acoustics, Speech, and Signal Processing(ICASSP2009)
  • 発表場所: Taipei, Taiwan
• [学会発表] Efficient sample reuse in EM-based policy search. (2009)
  • 著者名/発表者名: Hachiya, H., Peters, J., Sugiyama, M.
  • 学会等名: European Conference on Machine Learning and Principles and Practice of Knowledge Discovery in Databases(ECML-PKDD2009)
  • URL: http://sugiyama-www.cs.titech.ac.jp/~sugi/2009/ECML-PKDD2009.pdf
  • 発表場所: Bled, Slovenia
• [学会発表] Active policy iteration: Efficient exploration through active learning for value function approximation in reinforcement learning. (2009)
  • 著者名/発表者名: Akiyama, T., Hachiya, H., Sugiyama, M.
  • 学会等名: Twenty-FirstInternational Joint Conference onArtificial Intelligence (IJCAI2009)
  • URL: http://sugiyama-www.cs.titech.ac.jp/~sugi/2009/IJCAI2009.pdf
  • 発表場所: Pasadena, California
• [学会発表] Active policy iteration : Efficient exploration through active learning for value function approximation in reinforcement learning (2009)
  • 著者名/発表者名: Akiyama, T., Hachiya, H., Sugiyama, M.
  • 学会等名: Twenty-First International Joint Conference on Artificial Intelligence(IJCAI2009)
  • 発表場所: Pasadena, USA
• [学会発表] Efficient direct density ratio estimation for non-stationarity adaptation and outlier detection (2008)
  • 著者名/発表者名: Kanamori, T., Hido, S., & Sugiyama, M.
  • 学会等名: In D. Koller, D. Schuurmans, Y. Bengio, and L. Botton(Eds.), Advances in Neural Information Processing Systems 21,(Presented at Neural Information Processing Systems(NIPS2008), Vancouver, British Columbia
  • 発表場所: Cambridge, MA, MIT Press, Canada, Dec
  • 年月日: 2008-08-13
• [学会発表] Pool-based agnostic experiment design in linear regression (2008)
  • 著者名/発表者名: Sugiyama, M. & Nakajima, S
  • 学会等名: Presented at the European Conference on Machine Learning and Principles and Practice of Knowledge Discovery in Databases(ECML-PKDD2008)
  • 発表場所: Berlin, Springer, Antwerp, Belgium
• [学会発表] Adaptive importance sampling with automatic model selection in value function approximation (2008)
  • 著者名/発表者名: Hachiya, H., Akiyama, T., Sugiyama, M., & Peters, J
  • 学会等名: Proceedings of the Twenty-Third AAAI Conference on Artificial Intelligence(AAAI2008)
  • 発表場所: Chicago, Illinois, USA
• [学会発表] Active learning with model selection in linear regression (2008)
  • 著者名/発表者名: Sugiyama, M. & Rubens, N
  • 学会等名: Proceedings of the Eighth SIAM International Conference on Data Mining(SDM2008)
  • 発表場所: Atlanta, Georgia, USA
• [学会発表] Direct density ratio estimation for large-scale covariate shift adaptation (2008)
  • 著者名/発表者名: Tsuboi, Y., Kashima, H., Hido, S., Bickel, S., & Sugiyama, M.
  • 学会等名: Proceedings of the Eighth SIAM International Conference on Data Mining(SDM2008)
  • 発表場所: Atlanta, Georgia, USA
• [学会発表] Efficient direct density ratio estimation for non-stationarity adaptation and outlier detection (2008)
  • 著者名/発表者名: Kanamori, T., Hido, S., Sugiyama, M.
  • 学会等名: Neural Information Processing Systems (NIPS2008)
  • URL: http://sugiyama-www.cs.titech.ac.jp/~sugi/2008/NIPS2008.pdf
  • 発表場所: Vancouver, Canada
• [学会発表] Semi-supervised speaker identification under covariate shift (2008)
  • 著者名/発表者名: Yamada, M. & Sugiyama, M
  • 学会等名: The Third International Workshop on Data-Mining and Statistical Science (DMSS2008)
  • 発表場所: 東京
• [学会発表] Direct importance estimation---A new versatile tool for statisti cal pattern recognition (2008)
  • 著者名/発表者名: Sugiyama, M., Kanamori, T, Suzuki, T., Hido, S., Sese, J., Takeuchi, I., & Wang, L
  • 学会等名: Meeting on Image Recognition and Understanding 2008 (MIRU2008)
  • 発表場所: 長野
• [図書] Machine Learning in Non-Stationary Environments : Introduction to Covariate Shift Adaptation (2012)
  • 著者名/発表者名: Sugiyama, M. & Kawanabe, M
  • 総ページ数: 308
  • 出版者: MIT Press, Cambridge, MA, USA
• [図書] Machine Learning in Non-Stationary Environments : Introduction to Covariate Shift Adaptation (2012)
  • 著者名/発表者名: Sugiyama, M., Kawanabe, M.
  • 総ページ数: 308
  • 出版者: MIT Press
• [図書] Dataset Shift in Machine Learning (2009)
  • 著者名/発表者名: Quinonero-Candela, J., Sugiyama, M., Schwaighofer, A., & Lawrence, N. D.
  • 総ページ数: 248
  • 出版者: MIT Press, Cambridge, MA, USA
• [図書] MIT Press, Cambridge, MA, USA (2009)
  • 著者名/発表者名: Quinonero-Candela, J., Sugiyama, M., Schwaighofer, A., Lawrence, N.D.(Eds.)
  • 出版者: Dataset Shift in Machine Learning
• [図書] Dataset Shift in Machine Learning (2009)
  • 著者名/発表者名: Quinonero-Candela, J., Sugiyama, M., Schwaighofer, A., & Lawrence, N. D
  • 総ページ数: 248
  • 出版者: MIT Press
• [備考]
  • URL: http://sugiyama-www.cs.titech.ac.jp/~sugi/
• [備考]
  • URL: http://sugiyama-www.cs.titech.ac.jp/~sugi/
• [備考] ソフトウェアの公開ページ
  • URL: http://sugiyama-www.cs.titech.ac.jp/~sugi/software/index.html
• [備考] ソフトウェアのページ
  • URL: http://sugiyama-www.cs.titech.acjp/~sugi/software/index.html
• [備考]
  • URL: http://sugiyama-www.cs.titech.ac.jp/~sugi/software/index.html
• [備考] ソフトウェア公開のページ
  • URL: http://sugiyama-www.cs.titech.ac.jp/~sugi/software/KLIEP/index.html