2020 Fiscal Year Annual Research Report
Stochastic Fixed Point Optimization Algorithm and Its Application to Ensemble Learning
Project/Area Number |
18K11184
|
Research Institution | Meiji University |
Principal Investigator |
飯塚 秀明 明治大学, 理工学部, 専任教授 (50532280)
|
Project Period (FY) |
2018-04-01 – 2021-03-31
|
Keywords | 確率的最適化 / 不動点 / アンサンブル学習 / 最適化アルゴリズム |
Outline of Annual Research Achievements |
アンサンブル学習とは、複数の学習器を訓練し、それらを組み合わせて将来を予測することができる最先端の学習法である。各学習器は、ニューラルネットワーク等に関する従来学習アルゴリズムを、訓練用データから得られる最適化問題に適用することで生成される。しかしながら、ノイズに対する頑強なアンサンブル構築のための疎性(sparsity)と安定したアンサンブル構築のための多様性(diversity)とを考慮したアンサンブル学習においては、従来の学習アルゴリズムでは適用できない大規模かつ複雑な確率的最適化問題を解決する必要がある。本研究の目的は、このような最適化問題を解くことが可能な新学習アルゴリズムに基づく新アンサンブル学習法を開発することである。
令和二年度では、前年度に提案した、上記の問題を解くことが可能な「確率的不動点最適化アルゴリズム」(2020年ジャーナル IEEE Transactions on Cybernetics に採択)の加速手法を提案し、その収束解析についても提案することができた(2021年ジャーナル Fixed Point Theory and Algorithms for Sciences and Engineering に採択)。この成果により、アンサンブル学習に現れる大規模かつ複雑な確率的最適化問題を高速に解決することが可能となり、結果として、本研究課題の最終目標であった提案アンサンブル学習法の高速かつ高精度分類性を達成することができた。
|
Research Products
(8 results)