2018 Fiscal Year Annual Research Report
Development of Riemannian conjugate gradient methods and their applications to large-scale problems
| Project/Area Number |
16K17647
|
|---|
| Research Institution | Kyoto University |
|---|
Principal Investigator |
佐藤 寛之 京都大学, 情報学研究科, 特定准教授 (80734433)
|
|---|
| Project Period (FY) |
2016-04-01 – 2019-03-31
|
| Keywords | 最適化 / アルゴリズム / 応用数学 / 数理工学 / 幾何学 |
|---|
| Outline of Annual Research Achievements |
本年度は最新の確率的最適化手法をリーマン多様体上に拡張する研究3件を，最適化分野のトップジャーナルの一つである SIAM Journal on Optimization および，機械学習分野のトップカンファレンスである International Conference on Artificial Intelligence and Statistics, International Conference on Machine Learning で発表した．具体的には，リーマン多様体上の stochastic variance reduced gradient algorithm, stochastic quasi-Newton algorithm, stochastic recursive gradient algorithm を提案し，詳細な収束性解析および数値実験による実証を行った．これらはいずれもビッグデータを伴う機械学習などに現れる大規模な最適化問題に対して有効な解法であり，制約条件がある場合でも実行可能領域がリーマン多様体であれば適用できる．特に，stochastic recursive gradient algorithm は，過去の探索方向の情報を用いるというアイディアが共役勾配法と共通している．
また，一般化シュティーフェル多様体上で，共役勾配法を含む様々な最適化手法において必要なレトラクションの計算法について，コレスキーQR分解に基づく効果的なアルゴリズムを提案するとともに，その効率的な実装方法や，より一般の多様体上のレトラクションについての理論を構築した．数値実験による結果も良好で，提案手法の有効性を実証することができた．これらの結果をまとめた論文を Computational Optimization and Applications にて発表した．
|
