2020 Fiscal Year Annual Research Report
Development of efficient subgradient methods for convex optimization exploiting the problem structure
| Project/Area Number |
17K12645
|
|---|
| Research Institution | Nihon University |
|---|
Principal Investigator |
伊藤 勝 日本大学, 理工学部, 助手 (90778375)
|
|---|
| Project Period (FY) |
2017-04-01 – 2021-03-31
|
| Keywords | 凸最適化 / 一次法 / 加速勾配法 / ヘルダー条件 / エラーバウンド |
|---|
| Outline of Annual Research Achievements |
凸最適化問題に対する勾配アルゴリズムの構築について、この問題がヘルダー型エラーバウンドという条件を満たす場合は多様な応用を含んでおり、実用的なアルゴリズムの構築が重要である。本研究ではこの問題を主要な研究テーマとして調査し、エラーバウンドに適応的な性能を発揮する勾配アルゴリズムの構築に成功した。この研究成果は学術雑誌に発表された。この研究成果では、問題構造のパラメータが未知であっても適応的に準最適な収束率を保証しており、さらに計算可能な停止条件のもとで理論保証が得られていることから、実用性と汎用性の高い応用が期待される。この成果に関して、より一般的なエラーバウンドのもとでも提案手法が有意義な収束率を発揮することが示唆されるため、さらに汎用性の高いアルゴリズムの構築を目指して、エラーバウンドの一般化や非凸最適化問題での考察に着手した。特に、非凸最適化問題を含めた場合に、射影を使わない一次法のひとつである Frank-Wolfe 法について研究を行った。目的関数の勾配がヘルダー条件という性質を満たす場合は複数のパラメータが混在しており、有意義なステップ幅の構築が重要な課題である。本研究ではこのヘルダー条件のパラメータを知ることなく適応的な収束率を保証するステップ幅の確立に成功した。本研究で確立したステップ幅は、既存のステップ幅の選択規則に比べてより広い問題のクラスでより良い収束率を保証し、計算可能な停止条件を持つという点で、高い汎用性が期待される。
|
