2019 Fiscal Year Research-status Report
Toward investigating the intrinsic mechanism of accelerated (sub)gradient methods for convex optimization problems
| Project/Area Number |
18K11178
|
|---|
| Research Institution | Tokyo Institute of Technology |
|---|
Principal Investigator |
福田 光浩 東京工業大学, 情報理工学院, 准教授 (80334548)
|
|---|
| Project Period (FY) |
2018-04-01 – 2021-03-31
|
| Keywords | 加速（劣）勾配法 / 凸最適化問題 / 一次法 / 停止条件 / DC最適化問題 |
|---|
| Outline of Annual Research Achievements |
凸最適化問題とは社会における実問題の数理モデルの一つであり、凸関数の最小化を凸集合上に限って行う最適化問題である。連続最適化問題の中でも比較的簡単に解ける問題に部類されることが多い。しかし、関数が微分可能でなかったり、問題自体が大規模になると、解法に工夫を施す必要が生じ、数ある手法の中でも加速（劣）勾配法が有効な手法の一つとして近年注目を浴びている。
凸最適化問題において、ある曲率の条件を満たす関数に限定した時の考察を行った。この条件を定めるパラメータが未知でも手法を再帰的に初期点として再出発をすることにより、十分な収束を保証する加速劣勾配法を連携研究者が主だって共に提案をした。特に、実用的に有効と思われる勾配のノルムを用いた停止条件をも考慮した手法である。この結果により、従来、未知であった設定における同手法の収束性も見積もることが出来ようになった。
さらに、凸最適化問題ではないが、複合非凸な関数の最適化問題において、DC（Difference of Convex）最適化に基づく手法を提案した。これは、近接点法やDC最適化問題を解く手法と、さらにBregman距離をも用いた手法である。提案した手法の中でも、部分問題における探索を行うことにより、少し加速することが可能になった。応用として、位相回復において従来とは異なる定式化により、この手法が適用可能となり、数値実験の結果でも従来の手法より優れていることが確認出来た。
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
ある曲率の条件を満たす凸関数に対する加速劣勾配法については、新しい結果が得られたので、論文に取りまとめ、国際学術雑誌に投稿中である。
複合非凸な関数の最適化問題に対する DC（Difference of Convex）最適化に基づく手法に関する研究については、提案した手法の論理的な収束と応用問題における数値実験による結果が得られたので、論文に取りまとめ中で、国際学術雑誌の投稿する予定である。
その他、継続事項である、加速勾配法と常微分方程式の時間軸による軌道の関連性については、推し進める必要がある。
|
| Strategy for Future Research Activity |
引き続き、加速勾配法によって得られる点列とある常微分方程式の時間軸による軌道が一致する課題については、検証と理論的な結果の整理が必要となっている。
この研究の延長として、数値実験を行い、比類する手法との比較を通して、各手法の優劣を検証する必要がある。
複合非凸な関数の最適化問題については、近接点法の収束性を保証する為に、複数の仮定が必要となっているが、それらの仮定を一つ一つ弱くして、より一般的な理論的な結果を目指すことを検討している。このことが達成できることにより、さらに広いクラスの応用問題にこの手法が適用可能となる。
|
| Causes of Carryover |
３月に予定をしていた国際会議と国内会議への出席および発表が、開催直前にキャンセルになったため、前倒しをして使用する経費が次年度に持ち越された。よって、次年度において、国内もしくは国際会議が開催されるという前提のもと、成果発表を行う予定である。
|
