2017 Fiscal Year Annual Research Report
Accelerated (sub)gradient methods for large-scale convex optimization problems - with emphasis in the theoretical aspects of the implementation and its applications -
| Project/Area Number |
26330024
|
|---|
| Research Institution | Tokyo Institute of Technology |
|---|
Principal Investigator |
福田 光浩 東京工業大学, 情報理工学院, 准教授 (80334548)
|
|---|
| Project Period (FY) |
2014-04-01 – 2018-03-31
|
| Keywords | 凸最適化問題 / 加速勾配法 / 一次法 / 分散共分散行列推定 / 最急降下法 / 加速劣勾配法 |
|---|
| Outline of Annual Research Achievements |
構造を有する最適化問題に対しては，特化したアルゴリズムを提案することにより高速化が実現できるが，凸最適化問題もその例外とはならない。近年，特に目的関数の（劣）勾配の情報を用いた手法が，所謂一次法が盛んに研究され，本研究もその一片に貢献する予定である。
本研究でまず取り組んでいる疎性をもつ（逆）分散共分散行列推定問題は，行列を変数としてもつ凸最適化問題である。この問題に対して，提案しているスペクトル射影勾配法は，通常計算が困難な射影を分割して行い，近似点によって代用してアルゴリズムを構築している。この代用により，アルゴリズムが収束することも理論的に証明できている。数値実験に関しては，疑似乱数によって生成された（逆）分散共分散行列推定問題に対してこのアルゴリズムと既存手法を比較して精度と計算速度において優れている結果が得られた。
もう一つのテーマは最も基本的な凸最適化問題である狭義２次凸関数の最小化に対する発見的な最急降下法に関してである。この手法では，引き続き，数値実験の高速収束を説明する理論の本質的な挙動を解明する必要があることが分かった。
最後に，未知のパラメータによって定まる構造を持った凸最適化問題に対する加速（劣）勾配法に関しては，初期点の再出発を行うことにより，未知なパラメータの推定を行うことができた。また，予め決定した最適値との誤差精度を保証するこの手法の反復回数の上限も見積もることに成功した。
|
