| 研究課題/領域番号 |
18K11178
|
|---|
| 研究機関 | 東京工業大学 |
|---|
研究代表者 |
福田 光浩 東京工業大学, 情報理工学院, 准教授 (80334548)
|
|---|
| 研究期間 (年度) |
2018-04-01 – 2021-03-31
|
| キーワード | 加速（劣）勾配法 / 凸最適化問題 / 一次法 / 凸関数 / 常微分方程式 / 停止条件 |
|---|
| 研究実績の概要 |
社会の諸問題解決を目指す確率的な要素を持たない数理モデルの中でも、特に大規模な凸最適化問題に話を限定する。それらの問題は、機械学習の分野で登場したり、より複雑な非線形最適化問題の近似的かつ現実的なアプローチとして注目を浴びている。大規模凸最適化問題に対して、最小化したい凸関数の関数値や（劣）勾配のみを用いた加速（劣）勾配法（１次法とも呼ばれる）による解法が近年、情熱的に研究されている。これらの特徴として、各反復に要する計算時間を一定に抑えることができる一方、反復回数が従来の方法より多くなるというデメリットがある。よって、アルゴリズムの反復回数が議論の対象となる。
そんな中、凸最適化問題に対する加速勾配法を適用することによって得られた点列とある常微分方程式の時間軸による軌道が一致する研究が存在する。本年度は最近の加速勾配法の亜種に対する新しい常微分方程式を定式化し、それぞれの関連性を海外交流学生と検証を行った。
次に、加速勾配法によって生成される点列において評価した勾配のノルムの値を加速勾配法の停止条件として用いる設定を考える。つまり、ある誤差ε>0 以内にそのノルム値を抑えるために必要とする最悪の反復数の上限について、新しい予測ができ、数値実験による確認も行った。これは、大学院生との共同研究による成果である。
最後に、連携研究者と一般的に用いられる条件よりは弱い条件のもと、凸最適化問題に対して、パラメータを変更しながら繰り返して加速（劣）勾配法を適用することにより、このアルゴリズムの総合反復回数の上限を見積もることに成功した。
|
| 現在までの達成度 (区分) |
現在までの達成度 (区分)
2: おおむね順調に進展している
理由
凸最適化問題に対する加速勾配法によって得られた点列とある常微分方程式の時間軸による軌道が一致する研究について、まず述べる。当初予定していた仮定とは異なる設定のもとでの予測ができたことは好ましいことであるが、更なる証明の検証と数値実験による裏付けが必要である。
加速勾配法によって生成される点列において評価した勾配のノルムを停止条件として用いることについては、既存研究を少し拡張する成果が得られたので、目標以上の成果が達成できたこととなる。
最後に、一般的な条件よりは弱い凸最適化問題に対する、最大反復回数の算出については、現在、成果をまとめて、学術雑誌に投稿する準備を行っている。
|
| 今後の研究の推進方策 |
最優先で取り組みたいのが、加速勾配法によって得られた点列とある常微分方程式の時間軸による軌道が一致する課題である。従来の解釈とは少し異なる結果であるため、更なる証明の検証、結果の解釈、そして、数値実験による確認が必要となる。
加速勾配法によって生成される点列における勾配のノルムによる停止条件については、引き続き、具体的な関数などによる解析が必要となる。また、それにより、新しい発見があれば、その成果が論文としてまとまり得る。さらに、副産物として、過去に予想されていた結果の解決にもなる。
加速（劣）勾配法の古典的な目的は予め設定した誤差以内の近似最適値を達成する最大反復数を見積もることである。しかし、実装においてより実用的となる生成される勾配列のノルムを考慮するアプローチによる結果も昔から細々と存在し、Nesterov の意味での「最適な」アルゴリズムを新しく発見する、もしくは、その「最適な」アルゴリズムが存在しないことを証明することを今後の大きな目標として、研究計画を進める予定である。
|
| 次年度使用額が生じた理由 |
本年度、国際会議へ出席できなかったため、当初予定していた予算通りに執行できなかった。次年度の国際会議出席費用に使用予定。
|
