大規模最適化問題に対する自動適応性を持つ一次法の確立
| Project/Area Number |
21K17711
|
|---|
| Research Category |
Grant-in-Aid for Early-Career Scientists
|
| Allocation Type | Multi-year Fund |
|---|
| Review Section |
Basic Section 60020:Mathematical informatics-related
|
|---|
| Research Institution | Nihon University |
|---|
Principal Investigator |
伊藤 勝 日本大学, 理工学部, 助教 (90778375)
|
|---|
| Project Period (FY) |
2021-04-01 – 2025-03-31
|
| Project Status |
Granted (Fiscal Year 2023)
|
| Budget Amount *help |
¥3,640,000 (Direct Cost: ¥2,800,000、Indirect Cost: ¥840,000)
Fiscal Year 2024: ¥780,000 (Direct Cost: ¥600,000、Indirect Cost: ¥180,000)
Fiscal Year 2023: ¥780,000 (Direct Cost: ¥600,000、Indirect Cost: ¥180,000)
Fiscal Year 2022: ¥780,000 (Direct Cost: ¥600,000、Indirect Cost: ¥180,000)
Fiscal Year 2021: ¥1,300,000 (Direct Cost: ¥1,000,000、Indirect Cost: ¥300,000)
|
|---|
| Keywords | 非線形最適化問題 / 一次法 / 反復計算量 / 固有値最適化 / ペナルティ法 / ヘルダー条件 / 双曲型錐 / 自己同型群 / Frank-Wolfe 法 / 数理最適化 / 最適化アルゴリズム / エラーバウンド |
|---|
| Outline of Research at the Start |
機械学習やデータマイニングなどにおいて求解が求められる大規模な最適化問題に対して、一次法は有力なアルゴリズムとして着目され、現在活発に研究されている。一次法におけるパラメータの選択やアルゴリズム設計は一次法の収束率に影響を与えるが、問題のクラスが複雑で問題構造に関わるパラメータを事前に知らない場合では、効率的な一次法の設計が困難である。本研究では、Lojasiewicz不等式などのエラーバウンドに現れる、問題構造に関するパラメータに自動で適応して高速化する一次法の構築およびその解析手法の確立を目指す。
|
| Outline of Annual Research Achievements |
本年度の研究では、主たる研究対象である勾配法に関して、構造のある最適化問題に対する応用に取り組み、収束性や計算量に関する成果を得た。
まず第一に、一般の平滑凸関数の最小化問題に対して、勾配ノルムを停止条件に採用するとき、最適計算量を保証する適応的アルゴリズムを確立した。この成果は、強凸定数やリプシッツ定数といった問題構造に関わるパラメータが未知の場合に、最適な計算量を達成する一次法を与えており、これまで達成されていた準最適な計算量を改善することに成功した。
第二の成果として、固有値が制約条件に現れる非線形最適化問題に対して、効率的な射影勾配法の適用手法を構築した。この成果では、射影の計算を固有値ベクトルの空間に帰着することで、非凸な実行可能領域への射影が、凸集合への射影を通じて効率的に計算可能であるような非線形最適化問題のクラスを提案した。この成果により、これまでの固有値に関わる最適化問題がより多様な形で応用できることが期待される。
第三の成果として、非線形最適化問題における正確なペナルティ法について、実用性を考慮した近似停留点の計算手法の構築を行った。この成果では、ペナルティ法を用いる場合に、近似停留点を得るための正確なペナルティパラメータの下界を導き、近接勾配法を含むいくつかのアルゴリズムの計算量の上界を導出した。
これらの成果は国内会議や国際会議で発表した。次年度に国際学術論文誌での発表を目指す。
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
第一の成果は、平滑凸関数を、未知パラメータを推定しながら最適化するアルゴリズムを確立している。このことは、本研究の主たる目標であった、問題構造を自動で捉えるアルゴリズムの確立を、平滑な凸最適化問題に対して達成したことを意味している。また、第二と第三の成果は、一次法の計算量解析を、固有値最適化やペナルティ法といった、さらに複雑な状況において適用する試みといえる。今後は、これらの問題に対してのさらなる自動適応手法の開発が期待される。以上のことから、本研究の進捗状況は研究計画に対して順調に進展している。
|
| Strategy for Future Research Activity |
凸最適化に対して得られた第一の成果をもとにして、より一般の問題構造に対する適用可能性を目指す。特に、解析に考慮したエラーバウンドを一般化した場合や、ある種の非凸最適化における適応的アルゴリズムを開発するための理論構築を試みる。また、固有値最適化といった特殊な問題構造をもつ最適化やペナルティ法における近似停留点の計算手法において、適応的アルゴリズムの開発に取り組んでいく。
|
Report
(3 results)
Research Products
(12 results)
