大規模非線形最適化問題に対する数値計算法の理論的研究およびその実装
| Project/Area Number |
23K10999
|
|---|
| Research Category |
Grant-in-Aid for Scientific Research (C)
|
| Allocation Type | Multi-year Fund |
|---|
| Section | 一般 |
|---|
| Review Section |
Basic Section 60020:Mathematical informatics-related
|
|---|
| Research Institution | Tokyo University of Science |
|---|
Principal Investigator |
矢部 博 東京理科大学, データサイエンスセンター, 教授 (90158056)
|
|---|
| Co-Investigator(Kenkyū-buntansha) |
成島 康史 慶應義塾大学, 理工学部(矢上), 教授 (70453842)
中山 舜民 電気通信大学, i－パワードエネルギー・システム研究センター, 助教 (90847196)
|
|---|
| Project Period (FY) |
2023-04-01 – 2027-03-31
|
| Project Status |
Granted (Fiscal Year 2023)
|
| Budget Amount *help |
¥4,680,000 (Direct Cost: ¥3,600,000、Indirect Cost: ¥1,080,000)
Fiscal Year 2026: ¥1,170,000 (Direct Cost: ¥900,000、Indirect Cost: ¥270,000)
Fiscal Year 2025: ¥1,170,000 (Direct Cost: ¥900,000、Indirect Cost: ¥270,000)
Fiscal Year 2024: ¥1,170,000 (Direct Cost: ¥900,000、Indirect Cost: ¥270,000)
Fiscal Year 2023: ¥1,170,000 (Direct Cost: ¥900,000、Indirect Cost: ¥270,000)
|
|---|
| Keywords | 非線形最適化 / 無制約最小化問題 / 制約条件付き最小化問題 / ２次の最適性条件 / 準ニュートン法 / 近接勾配法 / 多様体上の最適化 / 数理計画法 |
|---|
| Outline of Research at the Start |
最適化問題はいろいろな分野で扱われる重要な問題であり、無制約最適化問題と制約付き最適化問題とに分けられる。最適化問題を効率よく解くための数値解法の研究は近年ますます活発に行われている。本研究では、非線形最適化問題の数値計算アルゴリズムの研究に焦点をあてる。提案した数値計算アルゴリズムの収束性を証明して理論的な裏づけをするとともに、数値実験を通してその有効性・実用性を検証する。さらに、実社会で発生する具体的な最適化問題を解く際の実用化を目指して、提案する数値計算アルゴリズムのソフトウェアも開発していく。したがって、本研究は社会的に大きな意義を持つ。
|
| Outline of Annual Research Achievements |
非線形最適化問題に対する数値解法について以下の通り研究した。研究成果の一部は国際会議、日本OR学会、日本応用数理学会、研究集会（京都大学数理解析研究所）等で発表した。また、研究成果が学術論文誌等に掲載された。
（１）目的関数が平滑な関数と非平滑な真凸関数の和で表現されるような無制約最適化問題に対するニュートン型近接勾配法を取り扱った。特に，平滑関数のヘッセ行列が計算が容易な項と計算が困難な項の和で表されるような特別な構造をもった場合を扱った。例えば、平滑関数の部分が非線形最小二乗問題で表されるような問題である。こうしたヘッセ行列の構造を利用して、構造化準ニュートン法の構造化Broyden 公式族に基づいたニュートン型近接勾配法を提案し、その大域的収束性・局所的収束性について議論した。また、数値実験を通して提案アルゴリズムの有効性を検証した。
（２）それぞれの関数が微分不可能な凸関数の差（D.C.関数）を含むような多目的最適化問題に対してニュートン型近接勾配法を提案し、その大域的収束性を示した。
（３）対角行列を重みとした近接写像が閉形式で計算ができることに注目して，ヘッセ行列の対角成分だけを取り入れた近接対角ニュートン法を開発し，近接対角ニュートン法の大域的収束性と局所的収束性を示した。さらに近接対角ニュートン法にNesterovの加速法を加えたアルゴリズムの開発及び数学的な理論解析を行った。
（４）制約条件付き最適化問題に対して、ラグランジュ関数の射影ヘッセ行列の負の曲率方向を利用することによって最適性の２次の必要条件を満たす点への収束性を保証する信頼領域逐次２次計画法を提案した。
（５）２段階最適化問題に対して下位のレベルの問題の最適値関数を用いて１段階の最適化問題に定式化し直したうえで、その問題に対する内点法を提案した。また、提案法の大域的収束性と局所的な収束性を証明した。
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
非線形最適化問題に対して新しい数値解法を提案し、その収束性についてきちんと解析するとともに、代表的なテスト問題に対する数値実験を実施することによって、提案手法の有効性、実用性についても検証している。
|
| Strategy for Future Research Activity |
最適化問題に対する数値解法について、さらに新しい観点から最適化法を提案するとともに、提案手法の収束性について解析していく。また、機械学習等の応用分野も視野に入れて、関連分野の研究動向を把握するために国内外の学会等に参加して、他大学・他研究機関の研究者と研究交流を行う。具体的な計画は以下の通りである。
１．非線形最適化問題に対する数値解法として信頼領域逐次２次計画法が頑健であることが知られている。本研究では、Yamashita and Dan が開発した解法を改良して、最適性の２次の必要条件を満足するような点へ収束するアルゴリズムの研究を継続する。また、局所的解析として超１次収束性などについても検討していく。さらに、制約想定を仮定しない場合のAKKT点への収束性についても議論する。
２．機械学習などの分野への応用を考慮して我々が提案したメモリーレス準ニュートン法に基づいた非厳密ニュートン型近接勾配法は、微分可能な関数と非平滑な凸関数の和を最小にするアルゴリズムである。特に平滑関数のヘッセ行列が特別な構造をもつような問題に対する有効な数値解法を開発することは、非線形最小２乗問題など応用上重要な課題である。今後も構造化準ニュートン法の考えを組み込んだニュートン型近接勾配法の研究を続けていくとともに、近接写像を効率よく計算できるような実用的な構造化準ニュートン更新公式も提案していきたい。
３．機械学習などで生じる問題は、上述したような最小化問題だけではなく、制約条件の付いた非平滑な関数を含む方程式系に帰着されることも多い。そこで、そのような問題に対して共役勾配法やメモリーレス準ニュートン法の適用を試みる。
４．２段階最適化問題を１段階の最適化問題に定式化し直したうえで主双対内点法を適用することを提案した。今後は、収束性の解析や数値実験による有効性の検証も含めてこの研究を継続していく。
|
Report
(1 results)
Research Products
(14 results)
