2021 Fiscal Year Research-status Report
Development of nonlinear semidefinite optimization theory and application to machine learning
| Project/Area Number |
20K19748
|
|---|
| Research Institution | Institute of Physical and Chemical Research |
|---|
Principal Investigator |
奥野 貴之 国立研究開発法人理化学研究所, 革新知能統合研究センター, 研究員 (70711969)
|
|---|
| Project Period (FY) |
2020-04-01 – 2024-03-31
|
| Keywords | 非線形半正定値最適化問題 / 内点法 / 中心パス / リーマン多様体 / 逐次２次最適化法 / 線形システム同定問題 |
|---|
| Outline of Annual Research Achievements |
2021年度では, 課題である非線形半正定値最適化問題（以下, NSDP：Nonlinear SemiDefinite optimization Problemと呼ぶ）とそれに関連する諸問題を数値的に解くアルゴリズムに関して主に以下の二つの研究を行った.
１つ目の研究はNSDPを解くためのアルゴリズムとしてよく知られた内点法における重要概念である中心パスの存在性についての研究である. 内点法は, １次の最適性条件を満たす点（KKT点）へと収束する中心パスを近似的に辿るアルゴリズムである. したがって, 中心パスの構造と内点法の収束速度には大きな関係がある. これまでのNSDPの中心パスに関連した研究結果は, Yamashita and Yabe (2012) による非退化性, 狭義相補性, ２次の十分条件という３つの仮定の下で, 局所的に存在し, 平滑であることを示した結果のみである. 今挙げた３つの仮定は, KKT点を記述する方程式の正則性を導くための十分条件であり, 結果陰関数定理の適用によって, 中心パスの存在と一意性が保証される. 本研究では, この方程式の正則性を必ずしも意味しない弱い条件の下で中心パスの存在性と唯一性を証明した.
２つ目の研究は, リーマン多様体とよばれる位相空間上における制約付き最適化問題(以下, RNLP)に対して逐次２次最適化法(RSQO)と呼ばれるアルゴリズムを新たに開発し, その収束性を解析した. 正定値錐がリーマン多様体であることから, RNLPはNSDPを部分クラスとして含む. そのため, RSQOはNSDPに対するリーマン幾何学的観点からアプローチした新たな求解手法と考えることができる. さらにシステム同定問題とよばれる制御の実問題はRNLPとして表現できる. 本問題にRSQOを適用し, 実際の有効性を詳しく検証した.
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
当該年度における研究成果は, 従来よりも弱い条件下でNSDPの中心パスの存在と収束性を示し, リーマン多様体という幾何学的な観点からNSDPをとらえ直すことで新たなアルゴリズムを構築したことである. 双方とも既存の理論研究を大きく前進させるものである. これらは当課題の非線形半正定値最適化（NSDP）の理論的深化という目的に即しており, 課題は順調に進行している.
|
| Strategy for Future Research Activity |
今後の方向性として
1. より弱い条件の下での超１次収束性をもつ内点法の開発
2. 非平滑な関数を持つ問題への着手
を挙げたい. まず１であるが, 今回は中心パスの解析を弱い条件下で行った. 今後はその性質をアルゴリズムに活かしていきたい. 具体的には, 同条件下で超１次収束という速い収束性を達成するような内点法アルゴリズムの開発を, 今回明らかにした中心パスの解析を基に行っていくつもりである. 次に２は, 昨年度の今後の研究推進方策でも掲げているが, 非平滑な関数をもつ非線形半正定値最適化問題への着手である. 非平滑な関数はクラスが広く, そのままでは最適性条件などを明らかにすることは難しい. まずは特定の関数のクラスに限定して研究を行っていきたいと考えている.
|
| Causes of Carryover |
2021年度は, 国際学会の中止が相次ぎ, 使用予定であった旅費や参加費が未使用になった.2022年度は, 国内学会, 国際学会でも対面での開催が計画されている. 積極的に現地参加し,直接の交流を行うことで研究の推進を図っていくつもりである. そのために旅費のために多く支出するつもりである.
|
Research Products
(5 results)
