2020 Fiscal Year Research-status Report
Developments of primal and dual sparse optimization models and their efficient solution methods
| Project/Area Number |
17K00032
|
|---|
| Research Institution | Kyoto University |
|---|
Principal Investigator |
山下 信雄 京都大学, 情報学研究科, 教授 (30293898)
|
|---|
| Project Period (FY) |
2017-04-01 – 2022-03-31
|
| Keywords | スパース最適化 / 双対問題 / 多目的最適化 |
|---|
| Outline of Annual Research Achievements |
本研究の目的は，大規模な最適化問題に対して主問題と双対問題のそれぞれが疎な解(0が多い解)をもつ数理最適化モデルを構築し，そのモデルの特性を利用した解法を開発することである．さらにそれらを多目的最適化やビッグデータの解析などに応用する．本年度の目的は，いくつかの応用問題に対する主双対モデルの構築とその専用解法の開発を行い，それらの応用研究を通して，主双対スパースモデルの利活用に関する指針を得ることである．その目的に対して以下の成果を得た．
・多目的最適化問題に対して主双対スパースモデルを活用した．まず，L1正則化を含む多目的最適化問題に対するメリット関数の性質を解明した．特に，双対性を利用した効率的なメリット関数の評価方法を考案した．このメリット関数を用いて，多目的最適化問題に対する近接勾配法の計算量を解析した．さらに，近接勾配法の加速版を考え，それが既存の近接勾配法に比べて高速にパレート解を求められることを数値実験によって確認した．
・Levenberg-Marquard法(LM法)は最小二乗問題の一般的な解法のひとつである．LM法では各反復で制約なしの凸2次計画問題となる部分問題を解く．この部分問題の解は一般にはスパースにならない．そこで，主双対スパースモデルも含む広いクラスの部分問題を利用したLM法の一般化を提案し，その収束性を示した．部分問題が主双対スパースモデルとなるとき，その解がスパースになる．その結果，問題によっては各反復の計算量が大幅に削減できることを数値実験によって確認した．
・サポートベクトルマシンやサポートベクトル回帰問題を多値の場合に拡張し，その双対問題を導出した．さらに，サポートベクトルの数の見積もりを与えた．また，主双対変数のスパース性を利用したアルゴリズムを開発した．
|
| Current Status of Research Progress |
Current Status of Research Progress
3: Progress in research has been slightly delayed.
Reason
本年度の研究目的は，主双対スパースモデルに対する応用の研究を行い，それらの研究を通して，主双対スパースモデルの利用するための指針を与えることであった．また，その研究に付随して作成したソースコードを利用しやすい形で公開も検討していた．個々の応用研究に関しては，研究計画どおりの進捗が得られた．しかしながら，それらを統括する形での汎用ソルバーの開発にはいたらなかった．これは汎用ソルバーが専門ソルバーに比べて一般に効率が悪いということに加え，コロナ禍の影響で学生との共同作業が遅れ，利用しやすい形でのソースコードの作成ができなかっためである．一方，均衡問題に対する分布的ロバスト最適化など，当初想定していなかったモデルへの活用など，新しい知見が得られている．これらのことから，研究は当初計画よりやや遅れている．
|
| Strategy for Future Research Activity |
次年度以降では，まず，これまでに開発したアルゴリズムをMatlabやPythonなどの言語で実装し，それらのソースコードを利用しやすい形でまとめる．これらはＲＡなどで雇用した学生と協力のもの実施する．また，汎用ソルバーでは効率的にとけない応用問題があることを鑑み，応用問題ごとにチューニングした専用ソルバーを開発し，そのソースコードの公開を検討する．一方で，非凸な問題に拡張したゲージ最適化問題の双対性など，基礎的な研究もすすめる．
|
| Causes of Carryover |
コロナ禍によって，国内および海外への出張ができなかったため，旅費が余ってしまった．また，同様の理由によって，プログラム開発を依頼する予定の学生が十分な時間を取ることができなかったため，人件費の支払いができなかった．
コロナ禍が収まったときに出張を行い，本研究の成果を発表するとともに，他の研究者からの意見収集を行う．また，適切な能力，時間をもった学生にプログラム開発を依頼する．
|
