• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 前のページに戻る

非線形半正定値最適化理論の深化と機械学習への応用

研究課題

研究課題/領域番号 20K19748
研究種目

若手研究

配分区分基金
審査区分 小区分60020:数理情報学関連
研究機関成蹊大学 (2022-2023)
国立研究開発法人理化学研究所 (2020-2021)

研究代表者

奥野 貴之  成蹊大学, 理工学部, 准教授 (70711969)

研究期間 (年度) 2020-04-01 – 2025-03-31
研究課題ステータス 交付 (2023年度)
配分額 *注記
4,160千円 (直接経費: 3,200千円、間接経費: 960千円)
2023年度: 910千円 (直接経費: 700千円、間接経費: 210千円)
2022年度: 910千円 (直接経費: 700千円、間接経費: 210千円)
2021年度: 1,170千円 (直接経費: 900千円、間接経費: 270千円)
2020年度: 1,170千円 (直接経費: 900千円、間接経費: 270千円)
キーワード中心パス / ニュートン方程式の正則性 / パレート解集合上の最適化 / 2段階最適化法 / 2段階勾配法 / レーベンバーグ・マルカート法 / オラクル計算量 / 2次収束性 / リーマン多様体 / 正定錐上の最適化 / 非線形半正定値最適化問題 / 内点法 / 逐次2次最適化法 / 線形システム同定問題 / 非線形半正定値最適化 / 制約想定 / Monteiro-Tsuciya方向族 / 2次の停留点 / 非平滑最適化 / 機械学習 / ハイパーパラメータ学習
研究開始時の研究の概要

本研究課題では, 与えられた行列値関数が半正定値対称行列となるような制約領域上で関数の最小化問題である非線形半正定値最適化問題(以下, NSDP)を取り扱う. とくに, これまでは取り扱いが難しかった機械学習などで出現する幅広い問題形式への対応を目指して, NSDPの理論とアルゴリズムを発展させていく. また, 機械学習で現れる実問題などを対象にした数値シミュレーションを行うことで, 提案したアルゴリズムや理論の有効性及びその実装方法について詳しく調査を行う.

研究実績の概要

2023年度では、大きくわけて2種類の研究を行った。
1つ目の研究は非線形半正定値最適化問題に対する主双対内点法の収束速度に関連する研究である。主双対内点法は中心パスとよばれる摂動されたKKT点から構成されるパスを近似的に辿る手法であり、内点法の収束性能は中心パスの性質に大きく左右される。前々年度における研究において、マンガサリアン・フロモヴィッツ制約想定, 狭義相補性, 2次の十分条件という既存よりも弱い条件下のもとで滑らかな中心パスが存在することを示した。主双対内点法では、中心パスを数値的に辿るために中心パスの近傍でニュートン方程式を構成し、ニュートン方程式の解をもとに次の反復点を決定する。その中で連立1次方程式であるニュートン方程式の係数行列の中心パス付近における振る舞いがKKT点への収束速度を決定づけることはよく知られた事実である。2023年度には、中心パスのある近傍でこの係数行列が正則であることを証明した。最終的な目標は上で述べた3条件下で主双対内点法の超1次収束性を証明することであるが、証明した事実はそれへの大きな一歩になっている。
2つ目の研究は、多目的最適化におけるパレート解集合上の最適化問題に関する研究である. 構造物の設計など多くの現場では, パレート最適解を列挙した後にその中より意思決定者の選好情報に基づいて最終的な解が決定されるが,この問題はパレート解集合上の最適化問題として定式化することができる.この問題を多目的最適化問題を下位問題として持つような 2 段階最適化問題と見なし, それを解くために勾配法を基にした新たなアルゴリズムの提案を行った. 将来的には半正定値制約がつけた問題にも対応できるアルゴリズムに発展させる計画である。

現在までの達成度 (区分)
現在までの達成度 (区分)

3: やや遅れている

理由

非線形半正定値最適化問題に対する主双対内点法の中心パスの存在性とニュートン方程式の正則性に関する研究に関して、当初は海外での国際発表を行い、それを基にディスカッションを通して研究をさらに深化させて行く予定であった。ところが、covid19の影響と現所属大学における勤務予定と国際会議の予定があわず海外発表をすることができなかったため。

今後の研究の推進方策

2024年度は海外発表を行い海外研究者との議論を通して、目標である主双対内点法の超1次収束性の理論的証明の完成を目指す。そのためにはまずニュートン方程式の解の変動とバリアパラメータの0への収束速度の関係についてより深く解析していくつもりである。
次にパレート解集合上の最適化については、引き続き2段階最適化に基づいたアプローチをさらに推進してくつもりである。その中でまずは下位問題である多目的最適化問題に簡易的な制約条件を付加した状態でも対応できるようなアルゴリズムについて開発を行っていく計画でいる。

報告書

(4件)
  • 2023 実施状況報告書
  • 2022 実施状況報告書
  • 2021 実施状況報告書
  • 2020 実施状況報告書
  • 研究成果

    (19件)

すべて 2024 2023 2022 2021 2020

すべて 雑誌論文 (9件) (うち国際共著 2件、 査読あり 9件、 オープンアクセス 4件) 学会発表 (10件) (うち国際学会 2件)

  • [雑誌論文] Local convergence of primal-dual interior point methods for nonlinear semi-definite optimization using the family of Monteiro-Tsuchiya directions2024

    • 著者名/発表者名
      Takayuki Okuno
    • 雑誌名

      Computational Optimization and Applications

      巻: 17 号: 2 ページ: 677-718

    • DOI

      10.1007/s10589-024-00562-y

    • 関連する報告書
      2023 実施状況報告書
    • 査読あり
  • [雑誌論文] Stable Linear System Identification with Prior Knowledge by Riemannian Sequential Quadratic Optimization2024

    • 著者名/発表者名
      Mitsuaki Obara , Kazuhiro Sato , Hiroki Sakamoto , Takayuki Okuno , Akiko Takeda
    • 雑誌名

      IEEE Transactions on Automatic Control

      巻: 69 号: 3 ページ: 2060-2066

    • DOI

      10.1109/tac.2023.3318195

    • 関連する報告書
      2023 実施状況報告書
    • 査読あり
  • [雑誌論文] Complexity analysis of interior-point methods for second-order stationary points of nonlinear semidefinite optimization problems2023

    • 著者名/発表者名
      Shun Arahata , Takayuki Okuno , Akiko Takeda
    • 雑誌名

      Computational Optimization and Applications

      巻: 86 号: 2 ページ: 555-598

    • DOI

      10.1007/s10589-023-00501-3

    • 関連する報告書
      2023 実施状況報告書
    • 査読あり
  • [雑誌論文] MIXED-INTEGER DC PROGRAMMING BASED ALGORITHMS FOR THE CIRCULAR PACKING PROBLEM2023

    • 著者名/発表者名
      Yoshiko Ikebe, Satoru Masuda, Takayuki Okuno
    • 雑誌名

      Journal of the Operations Research Society of Japan

      巻: 66 ページ: 153-175

    • 関連する報告書
      2023 実施状況報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] Primal-dual path following method for nonlinear semi-infinite programs with semi-definite constraints2023

    • 著者名/発表者名
      Takayuki Okuno, Masao Fukushima
    • 雑誌名

      Mathematical Programming

      巻: 199 号: 1-2 ページ: 251-303

    • DOI

      10.1007/s10107-022-01827-2

    • 関連する報告書
      2022 実施状況報告書
    • 査読あり / オープンアクセス / 国際共著
  • [雑誌論文] Majorization-minimization-based Levenberg--Marquardt method for constrained nonlinear least squares2023

    • 著者名/発表者名
      Naoki Marumo, Takayuki Okuno, Akiko Takeda
    • 雑誌名

      Computational Optimization and Applications

      巻: 84 号: 3 ページ: 833-874

    • DOI

      10.1007/s10589-022-00447-y

    • 関連する報告書
      2022 実施状況報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] A stabilized sequential quadratic semidefinite programming method for degenerate nonlinear semidefinite programs2022

    • 著者名/発表者名
      Yuya Yamakawa, Takayuki Okuno
    • 雑誌名

      Computational Optimization and Applications

      巻: 83 号: 3 ページ: 1027-1064

    • DOI

      10.1007/s10589-022-00402-x

    • 関連する報告書
      2022 実施状況報告書
    • 査読あり
  • [雑誌論文] A limiting analysis on regularization of singular SDP and its implication to infeasible interior-point algorithms2022

    • 著者名/発表者名
      Tsuchiya Takashi、Lourenco Bruno F.、Muramatsu Masakazu、Okuno Takayuki
    • 雑誌名

      Mathematical Programming

      巻: - 号: 1 ページ: 531-568

    • DOI

      10.1007/s10107-022-01891-8

    • 関連する報告書
      2022 実施状況報告書
    • 査読あり / オープンアクセス / 国際共著
  • [雑誌論文] Sequential Quadratic Optimization for Nonlinear Optimization Problems on Riemannian Manifolds2022

    • 著者名/発表者名
      Mitsuaki Obara, Takayuki Okuno, Akiko Takeda
    • 雑誌名

      SIAM Journal on Optimization

      巻: 32 号: 2 ページ: 822-853

    • DOI

      10.1137/20m1370173

    • 関連する報告書
      2021 実施状況報告書
    • 査読あり
  • [学会発表] Analysis of the primal-dual central path for nonlinear semidefinite optimization without the nondegeneracy condition2024

    • 著者名/発表者名
      奥野貴之
    • 学会等名
      シンポジウム:錐線形計画とその周辺
    • 関連する報告書
      2023 実施状況報告書
  • [学会発表] パレートフロンティア上の最適化に対する2段階勾配法2024

    • 著者名/発表者名
      北爪裕美、奥野貴之
    • 学会等名
      第20回応用数理学会研究部会連合発表会
    • 関連する報告書
      2023 実施状況報告書
  • [学会発表] 加速勾配法に基づいた一般化レーベンバーグ・マーカート法の提案と計算量解析について2023

    • 著者名/発表者名
      丸茂直貴、奥野貴之、武田朗子
    • 学会等名
      日本応用数理学会第19回研究部会連合発表会
    • 関連する報告書
      2022 実施状況報告書
  • [学会発表] 退化した非線形半正定値最適化問題における中心パスの収束性について2022

    • 著者名/発表者名
      奥野貴之
    • 学会等名
      日本応用数理学会2022年度年会
    • 関連する報告書
      2022 実施状況報告書
  • [学会発表] A Primal-Dual Interior Point Method for Nonlinear Semi-Definite Optimization Problems Using the Family of Monteiro-Tsuchiya Directions2021

    • 著者名/発表者名
      Takayuki Okuno
    • 学会等名
      SIAM Conference on Optimization (OP21)
    • 関連する報告書
      2021 実施状況報告書
    • 国際学会
  • [学会発表] Local convergence of primal-dual interior point methods for nonlinear semi-definite optimization using the family of Monteiro-Tsuchiya directions2021

    • 著者名/発表者名
      Takayuki Okuno
    • 学会等名
      The 22nd Conference of the International Federation of Operational Research Societies
    • 関連する報告書
      2021 実施状況報告書
    • 国際学会
  • [学会発表] 奥野貴之2021

    • 著者名/発表者名
      非線形半正定値最適化問題に対するMT方向族を用いた主双対内点法の局所的収束性について
    • 学会等名
      京都大学数理解析研究所 共同研究(公開型)「数理最適化の理論と応用の深化」
    • 関連する報告書
      2021 実施状況報告書
  • [学会発表] Riemannian sequential quadratic optimization method and its application to linear system2021

    • 著者名/発表者名
      小原光暁, 奥野貴之、武田朗子, 佐藤一宏
    • 学会等名
      京都大学数理解析研究所 共同研究(公開型)「数理最適化の理論と応用の深化」
    • 関連する報告書
      2021 実施状況報告書
  • [学会発表] 非線形半正定値最適化問題に対する2次の最適性保証付き主双対内点法2020

    • 著者名/発表者名
      新幡駿, 奥野貴之, 武田朗子
    • 学会等名
      日本オペレーションズ・リサーチ学会2021年春季研究発表会&シンポジウム
    • 関連する報告書
      2020 実施状況報告書
  • [学会発表] 非線形半正定値計画問題に対する安定化逐次二次半正定値計画法の大域的収束性について2020

    • 著者名/発表者名
      山川雄也, 奥野貴之
    • 学会等名
      京都大学数理解析研究所 共同研究(グループ型) 数理最適化の理論・アルゴリズム・応用
    • 関連する報告書
      2020 実施状況報告書

URL: 

公開日: 2020-04-28   更新日: 2024-12-25  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi