• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 前のページに戻る

大規模非線形最適化問題に対する数値計算法の理論的研究およびその実装

研究課題

研究課題/領域番号 23K10999
研究種目

基盤研究(C)

配分区分基金
応募区分一般
審査区分 小区分60020:数理情報学関連
研究機関東京理科大学

研究代表者

矢部 博  東京理科大学, データサイエンスセンター, 教授 (90158056)

研究分担者 成島 康史  慶應義塾大学, 理工学部(矢上), 教授 (70453842)
中山 舜民  電気通信大学, i-パワードエネルギー・システム研究センター, 助教 (90847196)
研究期間 (年度) 2023-04-01 – 2027-03-31
研究課題ステータス 交付 (2023年度)
配分額 *注記
4,680千円 (直接経費: 3,600千円、間接経費: 1,080千円)
2026年度: 1,170千円 (直接経費: 900千円、間接経費: 270千円)
2025年度: 1,170千円 (直接経費: 900千円、間接経費: 270千円)
2024年度: 1,170千円 (直接経費: 900千円、間接経費: 270千円)
2023年度: 1,170千円 (直接経費: 900千円、間接経費: 270千円)
キーワード非線形最適化 / 無制約最小化問題 / 制約条件付き最小化問題 / 2次の最適性条件 / 準ニュートン法 / 近接勾配法 / 多様体上の最適化 / 数理計画法
研究開始時の研究の概要

最適化問題はいろいろな分野で扱われる重要な問題であり、無制約最適化問題と制約付き最適化問題とに分けられる。最適化問題を効率よく解くための数値解法の研究は近年ますます活発に行われている。本研究では、非線形最適化問題の数値計算アルゴリズムの研究に焦点をあてる。提案した数値計算アルゴリズムの収束性を証明して理論的な裏づけをするとともに、数値実験を通してその有効性・実用性を検証する。さらに、実社会で発生する具体的な最適化問題を解く際の実用化を目指して、提案する数値計算アルゴリズムのソフトウェアも開発していく。したがって、本研究は社会的に大きな意義を持つ。

研究実績の概要

非線形最適化問題に対する数値解法について以下の通り研究した。研究成果の一部は国際会議、日本OR学会、日本応用数理学会、研究集会(京都大学数理解析研究所)等で発表した。また、研究成果が学術論文誌等に掲載された。
(1)目的関数が平滑な関数と非平滑な真凸関数の和で表現されるような無制約最適化問題に対するニュートン型近接勾配法を取り扱った。特に,平滑関数のヘッセ行列が計算が容易な項と計算が困難な項の和で表されるような特別な構造をもった場合を扱った。例えば、平滑関数の部分が非線形最小二乗問題で表されるような問題である。こうしたヘッセ行列の構造を利用して、構造化準ニュートン法の構造化Broyden 公式族に基づいたニュートン型近接勾配法を提案し、その大域的収束性・局所的収束性について議論した。また、数値実験を通して提案アルゴリズムの有効性を検証した。
(2)それぞれの関数が微分不可能な凸関数の差(D.C.関数)を含むような多目的最適化問題に対してニュートン型近接勾配法を提案し、その大域的収束性を示した。
(3)対角行列を重みとした近接写像が閉形式で計算ができることに注目して,ヘッセ行列の対角成分だけを取り入れた近接対角ニュートン法を開発し,近接対角ニュートン法の大域的収束性と局所的収束性を示した。さらに近接対角ニュートン法にNesterovの加速法を加えたアルゴリズムの開発及び数学的な理論解析を行った。
(4)制約条件付き最適化問題に対して、ラグランジュ関数の射影ヘッセ行列の負の曲率方向を利用することによって最適性の2次の必要条件を満たす点への収束性を保証する信頼領域逐次2次計画法を提案した。
(5)2段階最適化問題に対して下位のレベルの問題の最適値関数を用いて1段階の最適化問題に定式化し直したうえで、その問題に対する内点法を提案した。また、提案法の大域的収束性と局所的な収束性を証明した。

現在までの達成度 (区分)
現在までの達成度 (区分)

2: おおむね順調に進展している

理由

非線形最適化問題に対して新しい数値解法を提案し、その収束性についてきちんと解析するとともに、代表的なテスト問題に対する数値実験を実施することによって、提案手法の有効性、実用性についても検証している。

今後の研究の推進方策

最適化問題に対する数値解法について、さらに新しい観点から最適化法を提案するとともに、提案手法の収束性について解析していく。また、機械学習等の応用分野も視野に入れて、関連分野の研究動向を把握するために国内外の学会等に参加して、他大学・他研究機関の研究者と研究交流を行う。具体的な計画は以下の通りである。
1.非線形最適化問題に対する数値解法として信頼領域逐次2次計画法が頑健であることが知られている。本研究では、Yamashita and Dan が開発した解法を改良して、最適性の2次の必要条件を満足するような点へ収束するアルゴリズムの研究を継続する。また、局所的解析として超1次収束性などについても検討していく。さらに、制約想定を仮定しない場合のAKKT点への収束性についても議論する。
2.機械学習などの分野への応用を考慮して我々が提案したメモリーレス準ニュートン法に基づいた非厳密ニュートン型近接勾配法は、微分可能な関数と非平滑な凸関数の和を最小にするアルゴリズムである。特に平滑関数のヘッセ行列が特別な構造をもつような問題に対する有効な数値解法を開発することは、非線形最小2乗問題など応用上重要な課題である。今後も構造化準ニュートン法の考えを組み込んだニュートン型近接勾配法の研究を続けていくとともに、近接写像を効率よく計算できるような実用的な構造化準ニュートン更新公式も提案していきたい。
3.機械学習などで生じる問題は、上述したような最小化問題だけではなく、制約条件の付いた非平滑な関数を含む方程式系に帰着されることも多い。そこで、そのような問題に対して共役勾配法やメモリーレス準ニュートン法の適用を試みる。
4.2段階最適化問題を1段階の最適化問題に定式化し直したうえで主双対内点法を適用することを提案した。今後は、収束性の解析や数値実験による有効性の検証も含めてこの研究を継続していく。

報告書

(1件)
  • 2023 実施状況報告書
  • 研究成果

    (14件)

すべて 2024 2023

すべて 雑誌論文 (3件) (うち査読あり 3件、 オープンアクセス 2件) 学会発表 (11件) (うち国際学会 5件、 招待講演 1件)

  • [雑誌論文] An acceleration of proximal diagonal Newton method2024

    • 著者名/発表者名
      Shotaro Yagishita and Shummin Nakayama
    • 雑誌名

      JSIAM Letters

      巻: 16 号: 0 ページ: 5-8

    • DOI

      10.14495/jsiaml.16.5

    • ISSN
      1883-0609, 1883-0617
    • 関連する報告書
      2023 実施状況報告書
    • 査読あり
  • [雑誌論文] Memoryless Quasi-Newton Methods Based on the Spectral-Scaling Broyden Family for Riemannian Optimization2023

    • 著者名/発表者名
      Narushima Yasushi、Nakayama Shummin、Takemura Masashi、Yabe Hiroshi
    • 雑誌名

      Journal of Optimization Theory and Applications

      巻: - 号: 2 ページ: 639-664

    • DOI

      10.1007/s10957-023-02183-7

    • 関連する報告書
      2023 実施状況報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] Inexact proximal DC Newton-type method for nonconvex composite functions2023

    • 著者名/発表者名
      Shummin Nakayama, Yasushi Narushima and Hiroshi Yabe
    • 雑誌名

      Computational Optimization and Applications

      巻: 87 号: 2 ページ: 611-640

    • DOI

      10.1007/s10589-023-00525-9

    • 関連する報告書
      2023 実施状況報告書
    • 査読あり / オープンアクセス
  • [学会発表] 二段階最適化問題に対する最適値関数を用いた内点法2024

    • 著者名/発表者名
      山本聖真、矢部博、成島康史
    • 学会等名
      日本応用数理学会第20回研究部会連合発表会
    • 関連する報告書
      2023 実施状況報告書
  • [学会発表] 構造化 Broyden 公式族に基づいたニュートン型近接勾配法の局所的収束性2024

    • 著者名/発表者名
      中山舜民、成島康史、矢部博
    • 学会等名
      日本応用数理学会第20回研究部会連合発表会
    • 関連する報告書
      2023 実施状況報告書
  • [学会発表] Proximal structured quasi-Newton method for nonlinear least squares with nonsmooth regularizer2023

    • 著者名/発表者名
      中山舜民、成島康史、矢部博
    • 学会等名
      The 10th International Congress on Industrial and Applied Mathematics (ICIAM2023)
    • 関連する報告書
      2023 実施状況報告書
    • 国際学会
  • [学会発表] Newton-type proximal gradient method for multi-objective optimization with composite D.C. functions2023

    • 著者名/発表者名
      Yasushi Narushima, Antoine J.V. Vades, and Hiroshi Ben
    • 学会等名
      The 10th International Congress on Industrial and Applied Mathematics (ICIAM2023)
    • 関連する報告書
      2023 実施状況報告書
    • 国際学会
  • [学会発表] Nonmonotone proximal structured quasi-Newton methods based on the Broyden family2023

    • 著者名/発表者名
      成島康史、中山舜民、矢部博
    • 学会等名
      The Third Pacific Optimization Conference
    • 関連する報告書
      2023 実施状況報告書
    • 国際学会
  • [学会発表] Proximal diagonal Newton method for nonconvex composite optimization2023

    • 著者名/発表者名
      Shummin Nakayama and Shotaro Yagishita
    • 学会等名
      The Third Pacific Optimization Conference
    • 関連する報告書
      2023 実施状況報告書
    • 国際学会
  • [学会発表] Biofuels supply chain network equilibrium model in the aviation industry2023

    • 著者名/発表者名
      Yasushi Narushima and Shoma Uda
    • 学会等名
      The 7th Asian Conference of Management Science and Applications (ACMSA2023)
    • 関連する報告書
      2023 実施状況報告書
    • 国際学会
  • [学会発表] 連続最適化とその周辺-雑感-2023

    • 著者名/発表者名
      矢部博
    • 学会等名
      最適化の理論とアルゴリズム:未来を担う若手研究者の集い2023
    • 関連する報告書
      2023 実施状況報告書
    • 招待講演
  • [学会発表] 構造化 Broyden 公式族に基づいたニュートン型近接勾配法の大域的収束性2023

    • 著者名/発表者名
      矢部博、中山舜民、成島康史
    • 学会等名
      共同研究(公開型)「数理最適化:理論と実践」、京都大学数理解析研究所
    • 関連する報告書
      2023 実施状況報告書
  • [学会発表] 構造化 Broyden 公式族に基づいたニュートン型近接勾配法2023

    • 著者名/発表者名
      中山舜民、成島康史、矢部博
    • 学会等名
      日本オペレーションズ・リサーチ学会
    • 関連する報告書
      2023 実施状況報告書
  • [学会発表] 航空業界における持続可能な航空燃料を考慮したサプライチェインネットワーク均衡モデル2023

    • 著者名/発表者名
      宇田翔馬、成島康史
    • 学会等名
      日本経営工学会
    • 関連する報告書
      2023 実施状況報告書

URL: 

公開日: 2023-04-13   更新日: 2024-12-25  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi