• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 前のページに戻る

大規模非線形最適化法のアルゴリズムに関する研究とその実装

研究課題

研究課題/領域番号 20K11698
研究種目

基盤研究(C)

配分区分基金
応募区分一般
審査区分 小区分60020:数理情報学関連
研究機関東京理科大学

研究代表者

矢部 博  東京理科大学, データサイエンスセンター, 教授 (90158056)

研究分担者 成島 康史  慶應義塾大学, 理工学部(矢上), 教授 (70453842)
中山 舜民  電気通信大学, i-パワードエネルギー・システム研究センター, 助教 (90847196)
研究期間 (年度) 2020-04-01 – 2024-03-31
研究課題ステータス 完了 (2023年度)
配分額 *注記
3,510千円 (直接経費: 2,700千円、間接経費: 810千円)
2022年度: 1,170千円 (直接経費: 900千円、間接経費: 270千円)
2021年度: 1,170千円 (直接経費: 900千円、間接経費: 270千円)
2020年度: 1,170千円 (直接経費: 900千円、間接経費: 270千円)
キーワード非線形最適化 / 無制約最小化 / 制約条件付き最小化 / メモリーレス準ニュートン法 / 近接勾配法 / 非線形半正定値計画 / 信頼領域SQP法 / 多様体上の最適化 / 無制約最小化問題 / 制約条件付き最小化問題 / 2次の最適性条件 / 準ニュートン法 / 主双対内点法 / 非線形半正定値計画問題 / リーマン多様体最適化 / 無制約最適化 / 制約条件付き最適化 / 数値的最適化 / 機械学習への応用
研究開始時の研究の概要

最適化問題を効率よく解くための数値解法の研究は近年ますます活発に行われている。本研究では、非線形最適化問題の数値計算アルゴリズムの研究に焦点をあてる。非線形最適化問題は、無制約最小化問題と制約付き最小化問題とに分けられる。本研究では、提案した数値計算アルゴリズムの収束性を証明して数学的な裏づけをするとともに、数値実験を通してその有効性・実用性を検証する。さらに、実社会で発生する具体的な最適化問題を解く際の実用化を目指して、提案する数値計算アルゴリズムのソフトウェア開発もしていく。したがって、本研究は社会的に大きな意義を持つ。

研究成果の概要

機械学習などで扱われている最適化問題を解くためにメモリーレス準ニュートン法を活用した非厳密ニュートン型近接勾配法を提案し、その大域的収束性を示した。また、目的関数やそのヘッセ行列が特別な構造を持つ場合も扱った。他方、メモリーレス準ニュートン法に関する別の研究として、大規模な上下限制約付き最小化問題に対する有効制約法や多様体上の最適化問題への適用も行った。また、非線形半正定値計画問題に対して信頼領域法に基づいた主双対内点法を提案しその大域的収束性を示した。さらに、制約付き最適化問題に対して、最適性の2次必要条件を満たす点に収束するような信頼領域逐次2次計画法を提案した。

研究成果の学術的意義や社会的意義

本研究では、大規模な最適化問題や機械学習などで扱われている特別な構造をもった最適化問題を解くためのメモリーレス準ニュートン法を提案しその大域的収束性を示すとともに、数値実験比較を行ってその有効性や実用性を検証した。こうした研究成果は、従来の応用分野ばかりではなくデータサイエンスや機械学習分野にも貢献できるものと思われる。また、非線形半正定値計画問題に対する主双対信頼領域内点法や制約付き非線形最適化問題に対する信頼領域逐次2次計画法の研究は、信頼領域法の頑健性を再認識することに繋がり、今後、頑健な数値解法の研究として発展していくことが期待される。以上のことから、本研究の学術的意義は大きい。

報告書

(5件)
  • 2023 実績報告書   研究成果報告書 ( PDF )
  • 2022 実施状況報告書
  • 2021 実施状況報告書
  • 2020 実施状況報告書
  • 研究成果

    (45件)

すべて 2024 2023 2022 2021 2020

すべて 雑誌論文 (16件) (うち査読あり 10件、 オープンアクセス 3件) 学会発表 (29件) (うち国際学会 4件、 招待講演 5件)

  • [雑誌論文] Memoryless Quasi-Newton Methods Based on the Spectral-Scaling Broyden Family for Riemannian Optimization2023

    • 著者名/発表者名
      Narushima Yasushi、Nakayama Shummin、Takemura Masashi、Yabe Hiroshi
    • 雑誌名

      Journal of Optimization Theory and Applications

      巻: - 号: 2 ページ: 639-664

    • DOI

      10.1007/s10957-023-02183-7

    • 関連する報告書
      2023 実績報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] Inexact proximal DC Newton-type method for nonconvex composite functions2023

    • 著者名/発表者名
      Shummin Nakayama, Yasushi Narushima and Hiroshi Yabe
    • 雑誌名

      Computational Optimization and Applications

      巻: 87 号: 2 ページ: 611-640

    • DOI

      10.1007/s10589-023-00525-9

    • 関連する報告書
      2023 実績報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] A proximal quasi-Newton method based on memoryless modified symmetric rank-one formula2023

    • 著者名/発表者名
      Yasushi Narushima, Shummin Nakayama
    • 雑誌名

      Journal of Industrial and Management Optimization

      巻: 19 号: 6 ページ: 4095-4111

    • DOI

      10.3934/jimo.2022123

    • 関連する報告書
      2022 実施状況報告書
    • 査読あり
  • [雑誌論文] Convergence to a second-order critical point by a trust-region SQP method with a nonmonotone merit function2023

    • 著者名/発表者名
      Hiroshi Yabe and Hiroshi Yamashita
    • 雑誌名

      統計数理研究所共同研究リポート

      巻: 461 ページ: 103-117

    • 関連する報告書
      2022 実施状況報告書
  • [雑誌論文] 内部反復を改良したメモリーレスBFGS公式に基づく非厳密Newton型近接勾配法2022

    • 著者名/発表者名
      中山舜民、成島康史、矢部博
    • 雑誌名

      統計数理研究所共同研究リポート 453「最適化:モデリングとアルゴリズム33」

      巻: 453 ページ: 20-27

    • 関連する報告書
      2021 実施状況報告書
  • [雑誌論文] リーマン多様体上の最適化問題に対するBroyden公式族に基づいた準ニュートン法2022

    • 著者名/発表者名
      竹村壮史、矢部博
    • 雑誌名

      統計数理研究所共同研究リポート 453「最適化:モデリングとアルゴリズム33」

      巻: 453 ページ: 46-64

    • 関連する報告書
      2021 実施状況報告書
  • [雑誌論文] An active-set memoryless quasi-Newton method based on a spectral-scaling Broyden family for bound constrained optimization2021

    • 著者名/発表者名
      Shummin Nakayama、Yasushi Narushima、Hiroaki Nishio and Hiroshi Yabe
    • 雑誌名

      Results in Control and Optimization

      巻: 3 ページ: 100012-100012

    • DOI

      10.1016/j.rico.2021.100012

    • 関連する報告書
      2021 実施状況報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] Global convergence of a proximal memoryless symmetric rank one method for minimizing composite functions2021

    • 著者名/発表者名
      Shummin Nakayama and Yasushi Narushima
    • 雑誌名

      Proceedings of the International Conference on Nonlinear Analysis and Convex Analysis & International Conference on Optimization: Techniques and Applications II

      巻: 2 ページ: 99-108

    • 関連する報告書
      2021 実施状況報告書
    • 査読あり
  • [雑誌論文] A globally convergent active-set memoryless quasi-Newton method based on spectral-scaling Broyden family for bound constrained optimization2021

    • 著者名/発表者名
      Hiroaki Nishio, Shummin Nakayama, Yasushi Narushima and Hiroshi Yabe
    • 雑誌名

      Proceedings of the International Conference on Nonlinear Analysis and Convex Analysis & International Conference on Optimization: Techniques and Applications II

      巻: 2 ページ: 147-160

    • 関連する報告書
      2021 実施状況報告書
    • 査読あり
  • [雑誌論文] A smoothing and scaling Fletcher-Reeves type conjugate gradient method for systems of nonsmooth equations2021

    • 著者名/発表者名
      Yasushi Narushima and Hiroshi Yabe
    • 雑誌名

      Pacific Journal of Optimization

      巻: 17 ページ: 547-564

    • 関連する報告書
      2021 実施状況報告書
    • 査読あり
  • [雑誌論文] On the superiority of PGMs to PDCAs in nonsmooth nonconvex sparse regression2021

    • 著者名/発表者名
      Nakayama Shummin、Gotoh Jun-ya
    • 雑誌名

      Optimization Letters

      巻: - 号: 8 ページ: 1-30

    • DOI

      10.1007/s11590-021-01716-1

    • 関連する報告書
      2021 実施状況報告書
    • 査読あり
  • [雑誌論文] 非線形半正定値計画問題に対する主双対内点法2021

    • 著者名/発表者名
      矢部博、山下浩、原田耕平
    • 雑誌名

      オペレーションズ・リサーチ

      巻: 66 ページ: 29-34

    • 関連する報告書
      2021 実施状況報告書
  • [雑誌論文] Inexact proximal memoryless quasi-Newton methods based on the Broyden family for minimizing composite functions2021

    • 著者名/発表者名
      Nakayama Shummin、Narushima Yasushi、Yabe Hiroshi
    • 雑誌名

      Computational Optimization and Applications

      巻: 79 号: 1 ページ: 127-154

    • DOI

      10.1007/s10589-021-00264-9

    • 関連する報告書
      2020 実施状況報告書
    • 査読あり
  • [雑誌論文] A primal-dual interior point trust-region method for nonlinear semidefinite programming2021

    • 著者名/発表者名
      Yamashita Hiroshi、Yabe Hiroshi、Harada Kouhei
    • 雑誌名

      Optimization Methods and Software

      巻: 36 号: 2-3 ページ: 569-601

    • DOI

      10.1080/10556788.2020.1801678

    • 関連する報告書
      2020 実施状況報告書
    • 査読あり
  • [雑誌論文] 非線形半正定値計画問題に対する主双対内点法2020

    • 著者名/発表者名
      矢部博、山下浩、原田耕平
    • 雑誌名

      第32回RAMP数理最適化シンポジウム論文集

      巻: 32 ページ: 95-112

    • 関連する報告書
      2020 実施状況報告書
  • [雑誌論文] 大規模無制約最適化問題に対する準ニュートン法と近接勾配法2020

    • 著者名/発表者名
      中山舜民
    • 雑誌名

      オペレーションズ・リサーチ

      巻: 65 ページ: 650-655

    • 関連する報告書
      2020 実施状況報告書
  • [学会発表] 二段階最適化問題に対する最適値関数を用いた内点法2024

    • 著者名/発表者名
      山本聖真、矢部博、成島康史
    • 学会等名
      日本応用数理学会第20回研究部会連合発表会
    • 関連する報告書
      2023 実績報告書
  • [学会発表] 構造化 Broyden 公式族に基づいたニュートン型近接勾配法の局所的収束性2024

    • 著者名/発表者名
      中山舜民、成島康史、矢部博
    • 学会等名
      日本応用数理学会第20回研究部会連合発表会
    • 関連する報告書
      2023 実績報告書
  • [学会発表] Proximal structured quasi-Newton method for nonlinear least squares with nonsmooth regularizer2023

    • 著者名/発表者名
      中山舜民、成島康史、矢部博
    • 学会等名
      The 10th International Congress on Industrial and Applied Mathematics (ICIAM2023)
    • 関連する報告書
      2023 実績報告書
    • 国際学会
  • [学会発表] Nonmonotone proximal structured quasi-Newton methods based on the Broyden family2023

    • 著者名/発表者名
      成島康史、中山舜民、矢部博
    • 学会等名
      The Third Pacific Optimization Conference
    • 関連する報告書
      2023 実績報告書
    • 国際学会
  • [学会発表] 連続最適化とその周辺-雑感-2023

    • 著者名/発表者名
      矢部博
    • 学会等名
      最適化の理論とアルゴリズム:未来を担う若手研究者の集い2023
    • 関連する報告書
      2023 実績報告書
    • 招待講演
  • [学会発表] 構造化 Broyden 公式族に基づいたニュートン型近接勾配法の大域的収束性2023

    • 著者名/発表者名
      矢部博、中山舜民、成島康史
    • 学会等名
      共同研究(公開型)「数理最適化:理論と実践」、京都大学数理解析研究所
    • 関連する報告書
      2023 実績報告書
  • [学会発表] 構造化 Broyden 公式族に基づいたニュートン型近接勾配法2023

    • 著者名/発表者名
      中山舜民、成島康史、矢部博
    • 学会等名
      日本オペレーションズ・リサーチ学会
    • 関連する報告書
      2023 実績報告書
  • [学会発表] L1 正則化項を持つ無制約最適化問題に対する上界近似を用いたニュートン型近接勾配法の大域的収束性について2023

    • 著者名/発表者名
      辺浩、成島康史
    • 学会等名
      日本応用数理学会
    • 関連する報告書
      2022 実施状況報告書
  • [学会発表] 上下限制約付き最適化問題に対する有効制約ブロックBarzilai-Borwein 法2023

    • 著者名/発表者名
      中山舜民
    • 学会等名
      日本オペレーションズ・リサーチ学会
    • 関連する報告書
      2022 実施状況報告書
  • [学会発表] ヘッセ行列の対角成分を用いた近接勾配法2023

    • 著者名/発表者名
      柳下翔太郎、中山舜民
    • 学会等名
      日本オペレーションズ・リサーチ学会
    • 関連する報告書
      2022 実施状況報告書
  • [学会発表] 悪条件の問題に対する近接対角ニュートン法の提案とその優位性について2023

    • 著者名/発表者名
      柳下翔太郎、中山舜民
    • 学会等名
      日本応用数理学会
    • 関連する報告書
      2022 実施状況報告書
  • [学会発表] 非線形最適化問題に対する2次の最適性を与える信頼領域逐次2次計画法2022

    • 著者名/発表者名
      矢部博、山下浩
    • 学会等名
      日本応用数理学会
    • 関連する報告書
      2022 実施状況報告書
  • [学会発表] Global convergence of a Newton-type proximal gradient method for multi-objective optimization with composite D.C. functions2022

    • 著者名/発表者名
      成島康史、Antoine Vades、 辺浩
    • 学会等名
      日本応用数理学会
    • 関連する報告書
      2022 実施状況報告書
  • [学会発表] L1 正則化項を持つ無制約最適化問題に対する上界近似を用いたニュートン型近接勾配法2022

    • 著者名/発表者名
      辺浩、成島康史
    • 学会等名
      日本応用数理学会
    • 関連する報告書
      2022 実施状況報告書
  • [学会発表] リーマン多様体上の最適化問題に対するブロイデン公式族に基づくメモリーレス準ニュートン法の大域的収束性について2022

    • 著者名/発表者名
      中山舜民、成島康史、竹村壮史、矢部博
    • 学会等名
      日本オペレーションズ・リサーチ学会
    • 関連する報告書
      2021 実施状況報告書
  • [学会発表] Convergence to a second-order critical point by a trust-region SQP method with a nonsmooth merit function2022

    • 著者名/発表者名
      矢部博、山下浩
    • 学会等名
      研究集会「最適化:モデリングとアルゴリズム」
    • 関連する報告書
      2021 実施状況報告書
  • [学会発表] An inexact proximal difference-of-convex algorithm based on memoryless quasi-Newton methods2021

    • 著者名/発表者名
      中山舜民、成島康史、矢部博
    • 学会等名
      SIAM Conference on Optimization、Washington, USA
    • 関連する報告書
      2021 実施状況報告書
    • 国際学会
  • [学会発表] 微分不可能なDC関数を含む最適化問題に対する非厳密ニュートン型近接勾配法2021

    • 著者名/発表者名
      中山舜民、成島康史、矢部博
    • 学会等名
      共同研究(公開型)「数理最適化の理論と応用の深化」、京都大学数理解析研究所
    • 関連する報告書
      2021 実施状況報告書
  • [学会発表] メモリーレス準ニュートン法に基づく非厳密ニュートン型近接DCアルゴリズム2021

    • 著者名/発表者名
      中山舜民、成島康史、矢部博
    • 学会等名
      日本オペレーションズ・リサーチ学会
    • 関連する報告書
      2021 実施状況報告書
  • [学会発表] スパース最適化問題に対する近接勾配法と近接DCアルゴリズム2021

    • 著者名/発表者名
      中山舜民
    • 学会等名
      日本オペレーションズ・リサーチ学会 最適化手法とアルゴリズム 研究部会 (SOMA) 第3回 研究会
    • 関連する報告書
      2021 実施状況報告書
    • 招待講演
  • [学会発表] 無制約最適化アルゴリズム ー準ニュートン法を中心にー2021

    • 著者名/発表者名
      中山舜民
    • 学会等名
      計測自動制御学会 制御部門 2021年度 プラントモデリング部会「モデルベース システム開発の新展開」
    • 関連する報告書
      2021 実施状況報告書
    • 招待講演
  • [学会発表] 大規模な無制約最適化問題に対する数値解法とその周辺2021

    • 著者名/発表者名
      成島康史
    • 学会等名
      日本応用数理学会 第13回三部会連携「応用数理セミナー」
    • 関連する報告書
      2021 実施状況報告書
    • 招待講演
  • [学会発表] メモリーレスBFGS公式に基づく非厳密ニュートン型近接勾配法における内部反復の改良について2021

    • 著者名/発表者名
      中山舜民、成島康史、矢部博
    • 学会等名
      日本OR学会
    • 関連する報告書
      2020 実施状況報告書
  • [学会発表] 内部反復を改良したメモリーレスBFGS公式に基づく非厳密ニュートン型近接勾配法2021

    • 著者名/発表者名
      中山舜民、成島康史、矢部博
    • 学会等名
      研究集会「最適化:モデリングとアルゴリズム」
    • 関連する報告書
      2020 実施状況報告書
  • [学会発表] リーマン多様体上の最適化問題に対するBroyden公式族に基づいた準ニュートン法2021

    • 著者名/発表者名
      竹村壮史、矢部博
    • 学会等名
      研究集会「最適化:モデリングとアルゴリズム」
    • 関連する報告書
      2020 実施状況報告書
  • [学会発表] 非凸最適化問題に対するメモリーレス準ニュートン法に基づいた非厳密ニュートン型近接勾配法、およびその数値的な効率性について2020

    • 著者名/発表者名
      中山舜民、成島康史、矢部博
    • 学会等名
      京都大学数理解析研究所 共同研究(グループ型)「数理最適化の理論・アルゴリズム・応用」
    • 関連する報告書
      2020 実施状況報告書
  • [学会発表] 非凸なスパース回帰問題に対する近接勾配法と近接DCAの比較2020

    • 著者名/発表者名
      中山舜民, 後藤順哉
    • 学会等名
      京都大学数理解析研究所 共同研究(グループ型)「数理最適化の理論・アルゴリズム・応用」
    • 関連する報告書
      2020 実施状況報告書
  • [学会発表] Continuous exact penalty approach to grouped variable selection in regression methods2020

    • 著者名/発表者名
      Jun-ya Gotoh and Shummin Nakayama
    • 学会等名
      INFORMS Annual Meeting
    • 関連する報告書
      2020 実施状況報告書
    • 国際学会
  • [学会発表] 非線形半正定値計画問題に対する主双対内点法2020

    • 著者名/発表者名
      矢部博
    • 学会等名
      第32回RAMP数理最適化シンポジウム
    • 関連する報告書
      2020 実施状況報告書
    • 招待講演

URL: 

公開日: 2020-04-28   更新日: 2025-01-30  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi