• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to previous page

Explicit dual formulations of continuous optimization problems and their applications

Research Project

Project/Area Number 21K11769
Research Category

Grant-in-Aid for Scientific Research (C)

Allocation TypeMulti-year Fund
Section一般
Review Section Basic Section 60020:Mathematical informatics-related
Research InstitutionKyoto University

Principal Investigator

山下 信雄  京都大学, 情報学研究科, 教授 (30293898)

Co-Investigator(Kenkyū-buntansha) 山川 雄也  京都大学, 情報学研究科, 助教 (00837354)
Project Period (FY) 2021-04-01 – 2026-03-31
Project Status Granted (Fiscal Year 2024)
Budget Amount *help
¥4,160,000 (Direct Cost: ¥3,200,000、Indirect Cost: ¥960,000)
Fiscal Year 2024: ¥1,040,000 (Direct Cost: ¥800,000、Indirect Cost: ¥240,000)
Fiscal Year 2023: ¥1,170,000 (Direct Cost: ¥900,000、Indirect Cost: ¥270,000)
Fiscal Year 2022: ¥1,040,000 (Direct Cost: ¥800,000、Indirect Cost: ¥240,000)
Fiscal Year 2021: ¥910,000 (Direct Cost: ¥700,000、Indirect Cost: ¥210,000)
Keywords連続最適化 / 双対問題 / 均衡問題 / 数理最適化 / 非線形方程式 / 非線形半正定値計画
Outline of Research at the Start

大規模かつ複雑なシステムの連続最適化モデルに関する研究が盛んに行われているが,そのようなモデルを社会実装するためにはいくつかの壁が存在する.本研究では,連続最適化の双対性を利用して,実用化の障壁となる「モデル化の壁」と「アルゴリズムの実装の壁」を解決することを考える.そのためには,計算機上で利用できる形式となる「陽に書ける双対問題」を導出する必要がある.本研究では特に,フェンシェル双対問題やゲージ双対問題に着目し,専門知識がなくても双対性を利活用できるように,陽に書ける双対問題を体系的に与える.さらに,いくつかの応用事例を通して陽に書ける双対問題の利用指針を与える.

Outline of Annual Research Achievements

本研究では,連続最適化の陽にかける双対問題を利用して,実用化の障壁となる「モデル化の壁」と「アルゴリズムの実装の壁」を解決することを考える.本年度の目的は,双対性を利用して,応用問題を効率よく解く手法を開発することである.さらに,昨年度から引き続き,ゲージ双対性を利用した最適化モデル化モデルを研究することとしていた.それらの目的に対して以下の成果を得た.
・凸最適化問題に対する正則化法に対して,正則化関数が2次関数でない場合に一般化した清掃かニュートン法を提案した.さらに,一般化された正則化ニュートン法の計算量解析を行い,既存の2次正則化ニュートン法と3次正則化ニュートン法の計算量を含む結果を導出した.また,提案手法の部分問題を効率よくために,Fenchel双対性を利用した解法を開発した.
・多クラス分類のためのサポートベクターマシンの一般化したモデルに対して,代理双対性を利用した効率のよい解法を与えた.昨年度は,2次式で分類するサポートベクターマシンモデルに対して,制約条件を一つにまとめることによって,効率よく解く近似解を得る手法を提案した.しかし,制約条件のまとめ方に任意性があり,具体的な手順が与えていなかった.今年度は,制約条件を一つにまとめるという考え方が,代理双対問題あることに気づき,代理双対問題の解法を使って,ある意味で最適な制約条件のまとめ方を考案した.数値実験によって,提案手法によるまとめ方によって,より高精度に分類できることを確認した.
・制御理論分野に現れる合意制御や分散最適化と変分不等式問題との関係を調べた.単純な合意制御や分散最適化が,非拡大写像の不動点アルゴリズムやハイブリッド最急降下法とみなせることがわかった.この知見と双対性を利用して,効率的な分散最適化手法の仕組みを検討した.

Current Status of Research Progress
Current Status of Research Progress

3: Progress in research has been slightly delayed.

Reason

連続最適化の技術を社会実装するためにはいくつかの壁が存在する.本研究では,連続最適化の双対性を利用して,実用化の障壁となる「モデル化の壁」と「アルゴリズムの実装の壁」を解決することを考える.
本年度は,以下の応用問題に対して双対性を利用した実用的なアルゴリズムを開発した.機械学習における代表的な課題である他クラス分類において,一般化されたサポートベクターマシンを考え,代理双対性を利用して高精度な学習モデルを考案した.また,Worst-Case CvaRをリスクにもつポートフォリオ最適化問題に対して,双対性を利用した効率的な乗数法の実装方法を与えた. 2021年度に立案した2024度の研究計画・目標の一部は達成できている.
一方,以前からの課題になっているゲージ双対問題に必要となる極関数の調査が十分にできていない.これは,ゲージ双対問題は数学的に面白い研究対象であるが,現時点で応用の広がりに欠けていることが判明したためである.次年度は,より応用範囲の広い双対性を利用した最適化手法,特にBenders分解法を検討し,連続最適化のみならず,非線形混合整数計画問題の解法の開発に取り組む予定である.
これらのことから,やや遅れていると考えている

Strategy for Future Research Activity

本研究の目的としている「モデル化の壁」と「アルゴリズムの実装の壁」の二つの壁の解消について,「アルゴリズムの実装の壁」に関連した研究は所望の成果を得た.
一方で,「モデル化の壁」については,当初の研究計画にあった極関数やそれに基づくゲージ双対性によりモデル化は現時点では限界があることが判明した.そこで,連続最適化問題をより一般化した非線形混合整数計画を考え,これまでに得られた双対性に関する知見を活用したモデル化とそのモデルに対するアルゴリズムの解法に取り組む.

Report

(4 results)
  • 2024 Research-status Report
  • 2023 Research-status Report
  • 2022 Research-status Report
  • 2021 Research-status Report
  • Research Products

    (13 results)

All 2025 2024 2023 2022 2021

All Journal Article (5 results) (of which Peer Reviewed: 5 results,  Open Access: 1 results) Presentation (8 results) (of which Int'l Joint Research: 3 results)

  • [Journal Article] Convergence analysis of a regularized Newton method with generalized regularization terms for unconstrained convex optimization problems2025

    • Author(s)
      Yamakawa Yuya、Yamashita Nobuo
    • Journal Title

      Applied Mathematics and Computation

      Volume: 491 Pages: 129219-129219

    • DOI

      10.1016/j.amc.2024.129219

    • Related Report
      2024 Research-status Report
    • Peer Reviewed / Open Access
  • [Journal Article] Convergence properties of Levenberg-Marquardt methods with generalized regularization terms2024

    • Author(s)
      Shumpei Ariizumi, Yuya Yamakawa, Nobuo Yamashita
    • Journal Title

      Applied Mathematics and Computation

      Volume: 463 Pages: 128365-128365

    • DOI

      10.1016/j.amc.2023.128365

    • Related Report
      2023 Research-status Report
    • Peer Reviewed
  • [Journal Article] A dual active set method for l1-regularized problem2023

    • Author(s)
      Y. Hikima, N. Yamashita
    • Journal Title

      Journal of Industrial and Management Optimization

      Volume: - Issue: 11 Pages: 7826-7848

    • DOI

      10.3934/jimo.2023022

    • Related Report
      2023 Research-status Report 2022 Research-status Report
    • Peer Reviewed
  • [Journal Article] Two-stage distributionally robust noncooperative games: Existence of Nash equilibrium and its application to Cournot-Nash competition2023

    • Author(s)
      A. Hori, N. Yamashita
    • Journal Title

      Journal of Industrial and Management Optimization

      Volume: 19 Issue: 9 Pages: 6430-6450

    • DOI

      10.3934/jimo.2022221

    • Related Report
      2022 Research-status Report
    • Peer Reviewed
  • [Journal Article] Distributionally robust expected residual minimization for stochastic variational inequality problems2023

    • Author(s)
      A. Hori, Y. Yamakawa, N. Yamashita
    • Journal Title

      Optimization Methods and Software

      Volume: - Issue: 4 Pages: 756-780

    • DOI

      10.1080/10556788.2023.2167995

    • Related Report
      2022 Research-status Report
    • Peer Reviewed
  • [Presentation] 最適輸送に対するブロック座標降下ネットワークシンプレックス法2024

    • Author(s)
      李 凌睿,山下 信雄
    • Organizer
      日本応用数理学会
    • Related Report
      2024 Research-status Report
  • [Presentation] A stochastic variance reduced gradient using second order information2023

    • Author(s)
      Hardik Tankaria, Nobuo Yamashita
    • Organizer
      10th International Congress on Industrial and Applied Mathematics
    • Related Report
      2023 Research-status Report
    • Int'l Joint Research
  • [Presentation] 楕円体を用いたクラス分類モデルの提案2023

    • Author(s)
      永井 琉生,山川 雄也,山下 信雄
    • Organizer
      023年度OR学会関西支部若手研究発表会
    • Related Report
      2023 Research-status Report
  • [Presentation] Two-stage distributionally robust noncooperative games: Existence of Nash equilibrium and its application to Cournot-Nash competition2022

    • Author(s)
      A. Hori, N. Yamashita
    • Organizer
      International Workshop on Continuous Optimization
    • Related Report
      2022 Research-status Report
    • Int'l Joint Research
  • [Presentation] 非線形半正定値計画問題に対する逐次二次半正定値計画法の改良2021

    • Author(s)
      岡部公亮,山川 雄也,福田 エレン 秀美
    • Organizer
      SSOR2021 関西支部
    • Related Report
      2021 Research-status Report
  • [Presentation] 確率変分不等式問題に対する分布的ロバスト期待残差最小化2021

    • Author(s)
      堀 篤史,山川 雄也,山下 信雄
    • Organizer
      SSOR2021 関西支部
    • Related Report
      2021 Research-status Report
  • [Presentation] 正斉次関数を含む最適化問題に対する双対性とその応用について2021

    • Author(s)
      山中 翔太,山下 信雄
    • Organizer
      RIMS共同研究:数理最適化の理論と応用の深化
    • Related Report
      2021 Research-status Report
  • [Presentation] Distributionally robust expected residual minimization for stochastic variational inequalities2021

    • Author(s)
      堀 篤史,山川 雄也,山下 信雄
    • Organizer
      SIAM Conference on Optimization 2021
    • Related Report
      2021 Research-status Report
    • Int'l Joint Research

URL: 

Published: 2021-04-28   Modified: 2025-12-26  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi