• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to previous page

Explicit dual formulations of continuous optimization problems and their applications

Research Project

Project/Area Number 21K11769
Research Category

Grant-in-Aid for Scientific Research (C)

Allocation TypeMulti-year Fund
Section一般
Review Section Basic Section 60020:Mathematical informatics-related
Research InstitutionKyoto University

Principal Investigator

山下 信雄  京都大学, 情報学研究科, 教授 (30293898)

Co-Investigator(Kenkyū-buntansha) 山川 雄也  京都大学, 情報学研究科, 助教 (00837354)
Project Period (FY) 2021-04-01 – 2025-03-31
Project Status Granted (Fiscal Year 2023)
Budget Amount *help
¥4,160,000 (Direct Cost: ¥3,200,000、Indirect Cost: ¥960,000)
Fiscal Year 2024: ¥1,040,000 (Direct Cost: ¥800,000、Indirect Cost: ¥240,000)
Fiscal Year 2023: ¥1,170,000 (Direct Cost: ¥900,000、Indirect Cost: ¥270,000)
Fiscal Year 2022: ¥1,040,000 (Direct Cost: ¥800,000、Indirect Cost: ¥240,000)
Fiscal Year 2021: ¥910,000 (Direct Cost: ¥700,000、Indirect Cost: ¥210,000)
Keywords双対問題 / 均衡問題 / 数理最適化 / 非線形方程式 / 非線形半正定値計画 / 連続最適化
Outline of Research at the Start

大規模かつ複雑なシステムの連続最適化モデルに関する研究が盛んに行われているが,そのようなモデルを社会実装するためにはいくつかの壁が存在する.本研究では,連続最適化の双対性を利用して,実用化の障壁となる「モデル化の壁」と「アルゴリズムの実装の壁」を解決することを考える.そのためには,計算機上で利用できる形式となる「陽に書ける双対問題」を導出する必要がある.本研究では特に,フェンシェル双対問題やゲージ双対問題に着目し,専門知識がなくても双対性を利活用できるように,陽に書ける双対問題を体系的に与える.さらに,いくつかの応用事例を通して陽に書ける双対問題の利用指針を与える.

Outline of Annual Research Achievements

本研究では,連続最適化の陽にかける双対問題を利用して,実用化の障壁となる「モデル化の壁」と「アルゴリズムの実装の壁」を解決することを考える.本年度の目的は,双対性を利用して,応用問題を効率よく解く手法を開発することである.さらに,昨年度からの課題となっているゲージ双対性を利用した最適化モデル化手法を研究することとしていた.それらの目的に対して以下の成果を得た.
・2プレイヤーの展開ゲームにおける均衡解を求める問題を最適化問題およびその双対問題として構成し,その双対性ギャップを減少させる平滑化法を提案した.特に,その手法にあらわれるBregman関数の構成方法の工夫を考え,既存の手法と比べて高速に均衡解が求められることを数値実験によって確かめた.
・実行不可能となりうる最適化問題において,できる限り制約条件をみたしつつ,目的関数を最小化する解を求めることは実用上重要である.特に優先的にみたすべき制約条件がある場合は,それを考慮した最適化ができることが望ましい.そのような目的に向けて,まず優先度に応じたペナルティパラメータを調整するペナルティ法を考案し,双対性を利用して,その収束性を解明した.
・多クラス分類のためのサポートベクターマシンの一般化したモデルを提案し,双対性を利用した効率のよい解法を与えた.従来のサポートベクターマシンでは一次式で分類を行うが,これを2次式で分類することを考え,2次制約つき2次最適化問題として定式化を行った.しなしながら,その目的関数,制約条件ともに非凸になるため,そのモデルの大域的最適解を求めることは容易ではない.そこで,制約条件を一つの代理制約にまとめるモデルを提案した.そのモデルでは制約条件は凸2次の不等式制約として表すことができ,双対性を利用することによって,陽に解を与えることができる.

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

連続最適化の技術を社会実装するためにはいくつかの壁が存在する.本研究では,連続最適化の双対性を利用して,実用化の障壁となる「モデル化の壁」と「アルゴリズムの実装の壁」を解決することを考える.
本年度は,以下に示すように,いくつかの応用問題に対して双対性を利用した実用的なアルゴリズムを開発した.ポーカーなどにあらわれる大規模な展開ゲームに対して双対性を利用した平滑化法を考え,それを高速化する工夫を与えた.さらに,機械学習における代表的な課題である他クラス分類において,一般化されたサポートベクターマシンを考え,代理制約と双対理論を利用して高速に学習する方法を与えた.さらに,優先度が異なる制約条件をもつ問題に対して,拡張されたペナルティ法と拡張ラグランジュ法を考え,それらの収束性を用いて解明した.2021年度に立案した2023度の研究計画・目標としては,十分な成果をあげるこができた.
一方,前前年度からの課題になっているゲージ双対問題に必要となる極関数の調査が十分にできていない.また,今年度の研究対象としていたDC最適化問題の双対性については,それが本質的には主問題と変わらないと判断にいたり,この双対性についての研究は取りやめることとした.次年度は,極関数の調査を進めると同時に,その応用としてのロバスト最適化を考える予定である.
これらのことから,本研究はおおむね順調に進展していると考えている.

Strategy for Future Research Activity

本研究の目的としている「モデル化の壁」と「アルゴリズムの実装の壁」の二つの壁の解消について,「アルゴリズムの実装の壁」に関連した研究は順調に進展しており,2024年度以降も当初の計画どおりに研究をすすめる.
一方で,「モデル化の壁」については,当初の研究計画にあった極関数の調査を進めると同時に,その極関数を利用した新しいロバスト最適化モデルを考案する予定である.

Report

(3 results)
  • 2023 Research-status Report
  • 2022 Research-status Report
  • 2021 Research-status Report
  • Research Products

    (11 results)

All 2024 2023 2022 2021

All Journal Article (4 results) (of which Peer Reviewed: 4 results) Presentation (7 results) (of which Int'l Joint Research: 3 results)

  • [Journal Article] Convergence properties of Levenberg-Marquardt methods with generalized regularization terms2024

    • Author(s)
      Shumpei Ariizumi, Yuya Yamakawa, Nobuo Yamashita
    • Journal Title

      Applied Mathematics and Computation

      Volume: 463 Pages: 128365-128365

    • DOI

      10.1016/j.amc.2023.128365

    • Related Report
      2023 Research-status Report
    • Peer Reviewed
  • [Journal Article] A dual active set method for l1-regularized problem2023

    • Author(s)
      Y. Hikima, N. Yamashita
    • Journal Title

      Journal of Industrial and Management Optimization

      Volume: - Issue: 11 Pages: 7826-7848

    • DOI

      10.3934/jimo.2023022

    • Related Report
      2023 Research-status Report 2022 Research-status Report
    • Peer Reviewed
  • [Journal Article] Two-stage distributionally robust noncooperative games: Existence of Nash equilibrium and its application to Cournot-Nash competition2023

    • Author(s)
      A. Hori, N. Yamashita
    • Journal Title

      Journal of Industrial and Management Optimization

      Volume: 19 Issue: 9 Pages: 6430-6450

    • DOI

      10.3934/jimo.2022221

    • Related Report
      2022 Research-status Report
    • Peer Reviewed
  • [Journal Article] Distributionally robust expected residual minimization for stochastic variational inequality problems2023

    • Author(s)
      A. Hori, Y. Yamakawa, N. Yamashita
    • Journal Title

      Optimization Methods and Software

      Volume: - Issue: 4 Pages: 756-780

    • DOI

      10.1080/10556788.2023.2167995

    • Related Report
      2022 Research-status Report
    • Peer Reviewed
  • [Presentation] A stochastic variance reduced gradient using second order information2023

    • Author(s)
      Hardik Tankaria, Nobuo Yamashita
    • Organizer
      10th International Congress on Industrial and Applied Mathematics
    • Related Report
      2023 Research-status Report
    • Int'l Joint Research
  • [Presentation] 楕円体を用いたクラス分類モデルの提案2023

    • Author(s)
      永井 琉生,山川 雄也,山下 信雄
    • Organizer
      023年度OR学会関西支部若手研究発表会
    • Related Report
      2023 Research-status Report
  • [Presentation] Two-stage distributionally robust noncooperative games: Existence of Nash equilibrium and its application to Cournot-Nash competition2022

    • Author(s)
      A. Hori, N. Yamashita
    • Organizer
      International Workshop on Continuous Optimization
    • Related Report
      2022 Research-status Report
    • Int'l Joint Research
  • [Presentation] 非線形半正定値計画問題に対する逐次二次半正定値計画法の改良2021

    • Author(s)
      岡部公亮,山川 雄也,福田 エレン 秀美
    • Organizer
      SSOR2021 関西支部
    • Related Report
      2021 Research-status Report
  • [Presentation] 確率変分不等式問題に対する分布的ロバスト期待残差最小化2021

    • Author(s)
      堀 篤史,山川 雄也,山下 信雄
    • Organizer
      SSOR2021 関西支部
    • Related Report
      2021 Research-status Report
  • [Presentation] 正斉次関数を含む最適化問題に対する双対性とその応用について2021

    • Author(s)
      山中 翔太,山下 信雄
    • Organizer
      RIMS共同研究:数理最適化の理論と応用の深化
    • Related Report
      2021 Research-status Report
  • [Presentation] Distributionally robust expected residual minimization for stochastic variational inequalities2021

    • Author(s)
      堀 篤史,山川 雄也,山下 信雄
    • Organizer
      SIAM Conference on Optimization 2021
    • Related Report
      2021 Research-status Report
    • Int'l Joint Research

URL: 

Published: 2021-04-28   Modified: 2024-12-25  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi