• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2021 Fiscal Year Annual Research Report

Development of Global Optimization Methods by Generalized Eigenvalue Computation

Research Project

Project/Area Number 17H01699
Research InstitutionThe University of Tokyo

Principal Investigator

岩田 覚  東京大学, 大学院情報理工学系研究科, 教授 (00263161)

Co-Investigator(Kenkyū-buntansha) 武田 朗子  東京大学, 大学院情報理工学系研究科, 教授 (80361799)
Project Period (FY) 2017-04-01 – 2022-03-31
Keywords数理最適化 / 大域最適化 / 一般化固有値 / 機械学習 / アルゴリズム
Outline of Annual Research Achievements

本研究課題では,一般に効率的なアルゴリズムの設計が原理的に不可能であると言われている非凸最適化問題の中でも幾何的な背景を有する問題に焦点を絞り,その構造を利用して,大域最適解を見出す効率的なアルゴリズムを設計する手法を確立することを目的とする.具体的には,一般化固有値計算を用いて,制約条件数が定数で抑えられる2次制約2次計画問題に対する実装可能な多項式時間厳密解法を開発することを目標とする.さらに,一般化固有値計算を利用した非凸最適化問題の解法を,できるだけ一般的な枠組みに拡張することを目指している.
非線形関数の無制約最適化を中心に広く使わる信頼領域法では,反復毎に信頼領域と呼ばれる楕円体の中で,2次目的関数を最小化する問題を解く.この問題は,信頼領域部分問題 (TRS) と呼ばれ, 非凸最適化問題であるが,半正定値計画緩和が常に最 適解を与えるために,多項式時間で解けることが知られている.代表者等が既に開発した一般化固有値問題を経由してTRSを解 く手法は,半正定値計画緩和による従来の解法よりも格段に高速で,高い精度を達成している.一方で,TRSに多数の線形不等式制約が付加された一般化TRSに対して,半正定値計画緩和による手法を中心に,多くの研究がなされている.最近では,特に,付加する不等式条件数が定数の場合には多項式時間が得られるとの報告もされている.
本年度は,制約付き凸最適化問題や非凸最適化問題に対して,停留点への大域収束性の保証を有する効率的な解法を提案した.特に,多レベルから成る非凸最適化問題に対し,初めて,収束性の保証のついた解法を提案し,機械学習の敵対的学習問題に適用し,解法の有用性を確認した.また,DC最適化問題に対して,勾配情報に加えて2階微分の情報を利用した解法を提案し,勾配ベースのアルゴリズムに比べて高速であることを理論的,実験的に確認した.

Research Progress Status

令和3年度が最終年度であるため、記入しない。

Strategy for Future Research Activity

令和3年度が最終年度であるため、記入しない。

  • Research Products

    (6 results)

All 2022 2021

All Journal Article (5 results) (of which Peer Reviewed: 5 results) Presentation (1 results) (of which Int'l Joint Research: 1 results,  Invited: 1 results)

  • [Journal Article] An inexact successive quadratic approximation method for a class of difference-of-convex optimization problems2022

    • Author(s)
      Tianxiang Liu, Akiko Takeda
    • Journal Title

      Computational Optimization and Applications

      Volume: 82 Pages: 141~173

    • DOI

      10.1007/s10589-022-00357-z

    • Peer Reviewed
  • [Journal Article] Primal-dual subgradient method for constrained convex optimization problems2021

    • Author(s)
      Michael R. Metel, Akiko Takeda
    • Journal Title

      Optimization Letters

      Volume: 15 Pages: 1491~1504

    • DOI

      10.1007/s11590-021-01728-x

    • Peer Reviewed
  • [Journal Article] Stochastic Proximal Methods for Non-Smooth Non-Convex Constrained Sparse Optimization2021

    • Author(s)
      Michael Metel, Akiko Takeda,
    • Journal Title

      Journal of Machine Learning Research

      Volume: 22 (115) Pages: 1-36

    • Peer Reviewed
  • [Journal Article] A Projected Gradient Method for Opinion Optimization with Limited Changes of Susceptibility to Persuasion2021

    • Author(s)
      Naoki Marumo, Atsushi Miyauchi, Akiko Takeda, Akira Tanaka
    • Journal Title

      CIKM

      Volume: 30 Pages: 1274-1283

    • DOI

      10.1145/3459637.3482408

    • Peer Reviewed
  • [Journal Article] A Gradient Method for Multilevel Optimization2021

    • Author(s)
      Ryo Sato, Mirai Tanaka, Akiko Takeda
    • Journal Title

      Advances in Neural Information Processing Systems

      Volume: 34 Pages: 7522-7533

    • Peer Reviewed
  • [Presentation] Weighted Linear Matroid Parity2021

    • Author(s)
      Satoru Iwata
    • Organizer
      SIAM Conference on Optimization
    • Int'l Joint Research / Invited

URL: 

Published: 2022-12-28  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi