• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2017 Fiscal Year Annual Research Report

Efficient methods for nonsmooth quasiconvex optimization with complicated constraints based on fixed point theory

Research Project

Project/Area Number 17J09220
Research InstitutionMeiji University

Principal Investigator

菱沼 和弘  明治大学, 明治大学大学院 理工学研究科 博士後期課程, 特別研究員(DC1)

Project Period (FY) 2017-04-26 – 2020-03-31
Keywords準凸最適化 / 不動点近似法 / サポートベクトルマシン学習
Outline of Annual Research Achievements

経済学、工学、経営科学等の分野に於いては、準凸関数と呼ばれる、よく研究されている凸関数の範疇にない目的関数についての最適化問題が扱われている。本研究は、この準凸関数最適化のうち、難解複雑な制約をも表現することのできる不動点制約付き問題を、より高速に、理論的収束保証を付して解くことが可能な算法の実現を目指す。

【イ)不動点制約付き準凸最適化算法の開発】難解複雑な制約を伴う非平滑準凸最適化問題に対する問題解決の突破口として、不動点近似算法の一つであるKrasnosel'skii-Mann 型不動点近似算法に基づく最適化算法の開発に成功した。本研究では、算法の具体的な提案のみならず、数学的収束性の解析と証明、および計算機実験における詳細な性能評価も完了し、既存手法では解くことのできない最適化問題に対しても効率的に解を求めることが可能であることを確認した。
【ロ)算法の現実的工学的応用に於ける問題解決】受入研究者との共同研究として、サポートベクトルマシン学習に関する確率的算法の研究を行った。研究では、サポートベクトルマシン学習のための確率的勾配降下法[S.S-Shwartz, et al. (2011)] を拡張し、制約なし最適化における効率的な算法として知られている三項間共役勾配法に基づく新しい算法を提案、およびその性能を具体的なデータセットを用いたサポートベクトルマシン学習実験に基づき詳細に評価した。
【ハ)その他】「イ)不動点制約付き準凸最適化算法の開発」および「ロ)算法の現実的工学的応用に於ける問題解決」の研究を遂行する上で得られた知見より、数理最適化に関する新たな研究の発展を図ることについても遂行している。

Current Status of Research Progress
Current Status of Research Progress

1: Research has progressed more than it was originally planned.

Reason

【イ)不動点制約付き準凸最適化算法の開発】難解複雑な制約を伴う非平滑準凸最適化問題に対する問題解決の突破口として、不動点近似算法の一つであるKrasnosel'skii-Mann 型不動点近似算法に基づく最適化算法の開発に成功した。この算法は、単純な制約を伴う準凸最適化問題に対する既存の準劣勾配法[K.C.Kiwiel (2001); Y.Hu, et al. (2016)]に、非拡大写像の不動点を反復的計算により求めるKrasnosel'skii-Mann 型不動点近似法を組み込むことで、難解複雑な制約をも表現できる非拡大写像の不動点集合上に於ける準凸最適化算法の構築を実現した。成果については、同年度中の各種国際会議や研究会に於いて発表と議論を行い、その深化を図った。現在、これらの発表と議論に基づき、成果を論文として纏めており、近日中に投稿すべく作業を遂行している。
【ロ)算法の現実的工学的応用に於ける問題解決】受入研究者との共同研究として、サポートベクトルマシン学習に関する確率的算法の研究を行い、その成果を論文として投稿し、受理された。この成果は、「イ)不動点制約付き準凸最適化算法の開発」で述べた準凸最適化算法の具体的現実的かつ工学的な応用事例として、本研究全体の意義と重要性を示す鍵となることが期待される。
【ハ)その他】研究を遂行する上で得られた知見より、数理最適化に関する新たな研究の発展を図ることも遂行している。一例として、準凸最適化に関する既存研究[Y.Hu, et al. (2016)]で用いられている効率的な算法駆動のための工夫点を、非拡大写像の不動点集合上での準凸最適化算法の構築に於いても活用したKrasnosel'skii-Mann 型不動点近似法に適用し、その効果の検証を行った論文を現在投稿中である。

以上より、本研究は当初より計画されていたものに留まらず、その近接分野や応用分野の研究にも着手・展開し、計画を超えた進展を実現している。

Strategy for Future Research Activity

【イ)不動点制約付き準凸最適化算法の開発】Krasnosel'skii-Mann 型不動点近似法に並ぶ有用な不動点近似法として知られているHalpern型算法に基づく難解複雑な制約を伴う非平滑準凸最適化算法の開発や、分散型準凸最適化算法の開発に関する調査・研究についても着手しており、平成29年度の成果に基づき、次年度以降も継続した成果の深化と発展を図るべく研究を実施する計画である。
【ロ)算法の現実的工学的応用に於ける問題解決】平成29年度中に得られた知見に基づき、次年度以降に於いては、準凸最適化算法の工学的応用を踏まえた更なる改良と、その具体的応用事例の提案の実現を図る計画である。
【ハ)その他】研究課題の遂行はもとより、その遂行に伴い得られた知見の、数理最適化や他の研究分野への活用可能性の探求についても、継続して実施し、得られた成果については随時論文等により発表する計画である。

  • Research Products

    (7 results)

All 2018 2017 Other

All Journal Article (1 results) (of which Peer Reviewed: 1 results,  Open Access: 1 results) Presentation (4 results) (of which Int'l Joint Research: 2 results) Remarks (2 results)

  • [Journal Article] Evaluation of Stochastic Approximation Algorithm and Variants for Learning Support Vector Machines2018

    • Author(s)
      Keigo Fujiwara, Kazuhiro Hishinuma, Hideaki Iiduka
    • Journal Title

      Linear and Nonlinear Analysis

      Volume: 4 Pages: 29-61

    • Peer Reviewed / Open Access
  • [Presentation] 増分劣勾配法および並列型劣勾配法のサポートベクトルマシン学習への適用とその得失2018

    • Author(s)
      菱沼 和弘, 飯塚 秀明
    • Organizer
      日本オペレーションズ・リサーチ学会 2018年春季研究発表会
  • [Presentation] Flexible stepsize selection of subgradient methods for constrained convex optimization2017

    • Author(s)
      Kazuhiro Hishinuma, Hideaki Iiduka
    • Organizer
      the 10th Anniversary Conference on Nonlinear Analysis and Convex Analysis
    • Int'l Joint Research
  • [Presentation] Iterative method for solving constrained quasiconvex optimization problems based on the Krasnosel'skii-Mann fixed point approximation method2017

    • Author(s)
      Kazuhiro Hishinuma, Hideaki Iiduka
    • Organizer
      RIMS Workshop on Nonlinear Analysis and Convex Analysis
    • Int'l Joint Research
  • [Presentation] 不動点制約付き準凸最小化問題に対する準劣勾配法2017

    • Author(s)
      菱沼 和弘, 飯塚 秀明
    • Organizer
      京都大学数理解析研究所研究集会《数理最適化の発展:モデル化とアルゴリズム》
  • [Remarks] 菱沼和弘(特別研究員)のウェブサイト

    • URL

      https://arnip.org

  • [Remarks] 明治大学数理最適化研究室(受入研究者)ウェブサイト

    • URL

      http://www.mo.cs.meiji.ac.jp

URL: 

Published: 2018-12-17  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi