• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to previous page

リーマン多様体上の最適化理論の展開とその大規模問題への応用

Research Project

Project/Area Number 20K14359
Research Category

Grant-in-Aid for Early-Career Scientists

Allocation TypeMulti-year Fund
Review Section Basic Section 12040:Applied mathematics and statistics-related
Research InstitutionKyoto University

Principal Investigator

佐藤 寛之  京都大学, 情報学研究科, 特定准教授 (80734433)

Project Period (FY) 2020-04-01 – 2025-03-31
Project Status Granted (Fiscal Year 2023)
Budget Amount *help
¥4,160,000 (Direct Cost: ¥3,200,000、Indirect Cost: ¥960,000)
Fiscal Year 2023: ¥1,040,000 (Direct Cost: ¥800,000、Indirect Cost: ¥240,000)
Fiscal Year 2022: ¥1,040,000 (Direct Cost: ¥800,000、Indirect Cost: ¥240,000)
Fiscal Year 2021: ¥1,040,000 (Direct Cost: ¥800,000、Indirect Cost: ¥240,000)
Fiscal Year 2020: ¥1,040,000 (Direct Cost: ¥800,000、Indirect Cost: ¥240,000)
Keywords最適化 / リーマン多様体 / 共役勾配法 / レトラクション / p-ノルム / シンプレクティックシュティーフェル多様体 / 指数写像 / グラスマン多様体 / 最急降下法 / リーマン幾何学 / 応用数学 / 数理工学
Outline of Research at the Start

人工知能・機械学習などに現れる問題に対して,リーマン多様体上の最適化が有効であることが広く認識され始めており,そうしたビッグデータを伴う大規模な最適化問題を効率よく求解できるアルゴリズムを発展させることが重要である.本研究では,大規模な最適化問題に有効な共役勾配法や確率的勾配法をリーマン多様体上に拡張し,その収束性や実用性を,理論的な証明と数値的な実証によって保証する.さらに,こうした手法を応用し,機械学習,制御工学,数値線形代数など,他分野の諸問題に対する新しい求解アルゴリズムを開発する.

Outline of Annual Research Achievements

令和5年度は,リーマン多様体上の具体的な最適化問題について,その数理と解法を議論し,結果をまとめた2編の論文を発表した.
一つは,ユークリッド空間上の p-ノルム(ただし p > 1)の意味で定義される単位球面に関するリーマン幾何学的な性質を詳しく解析した研究である.さらに,その上の最適化問題を解くためにレトラクションやベクトル移動などの写像の具体的な計算法を導出した.また,これらの結果の応用例として,球面上の非負制約付き最適化問題や Lp 正則化に関連する最適化問題を議論した.前者は非負主成分分析を,後者は Lasso 回帰や箱型制約付き最適化問題をその具体例として含み,いずれも重要な問題である.
もう一つの研究では,シンプレクティックシュティーフェル多様体上の最適化問題に対する共役勾配法を提案し,その性質についての数学的議論を行った.こうした問題はシンプレクティック固有値問題や量子力学への応用があり重要であるにもかかわらず,まだ研究があまりなされていなかった.具体的には,一般的な場合の解法としてはあまり収束が速くない最急降下法が提案されているに留まっており,ニュートン法のような高速な手法は特殊な場合に適用できる形でしか提案されていなかった.そこで,本研究ではシンプレクティックシュティーフェル多様体上の共役勾配法を提案した.この提案手法を実装するために,レトラクションやベクトル移動の計算方法を明示的に導出したことも本研究の貢献である.また,シンプレクティック固有値問題に対して既存手法である最急降下法と提案手法である共役勾配法を適用して解く数値実験を行い,提案手法が既存手法より優れた性能を発揮することを実証した.
これら2つの研究はいずれも,具体的な多様体上の最適化問題の求解に大きく貢献するものである.

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

「研究実績の概要」で述べた通り,令和5年度は具体的なリーマン多様体上の最適化問題についての研究を展開することができた.令和4年度は多様体上の共役勾配法について一般的な新しいクラスについての研究を完成させ,本研究課題の一つの柱である理論的研究を大きく進展させたが,これをシンプレクティックシュティーフェル多様体上の最適化問題にも適用できるよう理論を整備するなど,令和5年度は本研究課題のもう一つの柱である応用研究を推進することができた.

Strategy for Future Research Activity

令和6年度は,多様体上の多目的最適化問題についての共役勾配法の理論を完成させ,論文として発表することを目指す.また,実際に数値実験を行うことで,その実用的な応用も見据えた研究の推進を目指す.
さらに,多様体上の最適化で広く用いられるレトラクションによる曲線探索についての新たなアプローチを提案し,レトラクションの計算回数を削減するなど,効率的な解法の研究を進める計画である.

Report

(4 results)
  • 2023 Research-status Report
  • 2022 Research-status Report
  • 2021 Research-status Report
  • 2020 Research-status Report
  • Research Products

    (40 results)

All 2024 2023 2022 2021 2020 Other

All Int'l Joint Research (2 results) Journal Article (8 results) (of which Int'l Joint Research: 2 results,  Peer Reviewed: 8 results,  Open Access: 2 results) Presentation (29 results) (of which Int'l Joint Research: 8 results,  Invited: 12 results) Book (1 results)

  • [Int'l Joint Research] 上海電力学院(中国)

    • Related Report
      2021 Research-status Report
  • [Int'l Joint Research] 上海電力学院(中国)

    • Related Report
      2020 Research-status Report
  • [Journal Article] Conjugate gradient methods for optimization problems on symplectic Stiefel manifold2023

    • Author(s)
      Mitsutaka Yamada and Hiroyuki Sato
    • Journal Title

      IEEE Control Systems Letters

      Volume: 7 Pages: 2719-2724

    • DOI

      10.1109/lcsys.2023.3288229

    • Related Report
      2023 Research-status Report
    • Peer Reviewed
  • [Journal Article] Riemannian optimization on unit sphere with p-norm and its applications2023

    • Author(s)
      Hiroyuki Sato
    • Journal Title

      Computational Optimization and Applications

      Volume: 85 Issue: 3 Pages: 897-935

    • DOI

      10.1007/s10589-023-00477-0

    • Related Report
      2023 Research-status Report
    • Peer Reviewed
  • [Journal Article] Global convergence of Hager--Zhang type Riemannian conjugate gradient method2023

    • Author(s)
      Sakai Hiroyuki、Sato Hiroyuki、Iiduka Hideaki
    • Journal Title

      Applied Mathematics and Computation

      Volume: 441 Pages: 127685-127685

    • DOI

      10.1016/j.amc.2022.127685

    • Related Report
      2022 Research-status Report
    • Peer Reviewed
  • [Journal Article] Riemannian conjugate gradient methods: General framework and specific algorithms with convergence analyses2022

    • Author(s)
      Hiroyuki Sato
    • Journal Title

      SIAM Journal on Optimization

      Volume: 32 Issue: 4 Pages: 2690-2717

    • DOI

      10.1137/21m1464178

    • Related Report
      2022 Research-status Report
    • Peer Reviewed / Open Access
  • [Journal Article] Simple acceleration of the Riemannian steepest descent method with the Armijo condition2021

    • Author(s)
      Hiroyuki Sato
    • Journal Title

      Proceedings of the 60th IEEE Conference on Decision and Control (CDC 2021)

      Volume: - Pages: 3836-3843

    • DOI

      10.1109/cdc45484.2021.9682982

    • Related Report
      2021 Research-status Report
    • Peer Reviewed
  • [Journal Article] Cayley-transform-based gradient and conjugate gradient algorithms on Grassmann manifolds2021

    • Author(s)
      Xiaojing Zhu and Hiroyuki Sato
    • Journal Title

      Advances in Computational Mathematics

      Volume: 47 Issue: 4

    • DOI

      10.1007/s10444-021-09880-9

    • Related Report
      2021 Research-status Report
    • Peer Reviewed / Int'l Joint Research
  • [Journal Article] Approximated logarithmic maps on Riemannian manifolds and their applications2021

    • Author(s)
      Jumpei Goto and Hiroyuki Sato
    • Journal Title

      JSIAM Letters

      Volume: 13 Issue: 0 Pages: 17-20

    • DOI

      10.14495/jsiaml.13.17

    • NAID

      130008025119

    • ISSN
      1883-0609, 1883-0617
    • Related Report
      2020 Research-status Report
    • Peer Reviewed / Open Access
  • [Journal Article] Riemannian conjugate gradient methods with inverse retraction2020

    • Author(s)
      Xiaojing Zhu and Hiroyuki Sato
    • Journal Title

      Computational Optimization and Applications

      Volume: 77 Issue: 3 Pages: 779-810

    • DOI

      10.1007/s10589-020-00219-6

    • Related Report
      2020 Research-status Report
    • Peer Reviewed / Int'l Joint Research
  • [Presentation] Conjugate gradient methods for optimization problems on symplectic Stiefel manifold2023

    • Author(s)
      Mitsutaka Yamada and Hiroyuki Sato
    • Organizer
      The 62nd IEEE Conference on Decision and Control (CDC 2023)
    • Related Report
      2023 Research-status Report
    • Int'l Joint Research
  • [Presentation] Nonlinear conjugate gradient method for vector optimization on Riemannian manifolds2023

    • Author(s)
      Kangming Chen, Ellen Hidemi Fukuda, and Hiroyuki Sato
    • Organizer
      日本オペレーションズ・リサーチ学会2023年秋季研究発表会
    • Related Report
      2023 Research-status Report
  • [Presentation] Nonlinear conjugate gradient method for vector optimization on Riemannian manifolds2023

    • Author(s)
      Kangming Chen, Ellen Hidemi Fukuda, and Hiroyuki Sato
    • Organizer
      RIMS共同研究(公開型)「数理最適化: 理論と実践」
    • Related Report
      2023 Research-status Report
  • [Presentation] Optimization on manifolds by Riemannian gradient methods2023

    • Author(s)
      Hiroyuki Sato
    • Organizer
      10th International Congress on Industrial and Applied Mathematics
    • Related Report
      2023 Research-status Report
    • Int'l Joint Research / Invited
  • [Presentation] Nonlinear conjugate gradient method for vector optimization on Riemannian manifolds2023

    • Author(s)
      Kangming Chen, Hiroyuki Sato, and Ellen Hidemi Fukuda
    • Organizer
      10th International Congress on Industrial and Applied Mathematics
    • Related Report
      2023 Research-status Report
    • Int'l Joint Research
  • [Presentation] Sequential optimality conditions for nonlinear optimization on Riemannian manifolds and a globally convergent augmented Lagrangian method2023

    • Author(s)
      Yuya Yamakawa and Hiroyuki Sato
    • Organizer
      10th International Congress on Industrial and Applied Mathematics
    • Related Report
      2023 Research-status Report
    • Int'l Joint Research
  • [Presentation] リーマン多様体上の共役勾配法の数理とその周辺2022

    • Author(s)
      佐藤寛之
    • Organizer
      日本オペレーションズ・リサーチ学会 研究部会「最適化手法とアルゴリズム」第6回研究会
    • Related Report
      2022 Research-status Report
    • Invited
  • [Presentation] シンプレクティック固有値問題に対する多様体上の共役勾配法2022

    • Author(s)
      山田光隆,佐藤寛之
    • Organizer
      日本応用数理学会「行列・固有値問題の解法とその応用」研究部会 第34回単独研究会
    • Related Report
      2022 Research-status Report
  • [Presentation] General framework of conjugate gradient methods on Riemannian manifolds2022

    • Author(s)
      Hiroyuki Sato
    • Organizer
      International Workshop on Continuous Optimization
    • Related Report
      2022 Research-status Report
    • Int'l Joint Research / Invited
  • [Presentation] シンプレクティックシュティーフェル多様体上の共役勾配法2022

    • Author(s)
      山田光隆,佐藤寛之
    • Organizer
      日本オペレーションズ・リサーチ学会2022年度関西支部若手研究発表会
    • Related Report
      2022 Research-status Report
  • [Presentation] 幾何学的最適化の数理2022

    • Author(s)
      佐藤寛之
    • Organizer
      日本応用数理学会「若手の会」第3回若手研究交流会
    • Related Report
      2022 Research-status Report
  • [Presentation] p-ノルム球面上の最適化の理論と応用2022

    • Author(s)
      佐藤寛之
    • Organizer
      日本応用数理学会2022年度年会
    • Related Report
      2022 Research-status Report
  • [Presentation] Riemann多様体上のHZ型共役勾配法の固有値問題への応用2022

    • Author(s)
      酒井裕行,佐藤寛之,飯塚秀明
    • Organizer
      日本応用数理学会2022年度年会
    • Related Report
      2022 Research-status Report
  • [Presentation] 最適化問題に対する微分幾何学的アプローチとロボット工学への応用2022

    • Author(s)
      佐藤寛之
    • Organizer
      第141回ロボット工学セミナー「ロボット工学における微分幾何学基礎」
    • Related Report
      2022 Research-status Report
    • Invited
  • [Presentation] リーマン多様体上の最適化数理と非線形共役勾配法の一般的な枠組みについて2022

    • Author(s)
      佐藤寛之
    • Organizer
      立命館大学数理工学セミナー
    • Related Report
      2022 Research-status Report
    • Invited
  • [Presentation] Simple acceleration of the Riemannian steepest descent method with the Armijo condition2021

    • Author(s)
      Hiroyuki Sato
    • Organizer
      The 60th IEEE Conference on Decision and Control (CDC 2021)
    • Related Report
      2021 Research-status Report
    • Int'l Joint Research
  • [Presentation] リーマン多様体上の最適化におけるアルミホ直線探索の改良2021

    • Author(s)
      山川雄也,佐藤寛之,相原研輔
    • Organizer
      日本応用数理学会「行列・固有値問題の解法とその応用」研究部会 第32回研究会
    • Related Report
      2021 Research-status Report
  • [Presentation] リーマン多様体上の最適化理論と勾配法について2021

    • Author(s)
      佐藤寛之
    • Organizer
      第36回信号処理シンポジウム
    • Related Report
      2021 Research-status Report
    • Invited
  • [Presentation] リーマン多様体上の非線形共役勾配法の新たな枠組みと数値線形代数への応用2021

    • Author(s)
      佐藤寛之
    • Organizer
      日本応用数理学会2021年度年会
    • Related Report
      2021 Research-status Report
  • [Presentation] 幾何学的最適化入門2021

    • Author(s)
      佐藤寛之
    • Organizer
      日本応用数理学会「若手の会」第2回若手研究交流会
    • Related Report
      2021 Research-status Report
    • Invited
  • [Presentation] 信号処理で用いられるリーマン多様体上の最適化手法について2021

    • Author(s)
      佐藤寛之
    • Organizer
      第34回 回路とシステムワークショップ
    • Related Report
      2021 Research-status Report
    • Invited
  • [Presentation] New class of Riemannian conjugate gradient methods2021

    • Author(s)
      Hiroyuki Sato
    • Organizer
      SIAM Conference on Optimization (OP21)
    • Related Report
      2021 Research-status Report
    • Int'l Joint Research / Invited
  • [Presentation] リーマン多様体上の最適化の数理とその応用2021

    • Author(s)
      佐藤寛之
    • Organizer
      東京理科大学 第1回 数理・AIセミナー
    • Related Report
      2021 Research-status Report
    • Invited
  • [Presentation] リーマン多様体上の非平滑方程式に対するレトラクションを用いた一般化ニュートン法2021

    • Author(s)
      小金丸和穂,佐藤寛之
    • Organizer
      日本応用数理学会「若手の会」第6回学生研究発表会
    • Related Report
      2020 Research-status Report
  • [Presentation] リーマン多様体上の共役勾配法の新しいクラスについて2021

    • Author(s)
      佐藤寛之
    • Organizer
      日本オペレーションズ・リサーチ学会2021年春季研究発表会
    • Related Report
      2020 Research-status Report
  • [Presentation] 多様体上の最適化問題と共役勾配法について2020

    • Author(s)
      佐藤寛之
    • Organizer
      数値解析セミナー #124
    • Related Report
      2020 Research-status Report
    • Invited
  • [Presentation] Conjugate gradient methods on Riemannian manifolds2020

    • Author(s)
      Hiroyuki Sato
    • Organizer
      Oberwolfach mini-workshop Computational Optimization on Manifolds
    • Related Report
      2020 Research-status Report
    • Int'l Joint Research / Invited
  • [Presentation] レトラクションの逆写像を用いた幾何学的共役勾配法の数値線形代数への応用2020

    • Author(s)
      佐藤寛之,竺筱晶
    • Organizer
      日本応用数理学会2020年度年会
    • Related Report
      2020 Research-status Report
  • [Presentation] 行列多様体上の最適化問題に対する対数写像の近似に基づくアプローチ2020

    • Author(s)
      後藤潤平,佐藤寛之
    • Organizer
      日本応用数理学会2020年度年会
    • Related Report
      2020 Research-status Report
  • [Book] 多様体上の最適化理論2024

    • Author(s)
      佐藤 寛之
    • Total Pages
      416
    • Publisher
      オーム社
    • ISBN
      9784274231186
    • Related Report
      2023 Research-status Report

URL: 

Published: 2020-04-28   Modified: 2024-12-25  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi