• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to previous page

無限次元最適化とその近似による新しい計算科学の探究

Research Project

Project/Area Number 20K21786
Research Category

Grant-in-Aid for Challenging Research (Exploratory)

Allocation TypeMulti-year Fund
Review Section Medium-sized Section 60:Information science, computer engineering, and related fields
Research InstitutionThe University of Tokyo

Principal Investigator

松尾 宇泰  東京大学, 大学院情報理工学系研究科, 教授 (90293670)

Project Period (FY) 2020-07-30 – 2025-03-31
Project Status Granted (Fiscal Year 2023)
Budget Amount *help
¥6,370,000 (Direct Cost: ¥4,900,000、Indirect Cost: ¥1,470,000)
Fiscal Year 2022: ¥2,210,000 (Direct Cost: ¥1,700,000、Indirect Cost: ¥510,000)
Fiscal Year 2021: ¥2,210,000 (Direct Cost: ¥1,700,000、Indirect Cost: ¥510,000)
Fiscal Year 2020: ¥1,950,000 (Direct Cost: ¥1,500,000、Indirect Cost: ¥450,000)
Keywords最適化 / 数値解析
Outline of Research at the Start

データ駆動型科学時代の計算科学は,有限個の未知パラメータを残したモデルをデータ同化などで同定しながら数値計算するパラダイムが標準的になりつつある.本研究ではこれをさらに推し進め,そもそもモデル自体が無限次元の自由度を持つ問題設定を基本とし,計算上それを有限次元近似するに過ぎないという立場により,新しい計算科学パラダイムが誕生する可能性を問う.この視座は,データ同化だけでなく,関連する最適化アルゴリズムや深層学習にも有効である可能性があり,それらも併せて探究する.

Outline of Annual Research Achievements

本計画研究は,不確かなモデルのからむ計算科学的研究において,従前は有限次元空間におけるモデル推定(データ同化)を考えていたところ,むしろ無限次元空間におけるモデル推定(すなわち無限次元空間における最適化に基づくモデル同定)だと考えることで,より柔軟で素直な計算科学体系が表出する可能性を探究するものである.
昨年度までに,最適化手法と数値解析学の関係についての調査・検討を行った結果,特に最適化手法におけるステップ幅と数値解析学における線形安定性解析の関係について統一的な理解を得た.この理解に基づき,例えばL平滑な凸関数に対する最急降下法の収束十分条件が,数値解析学における陽的Euler法の安定性条件から簡単に導けることを指摘し,さらにこの視点から,数値解析学的に自然に期待される,硬安定な数値解法がより効率的な最適化手法を導きうることを実際の数値実験を含めて実証した.L平滑の定数が大域的に非常に大きな目的関数に対しては,この種の数値解析学的に自然な算法の方が遙かに効率が良いことを確認した.また硬安定な数値解法から得られる最適化手法について,従来の直線探索に替わる「曲線探索」手法を導入し,それにより効率の良い解法が得られることを確認した.これにより,無限次元系である偏微分方程式由来の最適化問題が効率よく解けることを数値的に確認した.
今年度は,数値解析学ではよく知られている「離散勾配」を拡張した「弱離散勾配」の概念に基づく統一的な最適化手法記述法について枠組を完成させ,機械学習国際会議にて発表を行った.

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

コロナ期ゆえ,国際交流,国際研究集会における発表等が遅れていたが,本年度,無事それらを行い,本来の目的を達しつつある.以上により,最適化と数値解析学の関係について理解を深め,無限次元最適化でも有用と思われる新しい手法・枠組を構築する,という本研究の目的は概ね達成されつつある.

Strategy for Future Research Activity

本研究課題はコロナ禍で研究期間の再延長を申請している.
それを除けば本年度が研究期間の最終年度にあたり,無限次元最適化問題が効率よく解けるかの調査は,一定程度肯定的に確認されたと言える.
また,国際研究集会における成果発表なども本年度に無事終えることができ,本研究課題の研究成果のアウトリーチもできつつある.
ただし,コロナ禍による遅れにより本研究課題で得た成果についてまだまとめられておらず未発表なものもあり,再延長期間でそれらの仕上げを行う.

Report

(4 results)
  • 2023 Research-status Report
  • 2022 Research-status Report
  • 2021 Research-status Report
  • 2020 Research-status Report
  • Research Products

    (15 results)

All 2024 2023 2022 2021

All Journal Article (4 results) (of which Peer Reviewed: 4 results,  Open Access: 2 results) Presentation (11 results) (of which Invited: 2 results)

  • [Journal Article] A unified discretization framework for differential equation approach with Lyapunov arguments for convex optimization2023

    • Author(s)
      Kansei Ushiyama, Shun Sato, Takayasu Matsuo
    • Journal Title

      Advances in Neural Information Processing Systems

      Volume: 36

    • Related Report
      2023 Research-status Report
    • Peer Reviewed / Open Access
  • [Journal Article] Mathematical analysis of a conservative numerical scheme for the Ostrovsky equation2022

    • Author(s)
      Shuto Kawai, Shun Sato, Takayasu Matsuo
    • Journal Title

      JSIAM Letters

      Volume: 14 Issue: 0 Pages: 53-56

    • DOI

      10.14495/jsiaml.14.53

    • ISSN
      1883-0609, 1883-0617
    • Related Report
      2022 Research-status Report
    • Peer Reviewed
  • [Journal Article] Essential convergence rate of ordinary differential equations appearing in optimization2022

    • Author(s)
      Kansei Ushiyama, Shun Sato, Takayasu Matsuo
    • Journal Title

      JSIAM Letters

      Volume: 14 Issue: 0 Pages: 119-122

    • DOI

      10.14495/jsiaml.14.119

    • ISSN
      1883-0609, 1883-0617
    • Related Report
      2022 Research-status Report
    • Peer Reviewed
  • [Journal Article] Deriving efficient optimization methods based on stable explicit numerical methods2022

    • Author(s)
      Ushiyama Kansei、Sato Shun、Matsuo Takayasu
    • Journal Title

      JSIAM Letters

      Volume: 14 Issue: 0 Pages: 29-32

    • DOI

      10.14495/jsiaml.14.29

    • ISSN
      1883-0609, 1883-0617
    • Related Report
      2021 Research-status Report
    • Peer Reviewed / Open Access
  • [Presentation] 最適化手法の連続時間モデルに対する新しい収束率解析法2024

    • Author(s)
      牛山 寛生, 佐藤 峻, 松尾 宇泰
    • Organizer
      日本応用数理学会 第20回 研究部会連合発表会
    • Related Report
      2023 Research-status Report
  • [Presentation] 最適化のための Runge--Kutta--Chebyshev 法における曲線探索法2023

    • Author(s)
      牛山 寛生, 佐藤 峻, 松尾 宇泰
    • Organizer
      第49回 数値解析シンポジウム
    • Related Report
      2023 Research-status Report
  • [Presentation] 連続最適化手法とその連続極限における収束レートの対応について2023

    • Author(s)
      佐藤 峻, 牛山 寛生, 野沢 諒太, 松尾 宇泰
    • Organizer
      RIMS共同研究(公開型)「新時代における高性能科学技術計算法の探究」
    • Related Report
      2023 Research-status Report
    • Invited
  • [Presentation] A Unified Discretization Framework for Differential Equation Approach with Lyapunov Arguments for Convex Optimization2023

    • Author(s)
      牛山 寛生, 佐藤 峻, 松尾 宇泰
    • Organizer
      第26回情報論的学習理論ワークショップ
    • Related Report
      2023 Research-status Report
  • [Presentation] 最適化手法由来のヘッセ行列を伴う連続力学系モデルに対する数値解析学的アプローチ2023

    • Author(s)
      上島 智哉, 佐藤 峻, 牛山 寛生, 松尾 宇泰, 田中 健一郎
    • Organizer
      日本応用数理学会2023年研究部会連合発表会
    • Related Report
      2022 Research-status Report
  • [Presentation] Nesterovの加速勾配法の可変刻み線形多段法としての解釈とその応用について2022

    • Author(s)
      野沢 諒太, 松尾 宇泰, 佐藤 峻
    • Organizer
      日本応用数理学会 2022年度 年会
    • Related Report
      2022 Research-status Report
  • [Presentation] 勾配流に対する離散勾配を用いた最適化手法の統一的記述について2022

    • Author(s)
      牛山 寛生, 佐藤 峻, 松尾 宇泰
    • Organizer
      日本応用数理学会 2022年度 年会
    • Related Report
      2022 Research-status Report
  • [Presentation] 連続最適化に対する数値解析学的アプローチ2022

    • Author(s)
      佐藤 峻, 牛山 寛生, 松尾 宇泰
    • Organizer
      RIMS共同研究 (公開型)「数値解析が拓く次世代情報社会~エッジから富岳まで~」
    • Related Report
      2022 Research-status Report
    • Invited
  • [Presentation] 最適化手法記述のための弱い離散勾配について2022

    • Author(s)
      牛山 寛生, 佐藤 峻, 松尾 宇泰
    • Organizer
      2022年度応用数学合同研究集会
    • Related Report
      2022 Research-status Report
  • [Presentation] 最適化に現れる常微分方程式の本質的な収束レート2021

    • Author(s)
      牛山 寛生, 佐藤 峻, 松尾 宇泰
    • Organizer
      日本応用数理学会2021年度年会
    • Related Report
      2021 Research-status Report
  • [Presentation] 最適化に適した安定な数値解法について2021

    • Author(s)
      牛山 寛生, 佐藤 峻, 松尾 宇泰
    • Organizer
      日本応用数理学会2021年度年会
    • Related Report
      2021 Research-status Report

URL: 

Published: 2020-08-03   Modified: 2024-12-25  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi