• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to previous page

Stiefel多様体上最適化のための新Cayley変換理論とデータサイエンス応用

Research Project

Project/Area Number 22KJ1270
Project/Area Number (Other) 21J21353 (2021-2022)
Research Category

Grant-in-Aid for JSPS Fellows

Allocation TypeMulti-year Fund (2023)
Single-year Grants (2021-2022)
Section国内
Review Section Basic Section 61040:Soft computing-related
Research InstitutionTokyo Institute of Technology

Principal Investigator

久米 啓太  東京工業大学, 工学院, 特別研究員(DC1)

Project Period (FY) 2023-03-08 – 2024-03-31
Project Status Completed (Fiscal Year 2023)
Budget Amount *help
¥2,200,000 (Direct Cost: ¥2,200,000)
Fiscal Year 2023: ¥700,000 (Direct Cost: ¥700,000)
Fiscal Year 2022: ¥700,000 (Direct Cost: ¥700,000)
Fiscal Year 2021: ¥800,000 (Direct Cost: ¥800,000)
KeywordsStiefel多様体 / 直交群 / 多様体上最適化 / Cayley変換 / Moreau包絡関数 / 非平滑最適化 / 平滑化 / 弱凸関数最適化 / 非凸最適化 / 主成分分析
Outline of Research at the Start

各列ベクトルが正規直交する行列集合であるStiefel多様体制約付き最適化のアルゴリズム開発に取り組む。特に、近年ではスパース主成分分析を筆頭に解の可解釈性が重要視され、目的関数が微分できない非平滑Stiefel多様体制約付き最適化の高速な収束性能を持つアルゴリズムの実現が望まれている。本研究では、昨年度までに研究してきたStiefel多様体制約付き最適化問題をユークリッド空間上最適化問題に帰着する動的Cayleyパラメータ表現法と、非平滑ユークリッド空間上最適化の知見を融合することで、高速な収束性能を持つ非平滑Stiefel多様体制約付き最適化アルゴリズムの実現を目指す。

Outline of Annual Research Achievements

本研究の目的は,正規直交制約条件を満たす最適な行列の探索問題「Stiefel多様体上最適化問題」に対する計算効率の良い最適化アルゴリズムを確立することである.本研究では,Stiefel多様体上最適化問題に対してユークリッド空間上最適化の知見を踏襲できる新たな最適化戦略「パラメータ表現法」を確立し,パラメータ表現法に基づく強力な最適化アルゴリズムを実現した.
今年度は,「勾配の収束率に基づいて収束保証されたユークリッド空間上最適化アルゴリズム」を「一般化Cayley変換を用いたパラメータ表現法(2022年度の成果)」に統一的に組み込む方法を提案し,その成果を纏めた論文が学術雑誌IEEE Accessに掲載された.
また,本年度は,目的関数の微分可能性を仮定しないStiefel多様体上非平滑最適化問題にも取り組んだ.従来のStiefel多様体上非平滑最適化アルゴリズムは,関数の凸性条件が必要であったり,有限回の四則演算では計算できない(閉形式表現が与えられていない)写像の利用が必要である等,応用可能性や計算機実装の点で限定的であった.本研究では,「非平滑関数の関数平滑化」のアイディアをパラメータ表現法に拡張することにより,閉形式表現を持つ写像を活用するのみで,弱凸関数とよばれる関数をStiefel多様体上で最適化するアルゴリズムの実現に成功した.提案アルゴリズムは,パラメータ表現が与えられている非凸制約付き非平滑最適化問題にも容易に拡張可能である.そして,提案アルゴリズムをスパーススペクトルクラスタリングに応用し,従来アルゴリズムを凌駕する性能を数値実験により確認している.この成果を纏めた論文は信号処理分野のトップカンファレンスIEEE ICASSPに採択され,発表した.
さらに,国内学会と応用数学分野最大の国際学会ICIAMにてパラメータ表現法の研究成果の招待講演を行った.

Report

(3 results)
  • 2023 Annual Research Report
  • 2022 Annual Research Report
  • 2021 Annual Research Report
  • Research Products

    (23 results)

All 2024 2023 2022 2021 Other

All Journal Article (3 results) (of which Peer Reviewed: 2 results,  Open Access: 1 results) Presentation (13 results) (of which Int'l Joint Research: 3 results,  Invited: 2 results) Remarks (7 results)

  • [Journal Article] Adaptive Localized Cayley Parametrization for Optimization Over Stiefel Manifold and Its Convergence Rate Analysis2024

    • Author(s)
      Kume Keita、Yamada Isao
    • Journal Title

      IEEE Access

      Volume: 12 Pages: 31312-31323

    • DOI

      10.1109/access.2024.3368631

    • Related Report
      2023 Annual Research Report
    • Peer Reviewed / Open Access
  • [Journal Article] Adaptive Localized Cayley Parametrization for Optimization over Stiefel Manifold2023

    • Author(s)
      Keita Kume, Isao Yamada
    • Journal Title

      arXiv preprint

      Volume: 0 Pages: 0-0

    • Related Report
      2023 Annual Research Report
  • [Journal Article] Generalized left-localized Cayley parametrization for optimization with orthogonality constraints2022

    • Author(s)
      Kume Keita、Yamada Isao
    • Journal Title

      Optimization

      Volume: 0 Issue: 4 Pages: 1-47

    • DOI

      10.1080/02331934.2022.2142471

    • Related Report
      2022 Annual Research Report
    • Peer Reviewed
  • [Presentation] A variable smoothing for nonconvexly constrained nonsmooth optimization with application to sparse spectral clustering2024

    • Author(s)
      Keita Kume, Isao Yamada
    • Organizer
      IEEE International Conference on Acoustics, Speech and Signal Processing (ICASSP)
    • Related Report
      2023 Annual Research Report
    • Int'l Joint Research
  • [Presentation] Cayley parametrization strategy for optimization over the Stiefel manifold2023

    • Author(s)
      Keita Kume, Isao Yamada
    • Organizer
      10th International Congress on Industrial and Applied Mathematics (ICIAM 2023)
    • Related Report
      2023 Annual Research Report
    • Int'l Joint Research / Invited
  • [Presentation] 動的Cayleyパラメータ表現によるStiefel多様体上最適化について2023

    • Author(s)
      久米啓太, 山田功
    • Organizer
      電子情報通信学会 信号処理研究会
    • Related Report
      2023 Annual Research Report
    • Invited
  • [Presentation] A variable smoothing algorithm for nonsmooth optimization with parameterizable nonconvex constraints2023

    • Author(s)
      Keita Kume, Isao Yamada
    • Organizer
      電子情報通信学会 信号処理シンポジウム
    • Related Report
      2023 Annual Research Report
  • [Presentation] 重複を許した分割信号のスパース表現を活かしたcLiGME型雑音除去2023

    • Author(s)
      村上侑哉, 矢田航, 久米啓太, 山田功
    • Organizer
      電子情報通信学会 信号処理シンポジウム
    • Related Report
      2023 Annual Research Report
  • [Presentation] A variable smoothing with parametrization for nonconvexly constrained nonsmooth optimization2023

    • Author(s)
      Keita Kume, Isao Yamada
    • Organizer
      日本オペレーションズ・リサーチ学会 秋季研究発表会
    • Related Report
      2023 Annual Research Report
  • [Presentation] On convergence of certain Armijo-type optimization algorithms with generalized Cayley parametrization2023

    • Author(s)
      Kume Keita、Yamada Isao
    • Organizer
      東北大学電気通信研究所共同プロジェクト研究会 「高次元・時空間ニューロダイナミクスとそれに基づくシステム構築への展開」
    • Related Report
      2022 Annual Research Report
  • [Presentation] 一般化Cayley変換による動的パラメータ表現法に基づく直交制約付き最適化アルゴリズムのための統一的収束解析2022

    • Author(s)
      久米啓太, 山田功
    • Organizer
      日本オペレーションズ・リサーチ学会秋季研究発表会
    • Related Report
      2022 Annual Research Report
  • [Presentation] A Conjugate Gradient-type Algorithm with Adaptive Localized Cayley Parametrization for Optimization over Stiefel Manifold2022

    • Author(s)
      Kume Keita、Yamada Isao
    • Organizer
      信号処理シンポジウム
    • Related Report
      2022 Annual Research Report
  • [Presentation] Cayley Parametrization Techniques for Optimization over the Stiefel manifold2022

    • Author(s)
      Keita Kume, Isao Yamada
    • Organizer
      東北大学電気通信研究所共同プロジェクト研究会
    • Related Report
      2021 Annual Research Report
  • [Presentation] A unified extension of convergence analyses to optimization with Cayley transform over Stiefel manifold2022

    • Author(s)
      Keita Kume, Isao Yamada
    • Organizer
      日本応用数理学会 2022年研究部会連合発表会
    • Related Report
      2021 Annual Research Report
  • [Presentation] Keita Kume A Global Cayley Parametrization of Stiefel Manifold for Direct Utilization of Optimization Mechanisms Over Vector Spaces2021

    • Author(s)
      Keita Kume, Isao Yamada
    • Organizer
      IEEE International Conference on Acoustics, Speech and Signal Processing (ICASSP)
    • Related Report
      2021 Annual Research Report
    • Int'l Joint Research
  • [Presentation] Computational Tools toward Cayley Parametrization Strategy for Optimization with Generalized Orthogonality Constraints2021

    • Author(s)
      Keita Kume, Isao Yamada
    • Organizer
      36th IEICE SIP Symposium
    • Related Report
      2021 Annual Research Report
  • [Remarks] 研究代表者個人サイト

    • URL

      https://www.kume96.jp/

    • Related Report
      2023 Annual Research Report
  • [Remarks] 所属研究室サイト

    • URL

      http://www.sp.ce.titech.ac.jp/

    • Related Report
      2023 Annual Research Report
  • [Remarks] 所属大学レポジトリ

    • URL

      https://t2r2.star.titech.ac.jp/cgi-bin/researcherpublicationlist.cgi?q_researcher_content_number=fd117bd8d1fdbb25d20bdde4177ff2b4

    • Related Report
      2023 Annual Research Report
  • [Remarks] researchmap

    • URL

      https://researchmap.jp/kume96

    • Related Report
      2023 Annual Research Report
  • [Remarks] 山田研究室

    • URL

      http://www.sp.ce.titech.ac.jp/

    • Related Report
      2022 Annual Research Report
  • [Remarks] 個人サイト

    • URL

      https://kumegon.github.io/

    • Related Report
      2022 Annual Research Report
  • [Remarks] 山田研究室ホームページ

    • URL

      http://www.sp.ict.e.titech.ac.jp/

    • Related Report
      2021 Annual Research Report

URL: 

Published: 2021-05-27   Modified: 2024-12-25  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi