• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2021 Fiscal Year Annual Research Report

Stiefel多様体上最適化のための新Cayley変換理論とデータサイエンス応用

Research Project

Project/Area Number 21J21353
Allocation TypeSingle-year Grants
Research InstitutionTokyo Institute of Technology

Principal Investigator

久米 啓太  東京工業大学, 工学院, 特別研究員(DC1)

Project Period (FY) 2021-04-28 – 2024-03-31
Keywords多様体上最適化 / Cayley変換 / Stiefel多様体 / 非凸最適化
Outline of Annual Research Achievements

本研究は,多くのデータサイエンス技術応用を持つ「Stiefel多様体上最適化問題」に対して,高速かつ数値安定性の高い新解法の確立を目標としている.
本年度は,「Stiefel多様体上最適化問題」を「ベクトル空間上最適化問題」に定式化する理論の構築に取り組んだ.Stiefel多様体は互いに正規直交であるような列ベクトルを並べた行列全体の集合である.Stiefel多様体の非線形性に起因して,最適化研究の基盤を担うベクトル空間上最適化の知見を「Stiefel多様体上最適化問題」に活用することは困難であった.一方で,研究代表者はStiefel多様体の稠密な開部分集合をベクトル空間に変換するCayley型変換を提案済みである(EUSIPCO2020).研究代表者はCayley型変換を利用することで,Stiefel多様体全体をベクトル空間で表現可能とする新変換の構築に成功した.この変換と目的関数の合成関数を考えることで「Stiefel多様体上最適化問題」を「ベクトル空間上最適化問題」に定式化できることを明らかにした.また,最適化技術で利用される目的関数の性質(例えば勾配のLipschitz連続性)に関して,定式化後の目的関数が持つための十分条件も明らかにした.さらに,提案法が有効であることを数値実験により検証した(ICASSP2021).
また,より高汎用な「一般化Stiefel多様体上最適化問題」から「ベクトル空間上最適化問題」への定式化に必要となる写像の構築についても取り組んだ.一般化Stiefel多様体は与えられた内積に関する正規直交な列ベクトルを並べた行列全体の集合である.本年度は,Stiefel多様体をベクトル空間に変換するCayley型変換を利用して,一般化Stiefel多様体の稠密な開部分集合をベクトル空間に変換する写像の構築に成功した(SIP2021).

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

当初の研究計画では「Stiefel多様体上最適化問題」をその局所最適解や停留点を保持したまま「ベクトル空間上最適化問題」に定式化可能であることを解明する予定であった.本年度の研究により,上記の定式化だけでなく,最適化手法の理論的な収束保証のために課される目的関数のいくつかの条件に関して,定式化後の目的関数が持つための十分条件の解明に成功した.さらに,より汎用性を持つ「一般化Stiefel多様体上最適化問題」に関しても同様の定式化が可能なことを示唆する研究成果も得ることができた.以上から,当初の計画以上に進展していると判断した.

Strategy for Future Research Activity

次年度は,本年度に提案した「ベクトル空間上最適化問題」への定式化による「Stiefel多様体上最適化問題」の解法の高性能化に取り組む.例えば,定式化後の目的関数に最適化手法を適用した際の収束性能劣化の発生が課題となっている.この課題は定式化のために利用しているCayley型変換に起因するものと考えられるため,Cayley型変換の理論的解析を行うことで収束性能の劣化の回避を目指す.また,提案法のデータサイエンス技術への応用として,高速な大規模データによるスパース主成分分析の実現を目指す.

  • Research Products

    (5 results)

All 2022 2021 Other

All Presentation (4 results) (of which Int'l Joint Research: 1 results) Remarks (1 results)

  • [Presentation] Cayley Parametrization Techniques for Optimization over the Stiefel manifold2022

    • Author(s)
      Keita Kume, Isao Yamada
    • Organizer
      東北大学電気通信研究所共同プロジェクト研究会
  • [Presentation] A unified extension of convergence analyses to optimization with Cayley transform over Stiefel manifold2022

    • Author(s)
      Keita Kume, Isao Yamada
    • Organizer
      日本応用数理学会 2022年研究部会連合発表会
  • [Presentation] Keita Kume A Global Cayley Parametrization of Stiefel Manifold for Direct Utilization of Optimization Mechanisms Over Vector Spaces2021

    • Author(s)
      Keita Kume, Isao Yamada
    • Organizer
      IEEE International Conference on Acoustics, Speech and Signal Processing (ICASSP)
    • Int'l Joint Research
  • [Presentation] Computational Tools toward Cayley Parametrization Strategy for Optimization with Generalized Orthogonality Constraints2021

    • Author(s)
      Keita Kume, Isao Yamada
    • Organizer
      36th IEICE SIP Symposium
  • [Remarks] 山田研究室ホームページ

    • URL

      http://www.sp.ict.e.titech.ac.jp/

URL: 

Published: 2022-12-28   Modified: 2023-08-01  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi