2021 Fiscal Year Annual Research Report
Stiefel多様体上最適化のための新Cayley変換理論とデータサイエンス応用
| Project/Area Number |
21J21353
|
|---|
| Allocation Type | Single-year Grants |
|---|
| Research Institution | Tokyo Institute of Technology |
|---|
Principal Investigator |
久米 啓太 東京工業大学, 工学院, 特別研究員(DC1)
|
|---|
| Project Period (FY) |
2021-04-28 – 2024-03-31
|
| Keywords | 多様体上最適化 / Cayley変換 / Stiefel多様体 / 非凸最適化 |
|---|
| Outline of Annual Research Achievements |
本研究は，多くのデータサイエンス技術応用を持つ「Stiefel多様体上最適化問題」に対して，高速かつ数値安定性の高い新解法の確立を目標としている．
本年度は，「Stiefel多様体上最適化問題」を「ベクトル空間上最適化問題」に定式化する理論の構築に取り組んだ．Stiefel多様体は互いに正規直交であるような列ベクトルを並べた行列全体の集合である．Stiefel多様体の非線形性に起因して，最適化研究の基盤を担うベクトル空間上最適化の知見を「Stiefel多様体上最適化問題」に活用することは困難であった．一方で，研究代表者はStiefel多様体の稠密な開部分集合をベクトル空間に変換するCayley型変換を提案済みである(EUSIPCO2020)．研究代表者はCayley型変換を利用することで，Stiefel多様体全体をベクトル空間で表現可能とする新変換の構築に成功した．この変換と目的関数の合成関数を考えることで「Stiefel多様体上最適化問題」を「ベクトル空間上最適化問題」に定式化できることを明らかにした．また，最適化技術で利用される目的関数の性質(例えば勾配のLipschitz連続性)に関して，定式化後の目的関数が持つための十分条件も明らかにした．さらに，提案法が有効であることを数値実験により検証した(ICASSP2021)．
また，より高汎用な「一般化Stiefel多様体上最適化問題」から「ベクトル空間上最適化問題」への定式化に必要となる写像の構築についても取り組んだ．一般化Stiefel多様体は与えられた内積に関する正規直交な列ベクトルを並べた行列全体の集合である．本年度は，Stiefel多様体をベクトル空間に変換するCayley型変換を利用して，一般化Stiefel多様体の稠密な開部分集合をベクトル空間に変換する写像の構築に成功した(SIP2021)．
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
当初の研究計画では「Stiefel多様体上最適化問題」をその局所最適解や停留点を保持したまま「ベクトル空間上最適化問題」に定式化可能であることを解明する予定であった．本年度の研究により，上記の定式化だけでなく，最適化手法の理論的な収束保証のために課される目的関数のいくつかの条件に関して，定式化後の目的関数が持つための十分条件の解明に成功した．さらに，より汎用性を持つ「一般化Stiefel多様体上最適化問題」に関しても同様の定式化が可能なことを示唆する研究成果も得ることができた．以上から，当初の計画以上に進展していると判断した．
|
| Strategy for Future Research Activity |
次年度は，本年度に提案した「ベクトル空間上最適化問題」への定式化による「Stiefel多様体上最適化問題」の解法の高性能化に取り組む．例えば，定式化後の目的関数に最適化手法を適用した際の収束性能劣化の発生が課題となっている．この課題は定式化のために利用しているCayley型変換に起因するものと考えられるため，Cayley型変換の理論的解析を行うことで収束性能の劣化の回避を目指す．また，提案法のデータサイエンス技術への応用として，高速な大規模データによるスパース主成分分析の実現を目指す．
|
