2019 Fiscal Year Annual Research Report
Riemannian optimization and applications for high-dimensional large-scale data
| Project/Area Number |
16K00031
|
|---|
| Research Institution | Waseda University |
|---|
Principal Investigator |
笠井 裕之 早稲田大学, 理工学術院, 教授 (40312079)
|
|---|
| Project Period (FY) |
2016-04-01 – 2020-03-31
|
| Keywords | 最適化理論 / 機械学習 / リーマン多様体 / ビッグデータ / 確率的勾配法 |
|---|
| Outline of Annual Research Achievements |
データ欠損値・異常値を含む大規模・高次元・スパース信号データを対象として，高次元テンソルの低ランク表現を実現しながら，それらのデータが幾何学的に微分多様体上に配置されることを活用した『新たな幾何空間定義によるリーマン多様体最適化アルゴリズム』について研究を行った．さらに，オンライン型最適化ついて研究を行った．最後に，これらの研究成果を応用するテンソル補間及びネットワーク解析の応用研究を行い，実運用されるシステムの実データセットを用いた評価実験を行った．
具体的には，微分多様体において，高次元テンソルを分解表現する行列に対する直交性などの制約と，目的関数の二乗誤差特性及び要素行列による対称性等に着目し，新たなリーマン計量を提案した．この新しい幾何空間を用いた最適化アルゴリズムを提案し，再現誤差と収束速度の観点で，従来手法に対する優位性を示した．一方，フル勾配と確率的勾配をハイブリッドした手法を用いることで収束性を向上する確率的勾配法について検討した．また，2次最適性を満たす解への収束を達成可能な信頼領域法について，非厳密へシアンを用いたスケーラブルなリーマン 多様体最適化手法上について提案した.さらに，これら手法の収束性についても理論的証明を与えた．
微分多様体上での最適化手法は，従来の凸解析最適化とは全く思想が異なり，近年研究が開始された極めて新たしい手法である．日本国内での研究例は極めて少ない．さらに，従来研究で対象となる多様体は，その性質が数学的に明らかとなっている幾つかの代表的な多様体に限られる．一方，本研究では，最適化目的関数と制約を考慮した新しいリーマン計量を定義し，そこから全く新しい幾何空間を提案・構築した．さらにオンライン型最適化は全く新しい試みである．このことから，本研究方式の遂行は，学術的にも例がなく極めて独創的・革新的である．
|
