2016 Fiscal Year Research-status Report
高次元大規模信号データ処理のためのスケーラブル・リーマン多様体最適化とその応用
| Project/Area Number |
16K00031
|
|---|
| Research Institution | The University of Electro-Communications |
|---|
Principal Investigator |
笠井 裕之 電気通信大学, 大学院情報理工学研究科, 准教授 (40312079)
|
|---|
| Project Period (FY) |
2016-04-01 – 2019-03-31
|
| Keywords | 最適化理論 / リーマン多様体 / 確率的勾配法 / 多次元データ解析 |
|---|
| Outline of Annual Research Achievements |
本年度は，微分多様体において，最適化処理の効率を大幅に向上可能な「最適な幾何空間」を定義することで，収束速度を大幅に向上する手法を検討した．具体的には，最適化する対象となる制約条件として，高次元テンソルを分解表現する行列（要素行列）に対する直交性などの制約を考慮するだけでなく，目的関数の二乗誤差特性及び要素行列による対称性（解の不定値性）等に着目し，新たなリーマン計量を提案した．これにより，対象とするリーマン多様体は商多様体構造を持つようになるが，本研究では，接空間への写像，接空間上での垂直・水平空間の定義及びそれらへの写像，接空間へのリトラクション，接空間間の平行移動など，全く新しい幾何空間を提案する．この空間は，目的関数の最小化を実現するための最適な探索空間を定義することと等価となる．そして，この新しい幾何空間を用いた最適化アルゴリズムを提案し，再現誤差と収束速度の観点で，他の先端アルゴリズムに対する優位性を示した．
次に，逐次データ処理の実現を目的として，テンソルの多次元方向に向かって，微分多様体上の測地線（最短曲線）上を探索する高効率な「確率的オンライン型」アルゴリズムを提案し，大規模データにもスケール可能な手法を提案した．具体的には，新しい入力データに対して，それまでに求めた低ランク部分空間を更新する軽量かつ高品質なアルゴリズムを提案した．ここでは，各分解行列において，新しい入力データに対する勾配方向を算出し，リーマン多様体の測地線方向に部分空間を動的に更新する手法を検討した．特に，複数分解行列上で更新するステップ幅を履歴に基づいて効率的に設定する手法が，最適化効率を左右することから，その制御アルゴリズムを検討した．
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
研究内容については，概ね順調に進んでいる．また，計画に加え，新たな手法の提案も進め，一定の成果を得ている．
|
| Strategy for Future Research Activity |
これまでの研究成果をさらに発展させ，さらに収束性能の高いアルゴリズムの検討を行っていく．特に，準ニュートン法等のアルゴリズムの優位性に着目し，その収束理論を確立することも視野に入れて検討を行う．また大規模データにより実験も随時行っていくことで，研究内容の実世界問題への応用についても検討する．
|
| Causes of Carryover |
学内用務により，予定していた国際会議への出席をキャンセルしたため．
|
| Expenditure Plan for Carryover Budget |
研究成果を国際会議にて発表する．
|
