2018 Fiscal Year Research-status Report
高次元大規模信号データ処理のためのスケーラブル・リーマン多様体最適化とその応用
| Project/Area Number |
16K00031
|
|---|
| Research Institution | The University of Electro-Communications |
|---|
Principal Investigator |
笠井 裕之 電気通信大学, 大学院情報理工学研究科, 准教授 (40312079)
|
|---|
| Project Period (FY) |
2016-04-01 – 2020-03-31
|
| Keywords | 最適化理論 / 機械学習 / リーマン多様体 / ビッグデータ / 確率的勾配法 / 多次元データ解析 |
|---|
| Outline of Annual Research Achievements |
昨年度までの研究である「確率的勾配法」の研究を継続して行った．ここでは，逐次データ処理の実現を目的として，微分多様体上の測地線（最短曲線）上を探索する高効率な「確率的オンライン型」アルゴリズムを提案し，大規模データにもスケール可能な手法を提案した．特に，フル勾配と確率的勾配をハイブリッドした手法を用いることで収束性を向上する手法について検討した．新しい入力データに対する勾配方向を算出し，リーマン多様体の測地線方向にパラメータを逐次的に更新する手法を検討した．あわせて，2次最適性を満たす解への収束を達成可能な信頼領域法について，非厳密へシアンを用いたスケーラブルなリーマン多様体最適化手法上について提案した．さらに，これら手法の収束性についても，オンライン収束性の観点から理論的証明を与えた．これらの研究成果については，機械学習野の最難関トップ会議（ICML，NeurIPS）に複数採択され，またトップジャーナル（SIAM Journal on Optimization (SIOPT)）るなど，大きな成果が出ている．
|
| Current Status of Research Progress |
Current Status of Research Progress
3: Progress in research has been slightly delayed.
Reason
検討内容については，本分野の最難関トップ会議に複数採択されるなど，大きな成果が出ている．一方，分散アルゴリズムについては，成果の一部はジャーナル論文として出版されたものの，実クラスター環境下で実データを用いた検証を十分に行うことかできなかった.データ収集実験を行う学生アルバイトを集めることができず，実作業が遅れたことが最も大きな原因である.
|
| Strategy for Future Research Activity |
今後は，これらの作業を円滑に進め，提案アルゴリズムの改良と実データを用いた実験の遂行，そして理論の確立にあたる.
|
| Causes of Carryover |
検討内容については，本分野の最難関トップ会議に複数採択されるなど，大きな成果が出ている．一方，分散アルゴリズムについては，成果の一部はジャーナル論文として出版されたものの，実クラスター環境下で実データを用いた検証を十分に行うことかできなかった.データ収集実験を行う学生アルバイトを集めることができず，実作業が遅れたことが最も大きな原因である. 今後は，これらの作業を円滑に進め，提案アルゴリズムの改良と実データを用いた実験の遂行，そして理論の確立にあたる.
|
