2016 Fiscal Year Research-status Report
スパース正則化法による複雑高次元データ解析法の確立
| Project/Area Number |
15K15946
|
|---|
| Research Institution | Tokyo Institute of Technology |
|---|
Principal Investigator |
片山 翔太 東京工業大学, 工学院, 助教 (50742459)
|
|---|
| Project Period (FY) |
2015-04-01 – 2018-03-31
|
| Keywords | スパース推定 / ロバスト推定 / 高次元データ |
|---|
| Outline of Annual Research Achievements |
当該年度は先ず，前年度からの課題であった，推定アルゴリズムの計算コスト削減に取り組んだ．前年度に提案した推定アルゴリズムは各ステップにおいてLasso問題を逐次的に解いており，計算コストが高くなってしまっていた．そこで，Nesterovの近接勾配法を用いて，Lasso問題を近似的に解くことでこれを解決した．Nesterovの近接勾配法はLasso問題だけでなく，SCADやMCPなどの非凸最適化問題も近似的に解くことが可能であり，この点から着想して，前年度に行った研究の非凸最適化問題への拡張可能性について研究を行った．つまり，回帰係数のスパース制約をSCADやMCPなどの非凸関数へと拡張した際に，前年度と同様な理論的性質（統計的かつ計算機的な推定精度の導出）が可能かどうかを検討した．結果的にこれは可能であり，推定精度の保障されたより柔軟なモデリングが可能となった．
続いて，研究実施計画で予定していた，グループ構造を持つ高次元データ解析手法の研究に取り組んだ．スパース正則化法のアイデアを用いて，回帰パラメータをグループ化（差をスパースにする）する推定方法を構築した．ところが，予備実験として実装したところ，グループ化が弱い，つまり，差が正確に0と推定されないという問題点が生じた．これはスパース制約がLasso型では弱いために起こったものと考えられる．そこで，当初予定していた研究計画を少し変更し，スパース性の強いAdaptive Lasso型制約を用いた推定手法を構築した．現在は構築した推定手法の理論的性質を導出している．
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
研究計画で予定していなかった，非凸最適化問題への拡張を試みたことにより，グループ構造を持つ高次元データ解析手法についての研究に遅れが生じた．しかし，この拡張によって推定精度の保障されたより柔軟なモデリングが可能となった．これは，スパース推定やロバスト推定の分野において，理論的にも実際的にも意義のあるものと考えられる．
|
| Strategy for Future Research Activity |
研究実績の概要に記載した，Adaptive Lasso型推定手法の理論的性質について研究を進める．具体的には，シンプルな線形回帰問題におけるAdaptive Lasso型推定であれば導出される，オラクル性と呼ばれる性質が本問題でも得られるかどうかを調査する．その後，構築した推定手法に含まれるチューニングパラメータ（TP）の，効率的な選択方法についての研究を行う．これと並行して，TPの効率的選択法の汎用化を試みる．
|
| Causes of Carryover |
国際会議への出張旅費と高性能コンピュータの価格変動により，次年度使用額が生じた．
|
| Expenditure Plan for Carryover Budget |
次年度は以下を予定している．
(1) 高次元データ解析関連やソフトウェア開発関連の書籍を適宜購入する．
(2) 国際会議への参加と，国内外の研究者とのディスカッションを行う．
|
