2015 Fiscal Year Research-status Report
凸最適化型部分空間追跡アルゴリズムのロバスト化と高速化に関する研究
| Project/Area Number |
15K13986
|
|---|
| Research Institution | Tokyo Institute of Technology |
|---|
Principal Investigator |
山田 功 東京工業大学, 理工学研究科, 教授 (50230446)
|
|---|
| Co-Investigator(Kenkyū-buntansha) |
湯川 正裕 慶應義塾大学, 理工学部, 准教授 (60462743)
|
|---|
| Project Period (FY) |
2015-04-01 – 2018-03-31
|
| Keywords | 信号処理 / 部分空間追跡 / 凸最適化 |
|---|
| Outline of Annual Research Achievements |
「部分空間追跡」は時系列データに潜む支配的な部分空間の基底をオンライン抽出する信号処理技術であり、ビッグデータ解析等、大規模データ解析への応用でも重要な役割が期待されている。これらの応用には、並列計算に適した凸最適化型部分空間追跡アルゴリズムが有望であるが、基底ベクトルの直交性が担保されないため、外れ値の影響を受けやすく、推定制度の劣化や（次元の縮退による）学習の停滞を招く弱点がある。本研究では、凸性と直交性という２つの相反する数学的性質を巧みに融合する方法を開拓することにより、理想的な凸最適化型部分空間追跡アルゴリズムを世界に先駆けて実現し、大規模データのオンライン解析の基盤技術を確立することを目的としている。ここで、鍵となるのは、 [Nguyen, Takahashi, Yamada 2012(Multidimensional Systems and Signal Processing)]に発表済の「帰納的に定義された入れ子状の直交補空間の閉形式を活用した部分空間追跡メカニズム」である。2015年度は、 [Nguyen, Takahashi, Yamada 2012]で提案したアイディアを本研究プロジェクトに応用するための基礎検討を行った。その結果、時々刻々更新される自己相関行列の推定値から決定される「推定固有ベクトルの表現基底」が急激に変化する場合に[Nguyen, Takahashi, Yamada 2012]で提案したアルゴリズムが不安定な挙動を示し、部分空間追跡性能が著しく劣化するケースが生じる可能性が散見された。この原因を解明し、安定化のための対策を検討し、この対策案を原アルゴリズム組み込むことによって、本質的な計算量増加を伴うことなく、[Nguyen, Takahashi, Yamada 2012]で提案したアルゴリズムの安定化が達成されることを明らかにしている。
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
研究実績の概要でも述べたように、[Nguyen, Takahashi, Yamada 2012(Multidimensional Systems and Signal Processing)]のアイディアを活用するための安定化が実現できることが明らかとなり、本研究プロジェクトにおいても、固有ベクトル空間の基底の直交性条件を「各々の基底ベクトルの探索空間を入れ子状の直交補空間に限定すること」として表現するための準備を整えることができた。
|
| Strategy for Future Research Activity |
[Nguyen, Takahashi, Yamada 2012]で提案したアルゴリズムの不安定性要因の解明と対策案については、既に初期検討結果を信号処理シンポジウム2015とIEEE ICASSP2016 で発表しているが、詳細な解析結果をジャーナル論文として発表すべく、準備を進めている。
この結果は、最大固有値(または最小固有値)に対応した固有ベクトルを逐次近似可能な全てのアルゴリズムと融合することができるが、まずは、[Nguyen, Yamada 2013(IEEE Transactions on Signal Processing, vol.61, no.6, 2013)]で提案した Adaptive Normalized Quasi-Newton Algorithms と融合することにより、実践的な解法を開発する。さらに、[Yamada, Ogura 2014 (Numerical Functional Analysis, vol.25, 2004)]と組み合わせることにより、本プロジェクトの当初の課題の解決を目指したい。
|
| Causes of Carryover |
当初は[Nguyen, Takahashi, Yamada2012]のアイディアをそのまま活用することにより、凸最適化型部分空間追跡アルゴリズムが実現できるものと予想していたが、[Nguyen, Takahashi, Yamada2012]を活用する元のアルゴリズムが不安定な挙動を示す状況が発見されたため、急遽、この問題を解決する必要が生じた。この段階では、数理的な研究が中心となり、多くのコンピュータを使う必要がなく、予算の有効利用のため、次年度に繰り越すことにした。
|
| Expenditure Plan for Carryover Budget |
2015年度に[Nguyen, Takahashi, Yamada2012]を活用する元のアルゴリズムの不安定な挙動を解消するアイディアを考案することができたため、本来の研究計画に軌道修正することができるようになった。この段階では、シミュレーション用にコンピュータが複数必要になる。更に、複数の国内学会発表や国際会議発表の他、ジャーナル論文の投稿の準備も進めている段階であり、問題なく予算を消化することができると予想している。
|
Research Products
(2 results)
