2017 Fiscal Year Research-status Report

凸最適化型部分空間追跡アルゴリズムのロバスト化と高速化に関する研究

Research Project

Project/Area Number	15K13986
Research Institution	Tokyo Institute of Technology
Principal Investigator	山田功東京工業大学, 工学院, 教授 (50230446)
Co-Investigator(Kenkyū-buntansha)	湯川正裕慶應義塾大学, 理工学部(矢上), 准教授 (60462743)
Project Period (FY)	2015-04-01 – 2019-03-31
Keywords	信号処理 / 部分空間追跡 / 凸最適化
Outline of Annual Research Achievements	「部分空間追跡」は時系列データに潜む支配的な部分空間の基底をオンライン抽出する信号処理技術であり、ビッグデータ解析等、大規模データ解析への応用でも重要な役割が期待されている。本研究プロジェクトでは、凸性と直交性という２つの相反する数字的性質を巧みに融合する方法を開拓することにより、理想的な凸最適化型部分空間追跡アルゴリズムを世界に先駆けて実現し、大規模データのオンライン解析の基盤技術を確立することを目的としており、[Nguyen, Takahashi, Yamada 2012(Multidimensional Systems and Sygnal Processing)]に発表済みの「帰納的に定義された入れ子状の直交補空間の閉形式を活用した部分空間追跡メカニズム」が基盤となる。ゲノム解析などに代表される高次元データ解析では、自己相関行列の主成分ベクトル(最大固有値に対応する固有ベクトル)は本来スパースになることが知られている。ところが自己相関行列の推定値自体に誤差が含まれるため、自己相関行列の推定値の主成分ベクトルはスパースにならない。この状況は主成分ベクトルの解釈を困難にするため、主成分ベクトルのスパース性を促進する推定法が望まれている。2017年度は、[Nguyen, Yamada'13]で開発していたAdaptive Normalized Quasi-Newton Algorithm を一般化することにより、スパース性促進機能を新たに追加する課題に取り組んだ。具体的には、[Nguyen, Yamada'13]で採用した目的関数に重み付きl1ペナルティを新たに加え、Quasi-Newton 型更新方向ベクトルを与えている。更に、一般化されたアルゴリズムの収束解析を与えることにも成功している。数値実験によって、提案法の優れたスパース性促進機能を確認している。
Current Status of Research Progress	Current Status of Research Progress 2: Research has progressed on the whole more than it was originally planned. Reason 本研究プロジェクトの最大の目標は優れた部分空間追跡アルゴリズムを実現することであるが、スパース性など信頼できる先験情報を効果的に活かした優れたオンライン主成分推定法の実現が全ての基盤となることは明らかである。ところが、主成分ベクトルの推定問題の標準的解法である冪乗法(Power iteration)は最適化問題の目的関数が陽に現れないアルゴリズムであるため、これにスパース性促進機能を追加する方針の実現は容易でなくヒューリスティクな解法が提案されていた。幸い、本研究では[Nguyen, Yamada'13]を発展させる着想に至ったため、最適解への収束性が保証された解法が実現できた。以下、外部発表の中で主なものを紹介する。 2017年度の成果の初期検討結果は、2017年電子情報通信学会信号処理シンポジウムで発表し、大きな反響を得ている他、スパース性促進効果の検証実験結果は統計的信号処理に関するトップコンファレンス「IEEE Statistical Signal Processing Workshop 2018 (June 10-13, 2018, Freiburg, Germany)」に採択されている。さらに本研究で実現された一般化の発想と収束解析の詳細は、信号処理のトップジャーナルIEEE Transactions on Signal Processing に投稿済である。
Strategy for Future Research Activity	2017年度は主成分ベクトルのスパース性促進には成功していたが、優れた部分空間追跡法を実現するには第２固有ベクトル以下の固有ベクトルの推定法についてもスパース性促進機能を拡げることが必要である。この課題を解決する鍵は「帰納的に定義された入れ子状の直交補空間の閉形式を活用した部分空間追跡メカニズム」の活用にあるはずであり、検討を進めている。初期検討結果をAPSIPA 2018(ホノルル, Nov)のスペシャルセッションで発表する予定である。その他、スペクトルクラスタリングなどへの応用についても併せて検討する予定である。
Causes of Carryover	（理由）研究を進めていく過程で、「スパース性を考慮した部分空間追跡問題」など当初想定していなかった課題の解決が必要となり、これらの解明に時間を要した。プロジェクトを１年間延長することにより、本プロジェクトの重要な成果として、これらの重要な成果を世界に向けて発信できる。（使用計画） IEEE Statistical Signal Processing Workshop 2018 (June, Germany) 信号処理シンポジウム2018(Nov, 東京)での研究発表、APSIPA 2018(Nov, ホノルル)での研究発表やセミナーの謝金、書籍代等にて繰越金を使用予定である。