2012 Fiscal Year Annual Research Report
階層構造を持つ最適化問題の解明と信号処理工学への応用
| Project/Area Number |
21300091
|
|---|
| Research Institution | Tokyo Institute of Technology |
|---|
Principal Investigator |
山田 功 東京工業大学, 理工学研究科, 教授 (50230446)
|
|---|
| Project Period (FY) |
2009-04-01 – 2014-03-31
|
| Keywords | 階層構造を持つ最適化 / Normalized PAST アルゴリズム / 適応正規化準ニュートン法 |
|---|
| Research Abstract |
「階層構造を持つ最適化問題の解明と信号処理への応用」について下記の研究成果を得た(主な成果を抜粋する)。
1.時々刻々変化する２つの「自己相関行列の推定値」の一般固有部分空間を適応学習する適応問題に対して，低計算量で高速で安定した収束性能を備えた「一般固有部分空間追跡アルゴリズム」が待望されている。本研究では代表的なアルゴリズム(Normalized PAST)に注目し，その精密な収束解析を与えることに成功している。その結果，収束が保証されるステップサイズの範囲が明らかとなり，収束速度を高めるステップサイズ，安定な定常特性を実現するステップサイズなどの重要な設計指針を得ることができた。一般固有部分空間は一般化Rayley商の非凸最小化問題の解集合であり，Normalized PASTの収束値は初期値から一般固有部分空間上への直交射影となっているため, Normalized PASTは階層構造を持つ非凸最適化問題の解法の一例になっている。
２. Moller とAxel は，標準的なN次元固有値問題がN+1次元空間に定義されたある種の非凸関数の停留点を求める問題に帰着できることを示すとともに，準ニュートン法のアイディアを利用してこの停留点を逐次近似するアルゴリズムを提案していた(2004)。このアルゴリズムに精密な収束解析がないが、数値例はこのアルゴリズムの優れた収束性能を示唆している。本研究では, Moller とAxelのアイディアを一般固有値問題に拡張するとともに，準ニュートン法に正規化操作を加えた２種類の適応正規化準ニュートン法を提案するとともに，それらの精密な収束解析を与えることに成功している。その結果，提案アルゴリズムが従来のアルゴリズムに比べて優れた安定性と高速な収束性能を各々備えていることが明らかとなった。
|
| Current Status of Research Progress |
Current Status of Research Progress
1: Research has progressed more than it was originally planned.
Reason
一般固有値問題は「階層構造を持つ非凸最適化問題」の代表例であると同時に信号処理の多くの問題に応用されている。この問題に対する従来法の代表例(Normalized PAST)のDeterministic Discrete Time モデルに対して世界ではじめて精密な収束解析を与えることができた。この結果の一部は，既に欧州信号処理学会発行のトップジャーナル Signal Processing に掲載されている。さらに，準ニュートン法に正規化操作を加えた２種類の適応正規化準ニュートン法を新しく提案するとともに，それらのDeterministic Discrete Time モデルに対する精密な収束解析を与え，提案アルゴリズムが従来のアルゴリズムに比べて格段に優れた収束性能を備えていることを明らかにしている。この結果は既にIEEEのトップジャーナル IEEE Transactions on Signal Processing に掲載されている。
その他にも，画像復元問題を非可微分凸関数によって表現された「階層構造を持つ最適化問題」として定式化することにより，その優れた効果を検証している。
|
| Strategy for Future Research Activity |
A.一般固有値問題に対するNormalized PASTアルゴリズムの収束を保証する十分条件を導くことに成功したが、必要十分条件を明らかにすることが挙げられる。
B. 最近, 非可微分凸最適化問題の解法アルゴリズムの研究が進み，Primal Dual Splitting など汎用性の高いアルゴリズムが開発され，解決可能な凸最適化問題のクラスが拡大している。これらの拡大は画像処理をはじめとする多くの分野への応用で有効性が確認されている。しかしながら，このように新しく開拓された凸最適化問題の解集合上で第２の凸関数を最小化する問題は国際的にも手つかずの状況にあり，本研究プロジェクトの中で取り組んでいく予定である。
|
