• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 課題ページに戻る

2012 年度 実績報告書

階層構造を持つ最適化問題の解明と信号処理工学への応用

研究課題

研究課題/領域番号 21300091
研究機関東京工業大学

研究代表者

山田 功  東京工業大学, 理工学研究科, 教授 (50230446)

研究期間 (年度) 2009-04-01 – 2014-03-31
キーワード階層構造を持つ最適化 / Normalized PAST アルゴリズム / 適応正規化準ニュートン法
研究概要

「階層構造を持つ最適化問題の解明と信号処理への応用」について下記の研究成果を得た(主な成果を抜粋する)。
1.時々刻々変化する2つの「自己相関行列の推定値」の一般固有部分空間を適応学習する適応問題に対して,低計算量で高速で安定した収束性能を備えた「一般固有部分空間追跡アルゴリズム」が待望されている。本研究では代表的なアルゴリズム(Normalized PAST)に注目し,その精密な収束解析を与えることに成功している。その結果,収束が保証されるステップサイズの範囲が明らかとなり,収束速度を高めるステップサイズ,安定な定常特性を実現するステップサイズなどの重要な設計指針を得ることができた。一般固有部分空間は一般化Rayley商の非凸最小化問題の解集合であり,Normalized PASTの収束値は初期値から一般固有部分空間上への直交射影となっているため, Normalized PASTは階層構造を持つ非凸最適化問題の解法の一例になっている。
2. Moller とAxel は,標準的なN次元固有値問題がN+1次元空間に定義されたある種の非凸関数の停留点を求める問題に帰着できることを示すとともに,準ニュートン法のアイディアを利用してこの停留点を逐次近似するアルゴリズムを提案していた(2004)。このアルゴリズムに精密な収束解析がないが、数値例はこのアルゴリズムの優れた収束性能を示唆している。本研究では, Moller とAxelのアイディアを一般固有値問題に拡張するとともに,準ニュートン法に正規化操作を加えた2種類の適応正規化準ニュートン法を提案するとともに,それらの精密な収束解析を与えることに成功している。その結果,提案アルゴリズムが従来のアルゴリズムに比べて優れた安定性と高速な収束性能を各々備えていることが明らかとなった。

現在までの達成度 (区分)
現在までの達成度 (区分)

1: 当初の計画以上に進展している

理由

一般固有値問題は「階層構造を持つ非凸最適化問題」の代表例であると同時に信号処理の多くの問題に応用されている。この問題に対する従来法の代表例(Normalized PAST)のDeterministic Discrete Time モデルに対して世界ではじめて精密な収束解析を与えることができた。この結果の一部は,既に欧州信号処理学会発行のトップジャーナル Signal Processing に掲載されている。さらに,準ニュートン法に正規化操作を加えた2種類の適応正規化準ニュートン法を新しく提案するとともに,それらのDeterministic Discrete Time モデルに対する精密な収束解析を与え,提案アルゴリズムが従来のアルゴリズムに比べて格段に優れた収束性能を備えていることを明らかにしている。この結果は既にIEEEのトップジャーナル IEEE Transactions on Signal Processing に掲載されている。
その他にも,画像復元問題を非可微分凸関数によって表現された「階層構造を持つ最適化問題」として定式化することにより,その優れた効果を検証している。

今後の研究の推進方策

A.一般固有値問題に対するNormalized PASTアルゴリズムの収束を保証する十分条件を導くことに成功したが、必要十分条件を明らかにすることが挙げられる。
B. 最近, 非可微分凸最適化問題の解法アルゴリズムの研究が進み,Primal Dual Splitting など汎用性の高いアルゴリズムが開発され,解決可能な凸最適化問題のクラスが拡大している。これらの拡大は画像処理をはじめとする多くの分野への応用で有効性が確認されている。しかしながら,このように新しく開拓された凸最適化問題の解集合上で第2の凸関数を最小化する問題は国際的にも手つかずの状況にあり,本研究プロジェクトの中で取り組んでいく予定である。

  • 研究成果

    (21件)

すべて 2013 2012 その他

すべて 雑誌論文 (3件) (うち査読あり 3件) 学会発表 (17件) (うち招待講演 2件) 備考 (1件)

  • [雑誌論文] Adaptive Normalized Quasi-Newton Algorithms for Extraction of Generalized Eigen-pairs and Their Convergence Analysis2013

    • 著者名/発表者名
      T. D. Nguyen, I. Yamada
    • 雑誌名

      IEEE Transactions on Signal Processing

      巻: 61 ページ: pp. 457-483

    • 査読あり
  • [雑誌論文] The Adaptive Projected Subgradient Method Constrained by Families of Quasi-nonexpansive Mappings and Its Application to Online Learning2013

    • 著者名/発表者名
      K. Slavakis, I. Yamada
    • 雑誌名

      SIAM Journal on Optimization

      巻: 23 ページ: pp. 123-152

    • 査読あり
  • [雑誌論文] A Unified Convergence Analysis of Normalized PAST Algorithms for Estimating Principal and Minor Components2013

    • 著者名/発表者名
      T. D. Nguyen, I. Yamada
    • 雑誌名

      Signal Processing

      巻: 93 ページ: 176-184

    • 査読あり
  • [学会発表] 不動点理論から見える凸最適化アルゴリズムの共通原理について2013

    • 著者名/発表者名
      山田 功
    • 学会等名
      2013年電子情報通信学会総合全国大会
    • 発表場所
      岐阜大学(岐阜県)
    • 年月日
      20130319-20130319
    • 招待講演
  • [学会発表] A Hierarchical Convex Optimization Approach for High Fidelity Solution Selection in Image Recovery2012

    • 著者名/発表者名
      Shunsuke Ono, Isao Yamada
    • 学会等名
      APSIPA ASC 2012 (Invited Special Session)
    • 発表場所
      Loews Hollywood Hotel(California, USA)
    • 年月日
      20121206-20121206
    • 招待講演
  • [学会発表] A Stabilization of Algebraic Phase Unwrapping by Subresultant2012

    • 著者名/発表者名
      Daichi Kitahara, Isao Yamada
    • 学会等名
      IEICE SIP Symposium 2012
    • 発表場所
      ANAインターコンチネンタル石垣リゾート(沖縄県)
    • 年月日
      20121128-20121128
  • [学会発表] Sparse Distributed Estimation in Diffusion Adaptive Networks by Proximal Forward-Backward Splitting2012

    • 著者名/発表者名
      Wemer M. Wee, Isao Yamada
    • 学会等名
      IEICE SIP Symposium 2012
    • 発表場所
      ANAインターコンチネンタル石垣リゾート(沖縄県)
    • 年月日
      20121128-20121128
  • [学会発表] An Adaptive Filtering Based on A Primal-Dual Splitting Characterization2012

    • 著者名/発表者名
      Shunsuke Ono, Masao Yamagishi, Isao Yamada
    • 学会等名
      IEICE SIP Symposium 2012
    • 発表場所
      ANAインターコンチネンタル石垣リゾート(沖縄県)
    • 年月日
      20121128-20121128
  • [学会発表] A Likelihood Constrained Poissonian Image Recovery via The Hybrid Steepest Descent Method2012

    • 著者名/発表者名
      Shunsuke Ono, Isao Yamada
    • 学会等名
      IEICE SIP Symposium 2012
    • 発表場所
      ANAインターコンチネンタル石垣リゾート(沖縄県)
    • 年月日
      20121128-20121128
  • [学会発表] An Image Restoration by the MV-PURE with SURE Based Rank Selection2012

    • 著者名/発表者名
      Masao Yamagishi, Isao Yamada
    • 学会等名
      IEICE SIP Symposium 2012
    • 発表場所
      ANAインターコンチネンタル石垣リゾート(沖縄県)
    • 年月日
      20121128-20121128
  • [学会発表] Adaptive Projected Subgradient Method for Expanded Real Systems2012

    • 著者名/発表者名
      Takehiko Mizoguchi, Masao Yamagishi, Isao Yamada
    • 学会等名
      IEICE SIP Symposium 2012
    • 発表場所
      ANAインターコンチネンタル石垣リゾート(沖縄県)
    • 年月日
      20121128-20121128
  • [学会発表] 適応射影劣勾配法を用いた能動騒音制御システムに関する一考察2012

    • 著者名/発表者名
      山岸昌夫, 福田直登, 山田功
    • 学会等名
      IEICE SIP Symposium 2012
    • 発表場所
      ANAインターコンチネンタル石垣リゾート(沖縄県)
    • 年月日
      20121128-20121128
  • [学会発表] Sparse System Identification by Adaptive Proximal Forward-Backward Splitting Algorithm: Approximated l_p-Regularizer and Variable Regularization Parameter2012

    • 著者名/発表者名
      Yuta Tawara, Osamu Toda, Masahiro Yukawa, Isao Yamada
    • 学会等名
      IEICE SIP Symposium 2012
    • 発表場所
      ANAインターコンチネンタル石垣リゾート(沖縄県)
    • 年月日
      20121128-20121128
  • [学会発表] 階層型凸最適化による画像復元法2012

    • 著者名/発表者名
      小野峻佑, 山田功
    • 学会等名
      第17回映像メディア処理シンポジウム
    • 発表場所
      ニューウェルシティ湯河原(静岡県)
    • 年月日
      20121024-20121024
  • [学会発表] ブロック核ノルムの提案とその画像処理応用2012

    • 著者名/発表者名
      小野峻佑, 宮田高道, 山田功
    • 学会等名
      第17回映像メディア処理シンポジウム
    • 発表場所
      ニューウェルシティ湯河原(静岡県)
    • 年月日
      20121024-20121024
  • [学会発表] Image Recovery by Hierarchical Convex Optimization2012

    • 著者名/発表者名
      Shunsuke Ono, Isao Yamada
    • 学会等名
      2012年電子情報通信学会ソサイエティ大会
    • 発表場所
      富山大学(富山県)
    • 年月日
      20120911-20120911
  • [学会発表] Adaptive Proximal Forward-Backward Splitting for Sparse System Identification Under Impulsive Noise2012

    • 著者名/発表者名
      Takayuki Yamamoto, Masao Yamagishi, Isao Yamada
    • 学会等名
      EUSIPCO 2012
    • 発表場所
      Parliament Palace (Bucharest, ROMANIA)
    • 年月日
      20120831-20120831
  • [学会発表] A robust algebraic phase unwrapping based on spline approximation2012

    • 著者名/発表者名
      Daichi Kitahara, Isao Yamada
    • 学会等名
      IEICE Technical Report
    • 発表場所
      京都リサーチパーク(京都府)
    • 年月日
      20120702-20120702
  • [学会発表] Adaptive generalized eigen-pair extraction by a combination of normalization and quasi-Newton algorithm2012

    • 著者名/発表者名
      Tuan Duong Nguyen, Isao Yamada
    • 学会等名
      IEICE Technical Report
    • 発表場所
      大阪大学(大阪府)
    • 年月日
      20120524-20120524
  • [学会発表] Efficient parallel computation of the stochastic MV-PURE estimator by the hybrid steepest descent method2012

    • 著者名/発表者名
      Tomasz Piotorowski, Isao Yamada
    • 学会等名
      ICAISC 2012
    • 発表場所
      Hotel Mercure Kasprowy (Zakopane, POLAND)
    • 年月日
      20120429-20120429
  • [備考] 東京工業大学山田研究室

    • URL

      http://www.sp.ss.titech.ac.jp/index.php?%BB%B3%C5%C4%B8%A6%B5%E6%BC%BC

URL: 

公開日: 2014-07-24  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi