• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 課題ページに戻る

2016 年度 実施状況報告書

最小二乗問題の高速解法とその応用

研究課題

研究課題/領域番号 15K04768
研究機関国立情報学研究所

研究代表者

速水 謙  国立情報学研究所, 情報学プリンシプル研究系, 教授 (20251358)

研究期間 (年度) 2015-04-01 – 2018-03-31
キーワード最小二乗問題 / 反復解法 / 非負制約付き最小二乗問題 / 非負値行列因子分解 / active-set法 / 劣決定最小二乗問題 / GMRES法 / 共役勾配法
研究実績の概要

非負制約付き最小二乗問題の反復解法については、絶対値変換と共役勾配法による内部反復を用い、更にactive set法によって高速化する手法を提案し、従来法に対する優位性を数値実験により示した。また、その収束性を理論的に示した。さらに、同手法を画像再構成で生じる非適切問題に応用し、Tikhonovの正則化法と組み合わせて従来法に比べて優位であることを数値実験により示した。以上の成果をまとめた英論文がトップジャーナルに掲載された。さらに、同手法を箱型制約付きの最小二乗問題に拡張し, 数値実験により手法を評価した。また、信号処理で有用な非負値行列因子分解(Nonnegative Matrix Factorization, NMF)の交互最小二乗法の各反復が多数の右辺項に対する非負制約付き最小二乗問題であることに着目し、我々の開発した絶対値変換を用いた非負制約付き最小二乗問題の反復解法を応用し、多数の右辺に対するactive-set法を提案することにより高速化し、従来法よりも優れていることを数値実験により確認した。悪条件の劣決定最小二乗問題に対して、正規方程式を用いて右前処理付き一般化残差最小(GMRES)法を安定に収束させる方法を開発した。対称特異な連立一次方程式に対する右前処理Minres法に関しては、右辺が像空間に含まれない場合の収束解析を完成させた。最小二乗問題に式や変数が加わったり削除された場合の反復法の前処理の更新法を提案し、その有効性を検証した。
最小二乗問題の内部反復前処理クリロフ部分空間法を、線形計画問題の主双対内点法の各反復で生じる劣決定の連立一次方程式の解法に適用する手法に関しては英論文を修正し、再投稿した。

現在までの達成度 (区分)
現在までの達成度 (区分)

2: おおむね順調に進展している

理由

非負制約付き最小二乗問題に対して開発した反復解法を非負値行列因子分解に応用し、さらに高速化する方法を開発し、従来法に対する優位性を確認した。また、劣決定最小二乗問題に対して安定に収束させる方法を開発した。

今後の研究の推進方策

今回提案した非負値行列因子分解の新解法、劣決定最小二乗問題に対する解法、とともに、従来から行っている箱型制約付き最小二乗問題の新解法、対称特異な系に対する右前処理反復解法、内点法に対する反復法などの英論文執筆、掲載をめざす。
非負制約付き最小二乗問題の反復解法の非適切問題への応用、拡張を行う。

  • 研究成果

    (21件)

すべて 2017 2016 その他

すべて 国際共同研究 (3件) 雑誌論文 (2件) (うち国際共著 2件、 査読あり 2件、 謝辞記載あり 1件) 学会発表 (13件) (うち国際学会 10件、 招待講演 2件) 図書 (1件) 備考 (2件)

  • [国際共同研究] Kent State University(米国)

    • 国名
      米国
    • 外国機関名
      Kent State University
  • [国際共同研究] Universitat Politecnica de Valencia(スペイン)

    • 国名
      スペイン
    • 外国機関名
      Universitat Politecnica de Valencia
  • [国際共同研究] Tongji University(中国)

    • 国名
      中国
    • 外国機関名
      Tongji University
  • [雑誌論文] A modulus-based iterative method for constrained Tikhonov regularization2017

    • 著者名/発表者名
      Bai, Z.-Z., Buccini, A., Hayami, K., Reichel, L., Yin, J.-F., and Zheng, N.
    • 雑誌名

      Journal of Computational and Applied Mathematics

      巻: 319 ページ: 1-13

    • DOI

      10.1016/j.cam.2016.12.023

    • 査読あり / 国際共著
  • [雑誌論文] Modulus-type inner outer iteration methods for nonnegative constrained least squares problems2016

    • 著者名/発表者名
      Zheng, N., Hayami, K., and Yin, J.-F.
    • 雑誌名

      SIAM Journal on Matrix Analysis and Applications

      巻: 37 ページ: 1250-1278

    • DOI

      10.1137/141002220

    • 査読あり / 国際共著 / 謝辞記載あり
  • [学会発表] Nonnegative Matrix Factorization via A New Alternating Nonnegative Least Squares Method and Anderson Acceleration2016

    • 著者名/発表者名
      Zheng, N., Hayami, K., and Ono, N.
    • 学会等名
      日本応用数理学会「行列・固有値問題の解法とその応用」研究部会 第22回研究会
    • 発表場所
      東京大学工学部(東京都・文京区)
    • 年月日
      2016-11-25 – 2016-11-25
  • [学会発表] A Stabilized GMRES Method for Solving Inconsistent Underdetermined Least Squares Problems2016

    • 著者名/発表者名
      Liao, Z., Hayami, K., and Yin, J.-F.
    • 学会等名
      日本応用数理学会「行列・固有値問題の解法とその応用」研究部会 第22回研究会
    • 発表場所
      東京大学工学部(東京都・文京区)
    • 年月日
      2016-11-25 – 2016-11-25
  • [学会発表] An Alternating Modulus Nonnegative Least Squares Method for Nonnegative Matrix Factorization2016

    • 著者名/発表者名
      Zheng, N., Hayami, K.*, and Ono, N.
    • 学会等名
      Conference: Numerical Linear Algebra and Applications (NL2A), Centre International de Rencontres Mathematiques (CIRM),
    • 発表場所
      Luminy, France
    • 年月日
      2016-10-24 – 2016-10-28
    • 国際学会 / 招待講演
  • [学会発表] An Alternating Modulus Nonnegative Least Squares Method for Nonnegative Matrix Factorization2016

    • 著者名/発表者名
      Zheng, N. and Hayami, K.
    • 学会等名
      日本応用数理学会2016年度年会 [研究部会OS] 行列・固有値問題の解法とその応用(1)
    • 発表場所
      北九州国際会議場(福岡県・北九州市)
    • 年月日
      2016-09-12 – 2016-09-14
  • [学会発表] Implementation of Interior-point Methods for LP Based on Krylov Subspace Iterative Solvers with Inner-Iteration Preconditioning2016

    • 著者名/発表者名
      Cui, Y., Morikuni, K., Tsuchiya, T., and Hayami, K.
    • 学会等名
      5th IMA Conference on Numerical Linear Algebra and Optimization
    • 発表場所
      Birmingham, U.K.
    • 年月日
      2016-09-07 – 2016-09-09
    • 国際学会
  • [学会発表] Right Preconditioned MINRES for Singular Systems2016

    • 著者名/発表者名
      Sugihara, K., Zheng, N., and Hayami, K.
    • 学会等名
      5th IMA Conference on Numerical Linear Algebra and Optimization
    • 発表場所
      Birmingham, U.K.
    • 年月日
      2016-09-07 – 2016-09-09
    • 国際学会
  • [学会発表] Modulus-Based Iteration Methods for Nonnegative and Box Constrained Least Square Problems2016

    • 著者名/発表者名
      Zheng, N., Hayami, K.*, and Yin, J.-F.
    • 学会等名
      The Sixth China-Japan-Korea Joint Conference on Numerical Mathematics
    • 発表場所
      Daejeon, Korea
    • 年月日
      2016-08-22 – 2016-08-26
    • 国際学会 / 招待講演
  • [学会発表] Implementation of Interior-point Methods for LP using Krylov Subspace Methods Preconditioned by Inner Iterations2016

    • 著者名/発表者名
      Morikuni, K., Cui, Y., Tsuchiya, T., and Hayami, K.
    • 学会等名
      Workshop on Advances in Optimization
    • 発表場所
      TKP品川カンファレンスセンター(東京都・港区)
    • 年月日
      2016-08-12 – 2016-08-13
    • 国際学会
  • [学会発表] Implementation of Interior-Point Methods for LP using Krylov Subspace Methods Preconditioned by Inner Iterations2016

    • 著者名/発表者名
      Morikuni, K., Cui, Y., Tsuchiya, T., and Hayami, K.
    • 学会等名
      The Fifth International Conference on Continuous Optimization of the Mathematical Optimization Society (ICCOPT)
    • 発表場所
      政策研究大学院大学(東京都・港区)
    • 年月日
      2016-08-06 – 2016-08-11
    • 国際学会
  • [学会発表] Updating preconditioners for least squares problems2016

    • 著者名/発表者名
      Marin, J., Mas, J.*, and Hayami, K.
    • 学会等名
      Mini Symposium: Recent Advances in the Solution of Least Squares Problems, 20th Conference of the International Linear Algebra Society (ILAS)
    • 発表場所
      Leuven, Belgium
    • 年月日
      2016-07-11 – 2016-07-15
    • 国際学会
  • [学会発表] Modulus Iterative Methods for Least Squares Problems with Box Constraints2016

    • 著者名/発表者名
      Zheng, N., Hayami, K., and Yin, J.-F.
    • 学会等名
      Mini Symposium: Recent Advances in the Solution of Least Squares Problems, 20th Conference of the International Linear Algebra Society (ILAS)
    • 発表場所
      Leuven, Belgium
    • 年月日
      2016-07-11 – 2016-07-15
    • 国際学会
  • [学会発表] Updating preconditioners for least squares problems2016

    • 著者名/発表者名
      Marin, J., Mas, J., and Hayami, K.
    • 学会等名
      Álgebra Lineal, Análisis Matricial y Aplicaciones (ALAMA2016)
    • 発表場所
      Leon, Spain
    • 年月日
      2016-06-20 – 2016-06-22
    • 国際学会
  • [学会発表] Modulus Iterative Methods for Nonnegative Constrained Least Squares Problems Arising from Image Restoration2016

    • 著者名/発表者名
      Zheng, N., Hayami, K., Yin, J.
    • 学会等名
      SIAM Conference on Image Science
    • 発表場所
      Albuquerque, USA
    • 年月日
      2016-05-23 – 2016-05-26
    • 国際学会
  • [図書] ギルバート・ストラング著, 日本応用数理学会監訳, 今井桂子・岡本久監訳幹事, 世界標準MIT教科書 ストラング:計算理工学, 第7章 大規模連立一次方程式一次方程式の解法2016

    • 著者名/発表者名
      速水 謙
    • 総ページ数
      735 (549-591)
    • 出版者
      近代科学社
  • [備考] 速水研究室ホームページ(reseachmap)

    • URL

      http://researchmap.jp/KenHayami/

  • [備考] 速水研究室ホームページ

    • URL

      http://research.nii.ac.jp/~hayami/index-j.htm

URL: 

公開日: 2018-01-16   更新日: 2022-02-16  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi