The fast solution of least squares problems and its applications.

2017 Fiscal Year Annual Research Report

• Project/Area Number: 15K04768
• Research Institution: National Institute of Informatics
• Principal Investigator: 速水 謙 国立情報学研究所, 大学共同利用機関等の部局等, 教授 (20251358)
• Project Period (FY): 2015-04-01 – 2018-03-31
• Keywords: 最小二乗問題 / 画像復元 / 非負値行列因子分解 / クリロフ部分空間法 / 線形計画問題 / 主双対内点法 / 共役勾配法 / 非線形連立方程式

Outline of Annual Research Achievements

我々が開発した絶対値変換に基づいた非負制約付き最小二乗問題に対する反復解法とチコノフの正則化を画像復元に応用した共著英論文が掲載された. また, 信号処理で有用な非負値行列因子分解(NMF)を生成する交互最小二乗法の各反復が多数の右辺項に対する非負制約付き最小二乗問題であることに着目し, 我々が開発した解法を応用し, 多数の右辺に対するactive-set法を提案することにより高速化し, 従来法よりも優れていることを確認し, その結果を国際学会で発表した.
最小二乗問題で新しい式や変数が加わったり除かれたりした場合に元の係数行列に対する不完全コレスキー分解を効率的に更新する方法に関する共著英論文が掲載された.
我々が提案した最小二乗問題の内部反復前処理クリロフ部分空間法を, 線形計画問題の主双対内点法の各反復で生じる劣決定の連立一次方程式の解法に適用し, その有効性を示した英論文を修正した.
半正定値対称Aな行列を係数行列とする連立一次方程式に対して, 右前処理MINRES法が, 右辺がAの像空間に属さないときも破綻せずに収束することを示し, 英論文を投稿した. また, 対称特異系に対する右前処理MR-2法(Range Restricted MINRES method)の収束性について解析し, 国際学会で発表した. また, 係数行列Aが対称半正定値で右辺がAの像空間に属するような連立一次方程式に対して, 共役勾配法が収束することを示し, 最小二乗問題に対するCGLS法, CGNE法の収束性を示し, 英論文を執筆した. 更に, 悪条件の劣決定最小二乗問題に対して, 正規方程式を用いて右前処理付き一般化残差最小(GMRES)法を安定に収束させる方法を開発し, 国際学会で発表した.
平野法とArmijo法の拡張による非線形連立方程式の数値解法に関する和論文を投稿した.

Research Products

• [Int'l Joint Research] Universitat Politecnica de Valencia(スペイン)
  • Country Name: SPAIN
  • Counterpart Institution: Universitat Politecnica de Valencia
• [Int'l Joint Research] Kent State University(米国)
  • Country Name: U.S.A.
  • Counterpart Institution: Kent State University
• [Journal Article] Updating preconditioners for modified least squares problems (2017)
  • Author(s): Marin J.、Mas J.、Guerrero D.、Hayami K.
  • Journal Title: Numerical Algorithms Volume: 75 Pages: 491～508
  • DOI: 10.1007/s11075-017-0315-z
  • Peer Reviewed / Int'l Joint Research
• [Presentation] Fast Solution of Nonnegative Matrix Factorization Via a Matrix-Based Active Set Method, (2018)
  • Author(s): Zheng, N., Hayami, K., and Ono, N.,
  • Organizer: MS95 Matrix Computations with Applications - Part I of II, 18th SIAM Conference on Parallel Processing for Scientific Computing, Waseda University, Tokyo, March 7-10, 2018.
  • Int'l Joint Research
• [Presentation] Fast solution of nonnegative matrix factorization via a matrix-based active set method, (2018)
  • Author(s): Zheng, N., Hayami, K., and Ono, N.,
  • Organizer: SIAM Conference on Applied Linear Algebra (SIAM-ALA18), 4-8 May 2018, Hong Kong Baptist University. http://www.math.hkbu.edu.hk/siam-ala18/
  • Int'l Joint Research
• [Presentation] Convergence of the Right Preconditioned Range Restricted MINRES for Singular Systems, (2018)
  • Author(s): Sugihara, K., Hayami, K., and Zheng, N.,
  • Organizer: SIAM Conference on Applied Linear Algebra (SIAM-ALA18), 4-8 May 2018, Hong Kong Baptist University. http://www.math.hkbu.edu.hk/siam-ala18/
  • Int'l Joint Research
• [Presentation] Stabilizing GMRES Using the Normal Equation Approach for Severely Ill-Conditioned Problems, (2018)
  • Author(s): Liao, Z., Hayami, K., and Morikuni, K.,
  • Organizer: SIAM Conference on Applied Linear Algebra (SIAM-ALA18), 4-8 May 2018, Hong Kong Baptist University. http://www.math.hkbu.edu.hk/siam-ala18/
• [Presentation] A New Matrix-Based Active Set Method for Nonnegative Matrix Factorization (2017)
  • Author(s): Zheng, N., Hayami, K., and Ono, N.,
  • Organizer: Minisymposium M36-2: Numerical methods for large-scale inverse problems (Part II), Applied Inverese Problems 2017, Hangzhou, China, May 29-June 2, 2017
  • Int'l Joint Research
• [Presentation] Numerical computation of tori on delay equations (2017)
  • Author(s): Gimeno, J., Hayami, K., and Jorba, A.
  • Organizer: 第46回数値解析シンポジウム, 講演予稿集, pp. 45-50, 2017, グリーンパーク想い出の森, 滋賀県高島市, 2017年6月28日－30日.
• [Presentation] 対称特異系に対する右前処理MINRES法とMR-2法の収束性 (2017)
  • Author(s): 杉原光太, 速水謙, Ning Zheng
  • Organizer: 日本応用数理学会2017年度 年会, [研究部会OS] 行列・固有値問題の解法とその応用(1), 2017年9月6-8日, 武蔵野大学 有明キャンパス, 予稿集 pp.265-266.
• [Presentation] Stabilized GMRES method using the normal equation approach for highly ill-conditioned problems, (2017)
  • Author(s): Liao, Z. and Hayami, K.,
  • Organizer: 日本応用数理学会「行列・固有値問題の解法とその応用」研究部会 第24回研究会 東京大学工学部, 2017年11月24日
• [Remarks]
  • URL: https://researchmap.jp/KenHayami/
• [Remarks]
  • URL: http://research.nii.ac.jp/~hayami/index-j.htm