• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2015 Fiscal Year Research-status Report

最小二乗問題の高速解法とその応用

Research Project

Project/Area Number 15K04768
Research InstitutionNational Institute of Informatics

Principal Investigator

速水 謙  国立情報学研究所, 情報学プリンシプル研究系, 教授 (20251358)

Project Period (FY) 2015-04-01 – 2018-03-31
Keywords最小二乗問題 / 反復法 / 非負制約 / 箱型制約 / 半正定値系 / クリロフ部分空間法 / 主双対内点法 / 線形計画問題
Outline of Annual Research Achievements

非負制約付きの最小二乗問題の反復解法については、絶対値を用いて制約なしの変数に関する不動点問題に変換して解く方法をさらに改良した。具体的には、同手法を用いて変数が0の値をとるものとそうでないものに分類する第一段階と、0値をとらない変数に限定して射影勾配法を適用することにより高速化しあt。その結果、従来法より頑健で高速であることを、様々な非負制約付きの最小二乗問題での数値実験により示した。さらに、提案手法を画像修復問題に応用し、従来法よりよい修復画像が得られることを示した。これらの成果を加えて英文誌に再投稿した。さらに、上記の提案手法を箱型制約付きの最小二乗問題用に拡張できることを示した。
半正定値対称な行列を係数行列とする連立一次方程式の反復解法に関しては、右前処理MINRES法が破綻なく収束することを証明し、Eisenstat-SSOR法を用いた右前処理を用いることにより、従来法より高速に、頑健に解くことがでることを、電磁界解析で生じる系などの数値実験により示した。また、収束が停滞した場合に現在の解を初期解として再出発することにより解の精度を改善できることを数値実験により検証した。これらの成果を和文論文誌に投稿し、掲載が決定した。
以前に提案した最小二乗問題の内部反復前処理クリロフ部分空間解法を、線形計画問題の主双対内点法の各反復で生じる劣決定の連立一次方程式の解法に適用し、ランク落ちや悪条件の場合にも頑健に解けることを示した。特に、幅広いベンチマーク問題に対して、直接法を用いている標準的な公開プログラムと比較した結果、より頑健であることを示した。この成果を英文誌に投稿した。
さらに、最小二乗問題の内部反復前処理クリロフ部分空間解法を、非線形最小二乗問題の内部反復に用いる方法を提案し、その有効性を数値実験により示した。その成果をまとめて投稿した論文が英文誌に掲載された。

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

非負制約付き最小二乗問題の反復解法に関しては、2段階型のアルゴリズムに改良することにより、大幅に高速化し、従来法より高速であることが示せた。また、それを箱型制約の問題に自然に拡張する方法を見出した。
半正定値系の右前処理MINRES法については、破綻せずに収束することを証明でき、数値実験によってその有効性を確認できた。
内部反復前処理クリロフ部分空間法の内点法への応用については、反復法としては初めて、幅広い実用問題に対する有効性を示すことができ、英文誌に投稿することができた。

Strategy for Future Research Activity

箱型制約付きの最小二乗問題の反復解法に関しては、絶対値を用いた提案手法の有効性を数値実験により示し、英文誌に投稿する。
半正定値系に対する右前処理MINRES法に関しては、英文誌に投稿するとともに、非対称特異系の前処理反復法へ拡張する。
内部反復前処理クリロフ部分空間法の内点法への応用については、二次計画問題への適用等の拡張を検討する。

Causes of Carryover

平成27年度に支払った非常勤職員の人件費が予定より若干少なかったため。

Expenditure Plan for Carryover Budget

出張旅費として使用する予定である。

  • Research Products

    (29 results)

All 2016 2015 Other

All Int'l Joint Research (3 results) Journal Article (4 results) (of which Int'l Joint Research: 2 results,  Peer Reviewed: 4 results,  Acknowledgement Compliant: 3 results,  Open Access: 1 results) Presentation (20 results) (of which Int'l Joint Research: 12 results,  Invited: 3 results) Remarks (2 results)

  • [Int'l Joint Research] 同済大学(中国)

    • Country Name
      CHINA
    • Counterpart Institution
      同済大学
  • [Int'l Joint Research] Universitat Politecnica de Valencia(スペイン)

    • Country Name
      SPAIN
    • Counterpart Institution
      Universitat Politecnica de Valencia
  • [Int'l Joint Research] Kent State University(米国)

    • Country Name
      U.S.A.
    • Counterpart Institution
      Kent State University
  • [Journal Article] Jacobian-free implicit inner-iterative preconditioner for nonlinear least squares problems2016

    • Author(s)
      Xu, W., Zheng, N., and Hayami, K.,
    • Journal Title

      Journal of Scientific Computing

      Volume: - Pages: 1-27

    • DOI

      10.1007/s10915-016-0167-z

    • Peer Reviewed / Int'l Joint Research / Acknowledgement Compliant
  • [Journal Article] 半正定値系に対するEisenstat SSOR による右前処理MINRES法2016

    • Author(s)
      杉原光太, 速水 謙, Ning Zheng
    • Journal Title

      日本応用数理学会論文誌

      Volume: - Pages: 1-43

    • Peer Reviewed / Open Access
  • [Journal Article] Convergence of inner-iteration GMRES methods for least squares problems2015

    • Author(s)
      Morikuni, K. and Hayami, K.,
    • Journal Title

      SIAM Journal on Matrix Analysis and Applications

      Volume: 36 Pages: 225-250

    • DOI

      10.1137/130946009

    • Peer Reviewed / Acknowledgement Compliant
  • [Journal Article] Improvements to the Cluster Newton method for underdetermined inverse problems2015

    • Author(s)
      Gaudreau, P., Hayami, K., Aoki, Y., Safoui, H., and Konagaya, A.,
    • Journal Title

      Journal of Computational and Applied Mathematics,

      Volume: 283 Pages: 122-141

    • DOI

      10.1016/j.cam.2015.01.014

    • Peer Reviewed / Int'l Joint Research / Acknowledgement Compliant
  • [Presentation] Implementation of interior-point method for LP based on Krylov subspace iterative solver with inner-iteration preconditioning2016

    • Author(s)
      Cui, Y., Morikuni, K., Tsuchiya, T., and Hayami, K.,
    • Organizer
      研究集会「最適化:モデリングとアルゴリズム」
    • Place of Presentation
      政策研究大学院大学
    • Year and Date
      2016-03-22 – 2016-03-23
  • [Presentation] Modulus-Type Inner Outer Iteration Methods for Nonnegative Constrained Least Squares Problems2016

    • Author(s)
      Yin, J., Zheng, N., Hayami, K.,
    • Organizer
      Structured Matrix Computations with Applications, Tsinghua Sanya International Mathematics Forum
    • Place of Presentation
      Tsinghua Sanya International Mathematics Forum, Sanya, China,
    • Year and Date
      2016-03-14 – 2016-03-18
    • Int'l Joint Research / Invited
  • [Presentation] Inner-iteration Preconditioning of Normal Equations in an Interior-point Method for LP2016

    • Author(s)
      Cui, Y., Morikuni, K., Tsuchiya, T., and Hayami, K.
    • Organizer
      行列・固有値問題の解法とその応用セッション, 日本応用数理学会 第12回研究部会連合発表会
    • Place of Presentation
      神戸学院大学 ポートアイランドキャンパス
    • Year and Date
      2016-03-04 – 2016-03-05
  • [Presentation] 半正定値系に対するEisenstat SSORによる右前処理MINRES法と,特異系への右前処理MINRES法の収束性2016

    • Author(s)
      杉原光太, 速水 謙, Zheng Ning,
    • Organizer
      行列・固有値問題の解法とその応用セッション, 日本応用数理学会 第12回研究部会連合発表会
    • Place of Presentation
      神戸学院大学 ポートアイランドキャンパス
    • Year and Date
      2016-03-04 – 2016-03-05
  • [Presentation] Hybrid Two-Stage Modulus Iteration Method for Nonnegative Constrained Least Squares Problems2016

    • Author(s)
      Zheng, N., Hayami, K., Yin, J.,
    • Organizer
      行列・固有値問題の解法とその応用セッション, 日本応用数理学会 第12回研究部会連合発表会
    • Place of Presentation
      神戸学院大学 ポートアイランドキャンパス
    • Year and Date
      2016-03-04 – 2016-03-05
  • [Presentation] Preconditioning iterative methods for solving least squares problems2016

    • Author(s)
      Mas, J., Marin, J., and Hayami, K.
    • Organizer
      Workshop on Numerical Algebra, Algorithms, and Analysis
    • Place of Presentation
      国立情報学研究所
    • Year and Date
      2016-01-11 – 2016-01-12
    • Int'l Joint Research
  • [Presentation] Enchanted by singularity2016

    • Author(s)
      Hayami, K.
    • Organizer
      Workshop on Numerical Algebra, Algorithms, and Analysis
    • Place of Presentation
      国立情報学研究所
    • Year and Date
      2016-01-11 – 2016-01-12
    • Int'l Joint Research
  • [Presentation] Right preconditioned MINRES using Eisenstat SSOR for positive semidefinite systems2016

    • Author(s)
      Sugihara, K., Zheng, N., and Hayami, K.,
    • Organizer
      Workshop on Numerical Algebra, Algorithms, and Analysis
    • Place of Presentation
      国立情報学研究所
    • Year and Date
      2016-01-11 – 2016-01-12
    • Int'l Joint Research
  • [Presentation] Modulus-Type Inner Outer Iteration Methods for Nonnegative and Box Constrained Least Squares Problems and their Application to Image Restoration2015

    • Author(s)
      Zheng, N., Hayami, K.*, and Yin, J.-F.
    • Organizer
      The 1st Asia-Pacific Workshop on Image Processing and Applications
    • Place of Presentation
      Macquarie University , Sydney, Australia,
    • Year and Date
      2015-12-14 – 2015-12-16
    • Int'l Joint Research
  • [Presentation] Modulus Methods for Box Constrained Least Squares Problems2015

    • Author(s)
      Zheng, N., Hayami, K., and Yin, J.-F.,
    • Organizer
      京都大学数理解析研究所 (RIMS) 研究集会: 現象解明に向けた数値解析学の新展開
    • Place of Presentation
      京都大学数理解析研究所
    • Year and Date
      2015-11-18 – 2015-11-20
    • Invited
  • [Presentation] 半正定値系に対する Eisenstat SSOR による右前処理 MINRES 法2015

    • Author(s)
      杉原光太, 速水謙, Ning Zheng
    • Organizer
      京都大学数理解析研究所 (RIMS) 研究集会: 現象解明に向けた数値解析学の新展開
    • Place of Presentation
      京都大学数理解析研究所
    • Year and Date
      2015-11-18 – 2015-11-20
  • [Presentation] Modulus Iterative Methods for Least Squares Problems with Box Constraints2015

    • Author(s)
      Zheng, N., Hayami, K.*, and Yin, J.-F.,
    • Organizer
      Minisymposium MS43: The Least Squares Challenge: Modern Methods and Applications, 2015 SIAM Conference on Applied Linear Algebra,
    • Place of Presentation
      Atlanta, Georgia
    • Year and Date
      2015-10-26 – 2015-10-30
    • Int'l Joint Research
  • [Presentation] Right Preconditioned MINRES using Eisenstat-SSOR for Positive Semidefinite Systems2015

    • Author(s)
      Sugihara, K., Hayami, K., and Zheng, N.,
    • Organizer
      2015 SIAM Conference on Applied Linear Algebra
    • Place of Presentation
      Atlanta, Georgia
    • Year and Date
      2015-10-26 – 2015-10-30
    • Int'l Joint Research
  • [Presentation] Modulus-Type Inner Outer Iterative Methods for Nonnegative Constrained Least Squares Problems2015

    • Author(s)
      Zheng, N., Hayami, K., and Yin, J.-F.,
    • Organizer
      2015 SIAM Conference on Applied Linear Algebra
    • Place of Presentation
      Atlanta, Georgia
    • Year and Date
      2015-10-26 – 2015-10-30
    • Int'l Joint Research
  • [Presentation] Modulus Iterative Methods for Box Constrained Least Squares Problems2015

    • Author(s)
      Zheng, N., Hayami, K., and Yin, J.-F.,
    • Organizer
      日本応用数理学会2015年度年会
    • Place of Presentation
      金沢大学
    • Year and Date
      2015-09-09 – 2015-09-11
  • [Presentation] 半正定値系に対するEisenstat SSORによる右前処理MINRES法,2015

    • Author(s)
      杉原 光太, 速水 謙
    • Organizer
      日本応用数理学会2015年度年会
    • Place of Presentation
      金沢大学
    • Year and Date
      2015-09-09 – 2015-09-11
  • [Presentation] Modulus Iterative Methods for Box Constrained Least Squares Problems,2015

    • Author(s)
      Zheng, N., Hayami, K., and Yin, J.-F.,
    • Organizer
      Minisymposium on Recent Advances in the Solution of Least Squares Problems 2, The International Congress on Industrial and Applied Mathematics (ICIAM2015)
    • Place of Presentation
      China National Convention Center, Beijing
    • Year and Date
      2015-08-10 – 2015-08-15
    • Int'l Joint Research
  • [Presentation] Application of inner-iteration preconditioning to general least squares problems2015

    • Author(s)
      Morikuni, K. and Hayami, K.,
    • Organizer
      Minisymposium on Recent Advances in the Solution of Least Squares Problems 2, The International Congress on Industrial and Applied Mathematics (ICIAM2015)
    • Place of Presentation
      China National Convention Center, Beijing
    • Year and Date
      2015-08-10 – 2015-08-15
    • Int'l Joint Research
  • [Presentation] Preconditioners for Least Squares Problems,2015

    • Author(s)
      Mas, J., Marin, J., and Hayami, K.,
    • Organizer
      Minisymposium on Recent Advances in the Solution of Least Squares Problems 1, The International Congress on Industrial and Applied Mathematics (ICIAM2015)
    • Place of Presentation
      China National Convention Center, Beijing
    • Year and Date
      2015-08-10 – 2015-08-15
    • Int'l Joint Research
  • [Presentation] Modulus Iterative Method for Least Squares Problems wit Box Constraints2015

    • Author(s)
      Zheng, N., Hayami, K., and Yin, J.-F.,
    • Organizer
      Hong Kong-Tokyo Workshop on Scientific Computing
    • Place of Presentation
      国立情報学研究所
    • Year and Date
      2015-04-06 – 2015-04-08
    • Int'l Joint Research / Invited
  • [Remarks]

    • URL

      http://researchmap.jp/KenHayami/

  • [Remarks]

    • URL

      http://research.nii.ac.jp/~hayami/index-j.htm

URL: 

Published: 2017-01-06  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi