研究課題
若手研究(B)
有限桁の数を扱う数値計算では,演算毎に丸め誤差が発生する可能性がある.計算回数が多いとき,丸め誤差は蓄積し,最終的に得る計算結果は不正確になることもある.計算機の能力向上により問題が大規模化すると,丸め誤差の影響はより心配される.本研究課題において,数値線形代数の問題に対して,丸め誤差の影響を抑えつつ,高速に計算できる計算環境を行列積・LU分解・コレスキー分解などに対して構築できた.
数値解析