|
浮動小数点演算での精度低下により、数値計算で誤った結果を信用してしまう危険性がある。本研究では、桁落ちを検出することで、変数の有効桁数の追跡を行い、最終結果の有効桁数を推測することで、数値計算の信頼性向上を図るものである。厳密な有効桁追跡は前進誤差解析と同じで悲観的すぎるため、実用的なアルゴリズムとして、(1)丸め誤差は考慮しない、(2)演算回数に対しての桁落ち発生率を導入し、すでに有効桁が少なく桁落ち率が高いときは桁落ちした桁数の影響度を弱める、という方法で有効性を確認した。また、実用的システム構築の実現性についても検討した。
|
