1991 Fiscal Year Annual Research Report
Project/Area Number |
03640231
|
Research Institution | Tokyo Denki University |
Principal Investigator |
堀口 博 東京電機大学, 工学部, 助教授 (60219227)
|
Keywords | 浮動小数点数 / 浮動小数点演算構造 / 実数の各公理 / 確立解釈 / 仮数部 / 倍精度 |
Research Abstract |
電子計算機の内部で実数と呼ばれている浮動小数点数とその上の演算は,数学での実数とその上の演算とは可也違った構造を持っている。連続の濃度を持つ実数を有限の箱の中に収める事は出来ず,似てはいるが当然違った構造を持った代用品が浮動小数点演算構造なのである。 この代用品である浮動小数点数で,数学での微分方程式を解いたy定積分を計算している。果して計算機の計算結果は正しいのであろうか。 この疑問に対して,浮動小数点演算構造による定数の各公理を解釈し確立値でもってその性能を調べる方法を開発した。その確率値を百倍すれば百点満点でこの計算機は何点であるかをテストすることができるのである。 例えば仮数部のビット数を長くして有効桁数を増加させた培積度計算という機能を各計算機はもっている.本当に精度が上っているかどうかは不明だが,商品である以上"倍精度"の名前は効力をもつ,では実際上の百点満点で採点すると,逆に倍精度計算の方が得点で下る事も起り得るのである。 では具体的に熱伝導方程式を数値計算で解いてみると,様々なことがわかってくる。例えばレジスタの長さは22ビット以上では以値解は安定して,32ビットでも64ビットでもその結果に差はない。倍養度の方がより正確な計算をしそうな呼び名がついているが,実は単積度で計算しても同じで,計算時間も短縮できるのである.その他詳しいことはFloatintーPoint Numbers and Real Numbers,Adrances in Softwara Science and Technology 3,1991,pp151ー155参照.
|
Research Products
(1 results)