数値計算の注意点 - 小西研究室@電脳工房ＭＳＣ

(5).数値計算の注意点

（４）で述べたように、コンピュータで実数を表現する場合、表現できる範囲に限界がある。

（IBM方式）

単精度・倍精度ともに最大の正数は、約 $7.023701\times 10^{75}$ であり、最小の正数は、約 $5.39761\times 10^{-79}$ である。

（IEEE方式）

単精度の場合、最大の正数は約 $6.80565\times 10^{38}$ である。最小の正数は、約 $5.87747\times 10^{-39}$ である。
倍精度の場合、最大の正数は約 $1.79769\times 10^{308}$ である。最小の正数は、約 $2.22507\times 10^{-308}$ である。

コンピュータには以下に述べる4つの弱点がある。

１．丸め誤差の発生

２．オーバフローとアンダーフロー

３．情報落ち

４．桁落ち

「数値計算の注意点」をウィキ内検索

最終更新：2011年11月29日 18:50