アーキテクチャ - nkym_memo @ ウィキ

数値表現による誤差

• 丸め誤差 指定された桁数で演算結果を表すため、最小桁より小さい部分に対して切り捨て、切り上げ、四捨五入することによる誤差。

• 打ち切り誤差 浮動小数点数の計算処理の打ち切りを指定した規則で行うことによって発生する誤差

  ex.)
  10進数の0.4は2進数の0.01100110…になり、有限桁数で表現できない。
  

• 桁落ち 大きさがほぼ同じ数値の減算により、有効数字の桁数が激減すること。

  ex.)
  0.11111111- 0.11111110 （←有効桁数 8桁）
  = 0.00000001（←有効桁数 1桁）
  

• 情報落ち 接待値の大きな数値に絶対値の小さな数値を加算や減算を行なった場合、 絶対値の小さな数値が加減算の結果に反映されなくなることによる誤差。

  ex.)
  1111.1
  + 0.000001
  = 1111.1　（← 0.000001が無視される）
  

• オーバーフロー 演算結果がコンピュータで表現できる最大絶対値を超えることにより生じる誤差。

• アンダーフロー 演算結果がコンピュータで表現できる最小絶対値の数よりも小さくなることにより生じる誤差。

---