Nino add up @Wiki
誤差
最終更新:
nino-add-up
-
view
丸め誤差
実数型は近似的に実数を表現するため,長い小数は有効数字できられてしまう.これによって生じる誤差.
類似したものとして・・・10進法では0.1や0.2などきりがよくても2進法では無限小数で表現される.
桁落ち
非常に近い実数の引き算を行ったときに,上位の桁がキャンセルしてしまい有効数字が短くなってしまうこと.
積み残し
有効な桁数以上の差(例えば,ものすごく大きい数とものすごく小さい数)の和をとると,小さい方の値が無視されること.例えば,有効数字4桁で1234と0.1234の和をとると1234となってしまう.
[PR] メールフォーム