情報の基礎理論 - yasuwiki

２進数の補数

00101110
↓反転
11010001	1の補数
+1
11010010	2の補数

固定少数点数

• 小数点位置を固定した記数法
• データの保存単位であるワード(word)ごとに、最下位ビットの右側を小数点位置として整数を表す。
• １ワードを16ビットとした場合には、最上位ビットは符号ビットとして使用され、残り15ビットで数値部を表現する。

• 2の補数で負数を表現すると、次の範囲の10進数をを表現できる

  -2^15 ～ 2^15ー1 = -32,768 ～ 32,767
  

• 1ワードをnビットとした場合、表現できる範囲は次のようになる

  -2^(n-1) ～ 2^(n-1)-1
  

浮動小数点数

• 実数型のデータを表現するときに使われる
• (例)：123 = 0.123×10^3

  0.123	×	10	^	3
  仮数		底		指数

IEEEの浮動小数点数の形式

• S:符号部（1ビット）
  • 仮数部で表現されたデータの正負を表す（0:正,1:負）
• E:指数部（8ビット）
  • 2を基数として+127する（バイアス127）
• M:仮数部（23ビット）
  • 仮数-1の2進小数を表す（1.xxx … の小数部）

精度と誤差

• 丸め誤差
  • 決められた表現範囲に収まるように、最下位桁からあふれた数を削除し、残りの部分を指定された規則で調整することを「丸め」といい、丸めにより生じる誤差を丸め誤差という。（四捨五入、切り上げ、切り捨て）

• 打切り誤差
  • 計算処理が完全にまたは自然に終了する前に、指定された規則にしたがって打ち切ることによって発生する誤差を打ち切り誤差という。

• 桁落ち
  • ほぼ等しい値の浮動小数点同士の減算を行うと演算結果の有効桁数が極端に減少してしまうことがある。

• 情報落ち
  • 浮動小数点の演算は、２値の指数部を指数の大きい方の値にそろえて行う。そのため、絶対値の大きさに極端に差のある２値の演算を行うと、小さい方の値では仮数部の値が大きく右側にずらされるため、表現すべきビット情報が欠落してしまう。

• オーバーフロー
  • 非常に大きな値、または非常に小さな値同士の掛け算を行うと、指数部の表現範囲の上限を超えてしまうことがある。

• アンダーフロー
  • 0に非常に近い、つまり絶対値が非常に小さい値同士の掛け算を行うと、指数部の表現範囲の下限を超えてしまうことがある。