数値データ

固定小数点

小数点の位置を固定する方法。最上位ビット(MSB)に置くときと、最下位ビット(LSB)に置くときがある。MSBに置いたら整数やな。負の数をどう表すか。次の方法がある。

符号と絶対値表示

単に絶対値表示ともいう。先頭の1ビットが正負の符号を表し、残りのビットが絶対値を表す。いちばん単純でわかりやすい。nビットなら2進数で(n-1)桁の数値を表現できる。でも+0と-0の二つの0がでてしまうんやな。だからあまり使われてない？

+2 0 010

↓符号ビット

-2 1 010

1の補数

正の数Nに対し各ビットの0と1を反転させて得られるビットパターンを-Nとする方法。厳密な定義ではすべて1のビットパターンからNを引いて得られるビットパターン。結果は0と1を反転させたものといっしょになる。結局これも最上位ビットが符号を表すことになる。+Nと-Nを加えると0になることからこれでうまくいくことがわかるだろう。+0、-0の区別はないけど全部1も0なんだ。そのせいかどうかわからないが、1の補数はあまり使われていない。

+2 0 010

-2 1 101 +3-2 = (0011)+(1101) = 10000 => 0001 桁上がりをもってくる。

2の補数

1の補数の最下位ビットに1を加えて得られる数。一般的に用いられている方法。これも最上位ビットが符号になる。でも全部1のビットパターンが使える。ので1の補数よりいいらしい。

+2 0 010

-2 1 110 +3-2 = (0011)+(1110) = 10001 => 0001 桁上がりを消すだけでいい。

バイアス表示(ゲタ履き)

本当の数値にある固定値を足した値で表現する方法。例えば3を足すことにする。0は3になって、-3は0になる。0がすべて0のビットパターンにはならないけど、負の数から正の大きい数の順に値が大きくなってわかりやすい。

+2 0100

+1 0011

0 0010 ← 2をゲタばき

-1 0001

-2 0000

浮動小数点

数xを次のように表す。

<p>

x = f * r

^e

</p>

f が仮数、rが基数、eが指数。基数はほとんど２が多い。

浮動小数点数では数値を一意に表現できないので、正規化しないといけない。

仮数

195.34 = 1.9534 * 10^2 の 19534 が仮数。仮数そのものは固定小数点表示で行う。符号と絶対値表示が多いらしい。

基数

2がほとんど。

指数

指数も固定小数点表示。バイアス表示が多いらしい。

正規化

仮数部のMSBが1になるように仮数と指数をずらすこと正規化という。ムダなビットがなくなるからね。

オーバーフローとアンダーフロー

指数部の表現範囲を越える大きい数がオーバーフロー、その逆がアンダーフロー。指数部は表現できる数の範囲、仮数部は数の精度に関係する。

IEEE形式

仮数部と指数部のビット位置を決めた標準。

0|1 8|9 31 0|1 11|12 63

----------------------- ------------------------

|S|exp | f | |S| exp | f |

----------------------- ------------------------