有効数字

求めたい数値が有効数字として得られているか吟味するのは

大変大事なことだ。もし誤差範囲の値しか得られていなければその値は信用できない。

ここで有効数字における二つのケースだけ簡単に示す。

ケース１

有効数字３桁 3.512316 <<--信用できるのは3.51まで

有効数字３桁 3.516789 <<--信用できるのは3.51まで

似たような値二つを引くと 誤差範囲しか求めることが出来ない。

ケース２

コンピュータの世界では有効数字の桁が決まっている。

有効数字の桁数と計算する数値によって

大きな値から小さな値を引いても足しても無視されたり無視しなかったりする。