有効数字 相対誤差

質問

いまプログラムを組んでいてある方程式のxを有効数字６桁で求めるのですが、なぜこのｘの相対誤差が10^-6より小さくなれば有効数字６桁で求めたことになるのかが理解できません。

お教えください。よろしくおねがいします。

回答No.1

FEX2053

通常、コンピュータ内の数値計算は浮動小数点で行いますでしょ
http://ja.wikipedia.org/wiki/%E6%B5%AE%E5%8B%95%E5%B0%8F%E6%95%B0%E7%82%B9%E6%95%B0

ですので数値は（非ゼロの場合）

A × 10 ^ (-n)　　ただし 1<A<9.999999

で扱いますでしょ？　だからです。