• ベストアンサー

有効数字の除法

有効数字の除法ってどういうメカニズムで二数の少ない方の桁数に決まっているのでしょうか?

質問者が選んだベストアンサー

  • ベストアンサー
回答No.2

804041の8は元の割り算する前の数値の不確かさからすると1程度誤差を含むが、 実際の計算を行うと商に大きな影響を与えるというわけではなく、1程度の誤差に収まるということです。 そのため、その桁までを有効数字にしているのではないでしょうか?

その他の回答 (1)

noname#157574
noname#157574
回答No.1

例えば1234÷567(4と7は不確かな値)を計算してみれば分かる。

tomatoaji
質問者

補足

http://fnorio.com/0034significant_figure1/significant_figure.htm 例えばこのサイトの例8では最高位が不確かな値で、それに対して商を立てているからそのひとつ前までの商を有効数字とする、とあるのですが、 例9では最高位が不確かな数値である804041に対して商を立てたところまで 有効数字としていて混乱しています。

関連するQ&A