- ベストアンサー
有効数字の除法
有効数字の除法ってどういうメカニズムで二数の少ない方の桁数に決まっているのでしょうか?
- みんなの回答 (2)
- 専門家の回答
質問者が選んだベストアンサー
804041の8は元の割り算する前の数値の不確かさからすると1程度誤差を含むが、 実際の計算を行うと商に大きな影響を与えるというわけではなく、1程度の誤差に収まるということです。 そのため、その桁までを有効数字にしているのではないでしょうか?
その他の回答 (1)
noname#157574
回答No.1
例えば1234÷567(4と7は不確かな値)を計算してみれば分かる。
補足
http://fnorio.com/0034significant_figure1/significant_figure.htm 例えばこのサイトの例8では最高位が不確かな値で、それに対して商を立てているからそのひとつ前までの商を有効数字とする、とあるのですが、 例9では最高位が不確かな数値である804041に対して商を立てたところまで 有効数字としていて混乱しています。