有効数字の扱いについての質問です

質問

有効数字の扱いについての質問です

有効数字を2桁として計算するとき、途中計算では3桁目まで考えて、最後にその3桁目を四捨五入する
と考えて
19584÷471 ……(1)
を
19500÷471
で計算すると41.4…となって41となりますが、4桁目以降無視しなかった(1)を計算すると41.5となって、42となり、結果が異なってしまいます

何故ですか？？

電卓使ったので、上の計算が間違ってるということは無いです

回答No.3

chie65536（@chie65535） · ベストアンサー

＞結果が異なってしまいます
＞何故ですか？？

19584を19500にしちゃったからです。

19584は、195×100と、196×100と、どっちの方が近いですか？

有効数字に２桁にする（正確には「５桁から２桁減らして、有効数字を３桁にする」ですが）と言うのは「○○×100の数値にする」って事です。

なので、近いほうの196×100で計算しないといけません。

19600÷471＝41.61...となって、3桁残して四捨五入すれば41.6、2桁残して四捨五入すれば42になり、19584のまま計算した時と同じになります。

お礼

なるほど、わかりました！

有効数字って慣れないと難しいですね

ありがとうございました！

回答No.4

shuu_01

No.1 です

＞　改めて3桁目も四捨五入するのに、
＞　4桁目でも四捨五入していいんでしたっけ？？

に対する答えは No.3 さんの回答がわかりやすいです

ただ、No.2 さんの言うように、誤差は出ますので、
結果が多少違ってくる場合もあります

お礼

了解しました！

ありがとうございました！

回答No.2

qwe2010

切り捨てたり、四捨五入をすれば、数字の誤差が出ます。
切り捨て、切り上げ、四捨五入これらを使うのであれば。

４１と４２の答えどちらもあっています、　許容範囲なのです。

お礼

ありがとうございます

どっちでもいいんですかね……

回答No.1

shuu_01

19584 を３桁にする時、４桁目は切り捨てではなく、四捨五入して、
19600 とするのが良いと思います。そうすると、
19600÷471 ＝ 41.6… となって42となります

補足

改めて3桁目も四捨五入するのに、4桁目でも四捨五入していいんでしたっけ？？