有効数字について

質問

有効数字についての質問です。

有効数字２ケタで答える問題があるとします。
途中の計算がいくつかに分かれる場合は、３ケタ目まで計算して進めていき、
最後に出た答えを四捨五入する、

と習ったのですが、

「途中の３桁」というのは、４桁目まで計算して四捨五入するのか、３桁目で計算をやめて以降を切り捨てるのかがわかりません。

よろしくお願いします。

回答No.1

Mr_Holland · ベストアンサー

＞「途中の３桁」というのは、４桁目まで計算して四捨五入するのか、３桁目で計算をやめて以降を切り捨てるのかがわかりません。

　後者の3桁目で計算を止めて以降切り捨てをしてください。
　例えば続けて計算すると　3.249・・・　となるものは、3.24までで止めて「４」で四捨五入します（3.2）。
　理由は有効数字2桁で答える場合、3桁目が5以上なら切り上げ、5未満なら切り下げるからです。もし3.249・・・を4桁目で四捨五入してから3桁目でも四捨五入してしまうと　3.249・・・⇒3.25⇒3.3　となっておかしなことになりますからね。

　よろしければ参考にしてください。

お礼

ありがとうございます。