有効数字の計算について

質問

密度が0.94g/mLで、質量パーセント濃度が36％のエタノール水溶液のモル濃度は何mol／Lか。という問題があります。

　解き方は、エタノールの分子量を46とすると、求める計算式は、
　940　×　(36／100)　÷　46　になることはわかります。今回ききたいのは、有効数字の扱い方についてです。

　940　×　（36／100）＝338.4　です。問題式より、有効数字2桁で聞かれているので、私はここで338.4を338にしました。

　そして、338÷46≒7.34　なので、答えは7.3mol/Lだと思ったのですが、回答をみると、7.4mol／Lでした。

　338.4をそのまま用いて、338.4÷46≒7.35　となり、答えは7.4mol／Lとなります。

　しかし、途中の段階での結果を次の計算に用いる場合には、答えに要求されている桁数より1桁多くとって計算するのが決まりなので、なぜ、わたしの計算の仕方が間違っているのかわかりません。
それとも、回答のほうが間違っているのでしょうか？

　もしよろしければ教えてください。よろしくお願いします。

回答No.3

windwald · ベストアンサー

そのような、計算途中における四捨五入によって生じる誤差＝丸め誤差といいます。
丸め誤差は丸め操作を行うごとに拡大することがあります。

dreamchildlenさんの計算結果と模範解答の答えの違いはこの丸め誤差に起因するものです。
通常この程度の丸め誤差は許容されます。

ですが、計算途中だと分かっている計算(たとえばここでいう940×(36/100)は敢えて計算せず、
放っておくのもひとつのテクニックで、計算を素早く正確にこなすコツです。
まあ、10で割るくらいは計算ミスしないでしょうから、
940×36/100＝94×36/10くらいにして。

お礼

回答ありがとうございます。私も、この程度の誤差は許容されると思います。しかし、0.1違うだけでずいぶん違う印象をうけますね。。

回答No.2

ORUKA1951

Q:密度が0.94g/mLで、質量パーセント濃度が36％のエタノール水溶液のモル濃度は何mol／Lか。
　3.6×9.4×(1/4.6)×10⁻¹×10⁻¹×10²
= 3.6×9.4×(1/4.6)
= 1.8×9.4×(1/2.3)
= 0.9×4.7×(4/2.3)
= 7.35***
≒ 7.4 (mol/L)
＞有効数字2桁で聞かれているので、私はここで338.4を338にしました。
　なぜ、わざわざ不正確度を上げているのですか？？
　そのまま［940×(1/36)］を一つの数(すう)として計算して、計算は最後に行なって丸めます。
※途中で丸めたらいけません。

補足

解答ありがとうございます。なぜ、338.4を338にしたかというと、参考書に、
「『有効数字n桁で答えよ』と指示された場合、途中は有効数字n+1桁まで求め、最終的に四捨五入によってn桁にします。」と書かれていたからです。
　しかし、338.4を338にすることが、不正確度を上げていることになぜなるのかがよくわかりません。はじめは有効数字2桁で言われているので、計算結果ででてきた4桁目まで計算にいれてしまうと、それこそ不正確になってしまうのではないかと思うのですが・・。

回答No.1

noname#209171

こんにちは。

３３８．４の有効数字は　３４０

３４０　÷　４６　≒　７．３９　≒　７．４

補足

解答ありがとうございます。この問題では、途中の計算結果を、3桁目で四捨五入するのは適当ではないと思います。有効数字2桁で聞かれているので。。。