高校物理の有効数字について教えてください。

質問

問題
直径20cm、長さ30cm、温度25℃の円柱形の鉄がある。鉄の比熱は0.45j/g・k、密度は7.9g/cm^3、円周率は3.14として以下の問題に答えよ。

1)体積を求めよ
2)質量を求めよ
3)熱容量を求めよ

自分の解答
方針
有効数字はすべて2桁(?)ただし円周率は3.14のまま計算し最後にあわせる
1)10^2*3.14*3.0*10=9420≒9.4*10^3 (cm^3)
2)9.4*10^3*7.9=74260≒7.4*10^4 (g)
3)25℃=298K≒3.0*10^2K
7.4*10^4*4.5*10^-1*3.0*10^2

※ここで、7.4*4.5=33.3です。
33.3*3.0=99.9≒1.0*10^2となりますが、
33.3を有効数字2桁に直し計算すると33*3＝99=9.9*10となります。
どちらが正しいのでしょうか？

回答No.3

sanori

(2)
丸めた結果を使えば、9.4E3*7.9 = 74206 = 7.4E4 [g]
丸めていない数字を使えば、9.42E3*7.9 = 74418 = 7.4E4 [g]

(3)
熱容量の計算には「２５℃」は関係ありませんよ。

丸めた結果を使えば、7.4E4*0.45 = 33300 = 3.3E4 [J/K]
丸めない数字を使えば、74418*0.45 = 3.3E4 [J/K]
しかし、そこまでしなくてもよく、＃２様のおっしゃるとおり、１桁多めに取れば十分で、
7.44E4*0.45 = 3.3E4 [J/K]

以上、たまたま、丸めた数字を使っても、丸めない数字を使っても同じ結果になりました。

なお、
少なくとも私の高校時代は、計算に丸めた数字を使うことによって、末尾の数字に若干のずれが生じても、正解として扱われていました。

回答No.2

BookerL

＞　1)10^2*3.14*3.0*10=9420≒9.4*10^3 (cm^3)
＞　2)9.4*10^3*7.9=74260≒7.4*10^4 (g)

　1)の結果を 2)の計算に使っていますが、このときは 9.42*10^3 として次の計算に使うようにします。

「中間結果では１桁多めに有効数字を取る」

http://kuchem.kyoto-u.ac.jp/ubung/yyosuke/uebung/sig_digit.htm

回答No.1

A-Tanaka

こんにちは。

問題に有効桁数が出ていますね。一番小さい数値は、有効桁小数点以下２桁ですが、一番大きい数値は、有効桁数小数点１桁です。

精度論的なことから説明しておきますと、小数点以下の有効桁数において、一番大きな数値を採用することが正しいのです。なお、2桁まで求めても、最後の桁には誤差を含みます。よって、この場合には小数点以下2桁まで計算して、四捨五入することが正しいはずだと思います。

では。