- 締切済み
化学の有効数字計算についてです。
結晶格子の問題で密度絡みのときに 結晶格子の体積を出しますよね。 その時一辺の長さが5.63×10^-8 cmだった時 (5.63×10^-8)^3 をして体積をだします。 この時問題文に有効数字3桁で求めよとあったらどこまで計算すればよいのでしょうか? (5.63×10^-8)^2 =31.6969×10^-16 (5.63×10^-8)^3=178.453547×10^-24 となるのですが、 「有効数字の計算は途中計算は求める有効数字桁数+1桁まで求める」 というルールを知っているのですが、どう使えばよいのかよくわかりません。 この場合(5.63×10^-8)^2=31.6969 31.6969を31.70と5桁目の6を四捨五入して計算してよいということなのでしょうか。 回答よろしくお願いします。
- みんなの回答 (2)
- 専門家の回答
みんなの回答
- 1o1325
- ベストアンサー率88% (8/9)
回答No.2
> 31.6969を31.70と5桁目の6を四捨五入して計算してよいということなのでしょうか。 はい。それでいいです。
- mbx
- ベストアンサー率40% (16/40)
回答No.1
> 求める有効数字桁数+1桁まで求める」というルールを知っている 使い方がわからないのは、おそらく上の意義がわかっていないからだと思います。 一度いろいろな計算問題で試してください: それより細かな (桁を掘り下げた) 数値で計算しても、計算結果の有効数値部分に影響しないことがわかると思います。 だから、計算基材にそれより細かな桁が不要なのです。 逆に、基材のその最後の一ケタの数値を変えてやってみてください。 その場合は、計算結果の数値に影響がある (場合が出る) ことがわかると思います。 だからです。 ちなみに、例に出されたのは計算の順がおかしいです。