- ベストアンサー
有効数字の扱いについて
- 有効数字の扱いについて疑問があります。
- 問題の解答では、原子の質量を求める際に有効数字を二桁にしていますが、それが正しいのか疑問です。
- 有効数字を二桁にすると、最後の計算結果に誤差が生じる可能性があるため、途中で有効数字を変更する必要があるのではないかと思います。
- みんなの回答 (5)
- 専門家の回答
質問者が選んだベストアンサー
> どちらがあっているのでしょうか? 3.55≦<3.6<3.65 8.95≦<9.0<9.05 ですから60.06193969≦(3.6*10^(-8))^3*9.0/4*6.0*10^23=62.9856<66.01132219 のはずです。したがって有効数字2桁なら63とすべきです。 このように有効数字は時代遅れの考え方であって、大学受験用だけのローカルルールと思っておく方がよい。 > 途中で有効数字2桁にして計算を続けて良いのでしょうか。 よくない。途中は最低でも有効数字3桁で計算する。
その他の回答 (4)
- chie65536(@chie65535)
- ベストアンサー率44% (8740/19838)
追記。 「どちらでも良い」と回答しましたが、計算途中で数値をいじるのは良くない(誤差が大きくなる)ので、他の回答の通り「最後まで数値を弄らない」方が正しいです(当方の回答の冒頭に書いた通り)
お礼
ありがとうございます!!
- chie65536(@chie65535)
- ベストアンサー率44% (8740/19838)
有効数字の指定された数値の剰余算のルールは「剰余算の結果を、一番有効数字が少ない物に合わせる」ので、 (((3.6*10^-8)^3)*9.0/4)*6.0*10^23 は、2桁×2桁×2桁×2桁÷無限桁×2桁の剰余算になります(計算途中の数値は四捨五入したりしません。桁が増えてもそのまま計算します) 一番桁数が少ないのは「2桁」なので、最終的に2桁の数値を求めます(定数「4」は有効数字無限桁として扱います) 途中で四捨五入も何もせずに、そのまま (((3.6*10^-8)^3)*9.0/4)*6.0*10^23 を計算すると、62.9856になります。 有効数字は「2桁」つまり「十の位と一の位が有効」なので、小数点第1位の「9」を四捨五入して「63」が求まります。 >解答では、原子の質量を求める時点で四捨五入して2桁にしてしまっていますが、それでは最後にいくにつれて誤差が大きくなると思います。 計算した素の値は 4.19904*10^-22 なので、この時点で有効数字2桁にして 4.2*10^-22 にしまっても誤差は小さいです。 >どちらがあっているのでしょうか? 「4.19904*10^-22」も「4.2*10^-22」も、どっちも合ってます。 >途中で有効数字2桁にして計算を続けて良いのでしょうか。 「4.19904*10^-22」を、有効数字2桁の「4.2*10^-22」にして計算を続けても良いです。どちらも、最終的には「63」が求まります。 なお「62」が求まるのは「どこかで計算違いをしている」と思います。
お礼
計算ミスをしていました。ありがとうございます!
- hiro_1116
- ベストアンサー率30% (2555/8267)
- sokohakatonaku
- ベストアンサー率29% (196/658)
ケイ酸途中での四捨五入は良くないですね。おっしゃる通り。 良くて求める有効数字+1桁です。 なんなら計算せずに最後にまとめてしたほうがよかったりします
お礼
ありがとうございます。
お礼
確認したら計算ミスをしていました、、 答えは63で合っていたのですね。ありがとうございます!