• ベストアンサー
※ ChatGPTを利用し、要約された質問です(原文:有効数字)

有効数字の扱いについて

このQ&Aのポイント
  • 有効数字の扱いについて疑問があります。
  • 問題の解答では、原子の質量を求める際に有効数字を二桁にしていますが、それが正しいのか疑問です。
  • 有効数字を二桁にすると、最後の計算結果に誤差が生じる可能性があるため、途中で有効数字を変更する必要があるのではないかと思います。

質問者が選んだベストアンサー

  • ベストアンサー
  • f272
  • ベストアンサー率46% (8467/18126)
回答No.3

> どちらがあっているのでしょうか? 3.55≦<3.6<3.65 8.95≦<9.0<9.05 ですから60.06193969≦(3.6*10^(-8))^3*9.0/4*6.0*10^23=62.9856<66.01132219 のはずです。したがって有効数字2桁なら63とすべきです。 このように有効数字は時代遅れの考え方であって、大学受験用だけのローカルルールと思っておく方がよい。 > 途中で有効数字2桁にして計算を続けて良いのでしょうか。 よくない。途中は最低でも有効数字3桁で計算する。

0006k
質問者

お礼

確認したら計算ミスをしていました、、 答えは63で合っていたのですね。ありがとうございます!

その他の回答 (4)

回答No.5

追記。 「どちらでも良い」と回答しましたが、計算途中で数値をいじるのは良くない(誤差が大きくなる)ので、他の回答の通り「最後まで数値を弄らない」方が正しいです(当方の回答の冒頭に書いた通り)

0006k
質問者

お礼

ありがとうございます!!

回答No.4

有効数字の指定された数値の剰余算のルールは「剰余算の結果を、一番有効数字が少ない物に合わせる」ので、 (((3.6*10^-8)^3)*9.0/4)*6.0*10^23 は、2桁×2桁×2桁×2桁÷無限桁×2桁の剰余算になります(計算途中の数値は四捨五入したりしません。桁が増えてもそのまま計算します) 一番桁数が少ないのは「2桁」なので、最終的に2桁の数値を求めます(定数「4」は有効数字無限桁として扱います) 途中で四捨五入も何もせずに、そのまま (((3.6*10^-8)^3)*9.0/4)*6.0*10^23 を計算すると、62.9856になります。 有効数字は「2桁」つまり「十の位と一の位が有効」なので、小数点第1位の「9」を四捨五入して「63」が求まります。 >解答では、原子の質量を求める時点で四捨五入して2桁にしてしまっていますが、それでは最後にいくにつれて誤差が大きくなると思います。 計算した素の値は 4.19904*10^-22 なので、この時点で有効数字2桁にして 4.2*10^-22 にしまっても誤差は小さいです。 >どちらがあっているのでしょうか? 「4.19904*10^-22」も「4.2*10^-22」も、どっちも合ってます。 >途中で有効数字2桁にして計算を続けて良いのでしょうか。 「4.19904*10^-22」を、有効数字2桁の「4.2*10^-22」にして計算を続けても良いです。どちらも、最終的には「63」が求まります。 なお「62」が求まるのは「どこかで計算違いをしている」と思います。

0006k
質問者

お礼

計算ミスをしていました。ありがとうございます!

  • hiro_1116
  • ベストアンサー率30% (2555/8267)
回答No.2
回答No.1

ケイ酸途中での四捨五入は良くないですね。おっしゃる通り。 良くて求める有効数字+1桁です。 なんなら計算せずに最後にまとめてしたほうがよかったりします

0006k
質問者

お礼

ありがとうございます。

関連するQ&A