• 締切済み

有効数字  特に、約分・計算順序について

とある問題で、     9.8 × ( 24 × 60 × 60 )^2   ━━━━━━━━━━━━━    ←÷の分数表記です    4 × ( 3.14 )^2 × 6.4 × 10^5 という数の計算がありました。 どう計算するのがもっとも精度がいいのでしょうか? ※ 有効数字は 9.8  2桁              3.14 3桁             6.4  2桁             24 × 60 × 60 は正確な値としてよい。              4   は正確な値としてよい。 なお、値の精度は、誤差○.○~□.□があるから、ではなく、桁数のみで判定してください。(大学入試的な意味で) ちなみに、手元の答えでは≒2.9 × 10^2となっています。私は初め2.3 × 10^2になりました(←計算間違いではなく 泣 ) 計算途中の切り捨て、約分、計算の順序、四捨五入、等、できるだけ詳しく計算過程を記述してほしく思います。

みんなの回答

  • yokkun831
  • ベストアンサー率74% (674/908)
回答No.1

私でしたら次のように計算します。 9.8 × ( 24 × 60 × 60 )^2=9.8×7.46×10^9=7.31×10^10 4×3.14^2×6.4×10^5=4×9.86×6.4×10^5=4×63.1×10^5=2.52×10^7 (7.31×10^10)/(2.52×10^7)=2.9×10^3 有効桁数の考慮があれば,計算順序で大きく差が出ることはありません。 大切なことは,途中結果は有効桁+1桁を残すことです。途中結果から四捨五入して有効桁数に丸めてしまったら,誤差が積み重なってとんでもない差が出てしまいます。

noname#164557
質問者

お礼

計算途中で有効桁+2の部分を四捨五入して計算していき、約分は使わないようにして最後に除法。ということですかね。 ありがとうございました。

関連するQ&A