有効数字の取り扱いについて

質問

閲覧ありがとうございます。拙い質問ですが、よければお付き合いください。

有効数字についての質問です。

有効数字３桁で
(2.10*8.31*10^3*373)/(1.01*10^5*1.11)という計算をしたのですが、
私は
2.1*8.31=17.451≒17.45
17.45*373=6508.85≒6508
6508/1.01=6443.5≒6443
6443/1.11=58.04≒58.0
と回答したのですが、実際の回答は58.1となりました。

有効数字3桁を提示されていた場合、各計算後に4桁より下を切り捨てるという作業を行っているのですが、この操作は正しいのでしょうか？

もしよければ、正しく回答の値が出る計算順序、有効数字を考えるタイミングなどを教えていただければ幸いです。

よろしくお願いいたします。

回答No.5

ddtddtddt · ベストアンサー

#1さんの仰る通りですが、昔は筆算でやってたため、計算途中の筆記量を減らすために（有効数字＋2）桁を四捨五入し、（有効数字＋1）桁で手計算してました。

　積（除算含む）しか現れない場合、数値の頭から（有効数字＋1）桁で計算し、結果の（有効数字＋1）桁目を四捨五入すれば、OKです。

　加法（減法含む）も現れる場合は、計算対象の絶対値最小の数値が問題になります。いわゆる桁落ちという奴です。だからたいてい、有効数字は「小数以下3桁まで」とかの条件がつきます。加法（減法）の場合は、加減の回数も誤差に影響します。
　例えば加減の回数が100＝10^2程度なら、「小数以下3＋2＋1桁」で計算し「小数以下4桁」で四捨五入するのが安全だったのですが、面倒なので、「小数以下4桁」で計算し四捨五入するのが普通でした。理由は、人間が筆算で行える加減の回数なんて、たかが知れてますから。つまり加減の回数は10回以下くらい、というわけです(^^;)。

回答No.4

takochann2

通常は四捨五入だと思います。計算は、誤差とか気にせずに可能な限り数字に正確に電卓で行い、最終数値を四捨五入です。計算途中で切り捨てや四捨五入を繰り返すごとに誤差が大きくなってゆきます。

回答No.3

asuncion

何か自分が習った方法とは違ってるような気がしなくもない。記憶違いか？
有効数字3桁で
(2.10*8.31*10^3*373)/(1.01*10^5*1.11)
を求めたい。
2.10 * 8.31 * 10^3 = 1.75 * 10^4（計算するたびに3桁にそろえる）
1.75 * 10^4 * 373 = 6.53 * 10^6（分子はまとめて計算する）
1.01 * 10^5 * 1.11 = 1.12 * 10^5（分母はまとめて計算する）
6.53 * 10^6 / 1.12 * 10^5 = 5.83 * 10

回答No.2

ken-nosuke

①有効数字3桁とは、頭から4桁目を丸め（四捨五入）して求めたものです。
従い１７．４５１⇒１７．４５ではなく　１７．５です
６５０８．８５⇒６５０８ではなく　６５１０です
②有効数字３桁の答えを求める場合は、元の数字をそのまま計算し最後の答のみ３桁にします。
答はＮｏ．１さんと同じです

回答No.1

hiro_1116

切り捨てるのではなく、四捨五入でしょう。

素直に(有効数字を気にせず)計算すると 58.06103827（Excelでの計算値）となりますので、それを有効数字３桁に丸めれば 58.1 となりますね。