数学の、測定値の計算です。

質問

次の計算をしなさい。ただし各数は測定値である。

(1)　０．３９１１＋６．５３　　　(2) ６５．３ー２．１３　　　(3) ５０．３×２．６

　（測定値ではない普通の計算との違いなど、解説もよろしくお願いします）

回答No.1

noname#212313 · ベストアンサー

測定値である、ということは、計算には有効数字という考え方を適用せよ、ということです。以下、一つの数値だけを求める簡易計算になります（厳密にやるなら、±0.02みたいな幅を付ける）。

> (1)　０．３９１１＋６．５３

　二つの測定値の加減算では、最も小さい桁を大きいほう（精度が粗いほう）で合わせるという操作をします。0.3911は小数点以下4桁、6.53は小数点以下2桁ですから、加算結果は小数点以下2桁にします。

　そうする方法ですが、計算前に0.3911の小数点以下3桁目を四捨五入してから加算するのと、加算後に小数点以下3桁目を四捨五入するのと、二つの方法があります。どちらで行っても計算結果は同じです。

１．0.3911+6.53≒0.39+6.53＝6.92　←先に四捨五入
２．0.3911+6.53＝6.9211≒6.92　←後で四捨五入

> (2) ６５．３ー２．１３

　四捨五入のやり方は(1)と同じです。

１．65.3-2.13≒65.3-2.1＝63.2
２．65.3-2.13＝63.17≒63.2

>(3) ５０．３×２．６

　乗除算では加減算とやり方が異なってきます。数値が有効数字として何桁あるかを見ます。少ないほうの有効数字の桁数になるように四捨五入します。50.3は3桁、2.6は2桁ですから、答は2桁にします。

１．50.3×2.6≒50×2.6＝130　←50.3を最上位の桁から2桁にするよう四捨五入
２．50.3×2.6＝130.78＝130　←130.78を最上位の桁から2桁にするよう四捨五入

　どちらも一度だけ2桁に直す操作で済んでいます。しかし、もし56.6×2.6だったらどうなるでしょうか。

１．56.6×2.6≒57×2.6＝148.2≒150　←56.6を2桁の57にし、乗算結果も2桁に直した
２．56.6×2.6＝147.16≒150　←そのまま乗算し、答を上から2桁に直した

　このように、有効数字を揃えてから乗算しても、さらにまた有効数字に直す必要が出てきます（除算でも同様）。

　筆算では有効数字に合わせて桁数を少なくしてからのほうがやりやすいでしょうけれど、電卓やPCの表計算ソフトを使うときは有効数字無視で計算しておき、最後に出た答を有効数字に合わせてしまうのが間違いを起こしにくくなります。

P.S.

　今はまだ出てこないと思いますが、測定された数字の個数が極めて多いときは、計算順序に注意が必要だったります。例えば、測定値が1億1個あって、一つだけが123（小数点以下0桁）、残りが0.1（小数点以下1桁）だとします。それを全部足すとして、先に0.1を0と四捨五入してしまうと、1億個の0.1（合計1000万）が消えてしまいます。そういう場合も含めた有効数字と誤差の扱い方は、いずれ習うかもしれません。

お礼

わかりました、どうも有り難うございました。

回答No.2

High_Score

(1)　０．３９１１＋６．５３
測定値が最終桁を四捨五入したものとすると、実際の値は0.39114かも知れませんし、0.39107かもしれません。最終桁のひとつ下の桁で誤差があるのです。誤差が±0.00005としましょう。つまり真の値は0.39105～0.39114の間です。

第２項の6.53も同様に考えると、6.533かもしれませんし、6.526かも知れません。測定誤差は±0.005と考えられます。真の値は6.525～6.534の間です。

足し算の結果の範囲は、6.91605～6.92154の間となります。誤差を計算すると、±0.0046
第１項の誤差±0.00005は吹き飛んでしまいましたね。第２項の誤差でほぼ決まってます。
誤差の大きな（有効桁数の小さな）方で全体誤差がほぼ決まり、精度の良い（有効桁数の大きい）数値の誤差は寄与しません。

計算するにあたっては、一番有効桁数の小さな数値に桁を合わせて計算しても結果はほぼ同じなのです。

以下は他回答の通りです。

お礼

どうも有り難うございました。