有効数字の計算

質問

有効数字の計算です。
私なりに回答してみましたが、正解かどうかわかりません。
よろしくお願いします。

(1)2.34+5.5
=2.3+5.5
=7.8

(2)901+278.62
=901+279
=1180

(3)715.89-14.839
=715.89-14.84
=730.73

(4)5.3*1.8
=9.5

(5)303*33
=9.999*10＾3
=10.0*10＾3
=1.0*10＾4

よろしくお願いします。

回答No.1

hitokotonusi · ベストアンサー

有効数字を計算するときは、

(a) 計算途中は、かならず一桁余分に使う
(b) 有効桁への数字の丸めは最後に一度だけ行う。

これを守りましょう。

結果はかわらなくても(1)～(3)はこれに抵触しています。
計算の過程を覚えることが主目的ですので、上の(a)(b)はまもりましょう。

(5)は難しいところですが、

＞(5)303*33=9.999*10＾3

では有効数字2桁で右辺の上から2つ目の9の桁(100の位)に誤差があると考えられますから、私ならこの100の位までを有効と取ります。したがって、最終的には3桁で

(5)303*33=9.999*10＾3＝1.00×10^4

このへんは有効数字の計算法の限界みたいなところで、
本当なら標準偏差がほしいところです。

回答No.2

htms42

（４）（５）は並べて考えてみる必要があります。
（５）は＃１様の回答のようにしていいだろうと思います。
　１．００の最期の０は怪しいですがまるっきり怪しいわけではありません。±０．０１ぐらいを見込んでいていいのではないでしょうか。最後の桁が１動くぐらいの可能性は含んでおくということです。（４）で９．５としたことに比べたらずれはかなり小さいです。

（４）の９．５は±０．３ぐらいの可能性があります。
（４）で９．５を認めるのであれば（５）で１．００とするというのも認められるのです。

具体的に幅を見積もるのであれば電卓で次のような計算をすればいいです。

　　　３０３．４×３３。４＞３０３×３３＞３０２．５×３２．５
　　　１０１３３．・・＞３０３×３３＞９８３１．・・

　　　ついでに
　　　５．３４×１．８４＞５．３×１．８＞５．２５×１．７５
　　　９．８２・・＞５．３×１．８＞９．１８・・

（５）で１．００×１０^4とした場合よりも（４）で９．５とした場合の方が最後の桁の数字の信頼性が低いです。

　有効数字の計算では全く信用できない数字であるというのでなければ採用することにしています。最後の桁が１とか２変動する可能性があったとしても捨ててしまうのはもったいないという立場です。でもその数字を次の計算に使うとなると注意が必要になります。計算を繰り返すと誤差は拡大して行きます。
「～桁×～桁＝～桁」という式に頼った計算を機械的にやっているだけでは不足だということになります。

１０と９９はどちらも有効数字は２桁だと言いますが数字の精度という点では大きな違いがあります。
１０は２桁の中で一番精度の低い数字です。９９は２桁の中で一番精度の高い数字です。これは最後の桁の数字がその一つ下の桁を四捨五入で丸めて得られたものだということを考えれば直ぐに出てくることです。２つの数字をかけ合わせて得られる数字の精度は材料となった２つの数字の精度よりも低いです。

電卓を使わなくてもある程度の判断はできそうです。

（４）３．３×１．８＝９．５
（５）３０３×３３＝１．００×１０^4

どちらも元の数字の中の精度の低い方の数字よりも精度が高くなっています。
こういうことは無いはずです。
従って
「（４）９．５の５はかなり動くだろう、（５）１．００の最後の０も動くだろう」
と予想することができます。
（４）１．８の精度が９．５の精度に変わると精度が５倍ほど上がっていることになります。
（５）３．３の精度が１．００になると３倍ほどの上昇です。
従って
「９．５の場合の動き幅の方が１．００の場合の動き幅に比べて大きいだろう」
という予想をすることができます。