有効数字の桁数が違う場合のプラス1桁の出し方

質問

有効数字の桁数がそろわない場合の掛け算・割り算は途中の計算は有効数字の桁数の最小のものプラス1桁で計算し、最後に四捨五入で有効数字の桁数の最小のものにあわせると書いてあります。次の場合、どちらが適当な計算といえるのでしょうか。（　）内は最終的に有効数字の桁数の最小のものに四捨五入して桁数を合わせて出した答えです。
ア．2.5×1.456=2.5×1.45　(3.6)
イ．2.5×1.456=2.5×1.46 (3.7)
また、次の場合はどうでしょうか。（最終的に有効数字の桁数は2桁とします）
ウ．x^2=2.456 x=√2.45 (x=1.6)
エ．x^2=2.456 x=√2.46 (x=1.7)
結局、最終的な有効数字の桁数の次の次の位の数字を四捨五入すべきなのかそれとも意味があまりないので捨てるべきなのか分らないのです。
悩んでいますので、どなたか教えていただけないでしょうか。よろしくお願いいたします。

回答No.2

noocyte · ベストアンサー

有効数字を計算する場合には，単に桁数の規則を覚えるのではなく，
基本原理を理解する必要があると思いますし，その方が四則演算以外
(三角関数，対数など) の計算などにも対応できます．

X＝2.5 (有効数字２桁)，Y＝1.456 (有効数字４桁) とは，
有効数字の次の桁が四捨五入されていると考えられるので，
X と Y の真値は次の範囲にあるといえます．

2.45 ≦ X ＜ 2.55
1.4555 ≦ Y ＜ 1.4565
(ここに書いた数値はいずれも有効桁数∞と考える．)

2.5×1.456 の有効数字を求めるには，まず X * Y の取りうる範囲を考えます．
X * Y が最小となるのは，X と Y がそれぞれ最小の場合なので
2.45 * 1.4555 ＝ 3.565975 (有効桁数∞)．

X * Y が最大となるのは，X と Y がそれぞれ最大の場合なので
2.55 * 1.4565 ＝ 3.714075 (有効桁数∞)．

したがって 3.565975 ≦ X * Y ＜ 3.714075 となり，小数点以下第２桁
以後の桁は，この範囲内では０～９のすべての値を取りうるため，
有効数字として全く無意味です．つまり 2.5×1.456 の有効数字は２桁であり，
四捨五入して 3.6 または 3.7 が正解となります．

「3.6 と 3.7 のどっちを書けばいいの？」と疑問が湧くと思いますが，
範囲の中心値は (3.565975＋3.714075) / 2 ＝ 3.640025 なので，
これを２桁に四捨五入した 3.6 でいいんじゃないかと思います．

> 有効数字の桁数がそろわない場合の掛け算・割り算は途中の計算は
> (中略)
> 最後に四捨五入で有効数字の桁数の最小のものにあわせると書いてあります。

上に書いたような考え方で一般の場合について計算すると，
乗除算結果の有効桁数は，元の数値の有効桁数の最小値になることが
数学的に証明できます．ただし最下位の桁には誤差を含みます．

参考：QNo.2642288 有効数字 (http://okwave.jp/qa2642288.html)

> 有効数字の桁数の最小のものプラス1桁で計算し、

この規則の出典は知りませんが，おそらく電卓やパソコンが普及する以前に
決められた規則でしょう．計算の途中結果も有効桁数に丸めてしまうと，
計算が進むにしたがって丸め誤差が増大してしまうので，
途中結果は丸めない方がいいのです．しかし筆算でそれをやるのは大変なので，
「プラス１桁」ルールを決めたのでしょう．
１回の乗除算ならそれで十分ですが，計算過程が長い場合には不十分だと思います．

今は電卓やパソコンが使えるので，途中結果は丸めずに計算すればいいのです．
(有効数字の計算に関するテストを受ける場合は別として．(笑))

また，Z＝2.456 (有効数字４桁) の場合，√Z の有効数字を求める問題については，

2.4555 ≦ Z ＜ 2.4565
1.5670035… ≦ √Z ＜ 1.5673225…

なので，√Z は 1.567 (有効数字４桁) でもいいと思いますが，
２桁にするならこれを丸めて 1.6 ですね．

お礼

noocyte様
私のような知識のないものにも分るていねいなご説明感謝いたします。
＞単に桁数の規則を覚えるのではなく
多分、このような姿勢はどんな場合にも必要なのだと思います。
＞今は電卓やパソコンが使えるので，途中結果は丸めずに計算すればいいのです．
確かにおっしゃるとおりだと思いました。それにもかかわらず、多くの本に、「途中の計算は有効数字の桁数の最小のものプラス1桁で計算」となっているのは考えてみると不思議ですね。πのように有効数字が無限大というものが入る場合があるせいでしょうか。
大変勉強になりました。ありがとうございました。

回答No.1

QZZZ999AAA

2.5×1.456 の問題は
2.5×1.456 = 3.640 と計算して → 答えは 3.6

x^2 = 2.456 の問題は
x = √2.456 x = 1.567 と計算して
→答えは x = 1.6 (有効数字の桁数は2桁とありますので)

となると思います。

お礼

QZZZ999AAA様
さっそくのご回答感謝いたします。
QZZZ999AAA様のおっしゃることは分るのですが、そうすると、「途中の計算は有効数字の桁数の最小のものプラス1桁で計算」というのに合わなくなると思うのですが。（もともとそうする必要はないという考え方もあるかもしれませんが）