有効数字

質問

ごくごく基本的な有効数字の考え方は自分なりに調べました。
間違っていたら訂正してください。

加法・減法では
一番大きい最小位をもつ値にあわせる。
つまり
　12.3＋0.74＝13.0

乗法・除法では
一番少ない桁をもつ値にあわせる。
つまり
　　4.37×5.1＝22.3

ここからが質問なのですが、
加減法をした後にその数値を二乗する場合、
例えば
　（36.85－36.1）二乗＝0.5625
となった場合、有効数字はどうしたらいいんでしょうか？
理解のために出来れば解説つきでおねがいします。

回答No.1

BookerL · ベストアンサー

＞乗法・除法では
＞一番少ない桁をもつ値にあわせる。
＞つまり
＞　　4.37×5.1＝22.3

　ここは少ない桁は 5.1 の２桁なので、結果も２桁だけにして

　　4.37×5.1＝22

とします。乗法・除法では、小数点以下の桁数ではなく、全体の有効数字の桁数の少ないものに合わせます。

＞　（36.85－36.1）二乗＝0.5625

の場合、まず（　）の中で小数点以下１桁目までが有効なので、
36.85－36.1=0.8 と有効数字 １桁になってしまいます。ただ、この結果を用いて次の計算（乗法・除法）をするときには桁数を多く取っておくのが普通なので、とりあえず 0.75 の値を次の計算に使います。
　で、0.75^2 = 0.5625 となりますが、有効数字１桁なので、結果としては

0.75^2 = 0.6

と答えることになるでしょう。

※同じ程度の数の差を取ったりすると、有効数字の桁数が一気に小さくなってしまいます。

補足

早速の回答ありがとうございます。

＞乗法・除法では、小数点以下の桁数ではなく、全体の有効数字の桁数の少ないものに合わせます。

ということは、加減と乗除では桁数のカウントの仕方が違うと言うことでいいんでしょうか？

＞まず（　）の中で小数点以下１桁目までが有効なので

ということは、二乗した場合
乗法ではなく減法として有効数字を考えると言うことでしょうか？

もし
　（36.85－36.10）の二乗
となったときは答えは「0.56」となるということですか？

回答No.5

BookerL

#1です。

＞加減法をした後にその数値を二乗する場合、

　この順序で計算すると、先に回答したように精度が極端に落ちますが、#2さん、#3さんの回答にあるように、計算の順序を変えて精度を落とさないようにできる場合は、その方がいいでしょう。

＞もし
＞　（36.85－36.10）の二乗
＞となったときは答えは「0.56」となるということですか？

これも、括弧の中を計算してから２乗する、という順番で行なうのなら、有効数字２桁で 0.56 でいいと思います。

お礼

わかりやすく教えていただいてありがとうございます。
二つ目の質問にも答えていただいて、本当にありがとうございました。

回答No.4

tono-todo

あなたは将来立派な物理学者になれそうです。

順番に考えていけばよい。
３６．８５－３６．１＝０．８

０．８＾２＝０．６

これが答えです。

有効数字のことを考えて、どこまでの数字に意味があるのかは常に頭に入れておきましょう。
このように、ドンドン桁落ちして数字が意味をもたなくなりますので、計算の順番も重要な意味があります。

お礼

なるほど、最後に有効数字は何桁か考えるからわからなくなるのですね。
ご親切にアドバイスもいただきまして、どうもありがとうございました。

回答No.3

Willyt

与えられたデータの最小桁数を採るという動作を機械的にやっていて大丈夫だということです。ただしその際には手計算でもプログラムでも桁落ちに注意しながら演算を進めて行く必要があります。特にプログラミングでは細心の注意が必要ですね。プラスの数字とマイナスの数字を集めて、まとめて足し合わせ、その後に差を採るとか・・・。カッコ内で桁落ちすることが分かったら、カッコ内を計算せず、展開するとか・・・。いろいろありますね。面倒ならダブルプレシジョンにしてしまうのも手ですね。

お礼

よくわかりました！
二度もアドバイスをくださってありがとうございます。

回答No.2

Willyt

（36.85－36.1）^2 を計算するとき、カッコの中を先に計算すると桁落ちが起きます。しかし 36.85^2－2x36.85 +36.1^2 と計算したとすると、桁落ちはおきておらず、その結果の値は同じ0.5625 となりますが、これは0.562 を採用していいのです。その理由はこうです。上記の掛け算はそれぞれの数値が誤差を含んでいるとすれば
｛(36.85+δ1)－(36.1+δ2）｝^2となりこれは高次の微小項を無視して
0.5625+ 2x0.75(δ1-δ2)　となります。この式でδ2<0.01 ですから
0.5625(1+2δ2/0.5625) でカッコ内は３桁を概ね保証できます。従って、結果は0.562 まで取っていいということになるのです。δ1 はもう一桁小さな値ですから無視しました。

お礼

非常に論理的な解説付きの回答をありがとうございました。
ただ、結果だけを表にして書く場合は問題ないのでしょうか？
レポートとして提出する際に有効数字を考慮しなさい、とあらかじめ言われているのですが・・・