有効数字 加減算 乗除算

質問

調べれば調べるほどよくわからなくなってきたので確認の意味もこめて質問させてください。

P = (a^2 - b^2 -c^2 )/2r　ーーーーーー(1)
という式があって
ａ＝ 26.0
ｂ= 5.0
c = 20
r = 102.0
という値だとすると
a^2 = 26.0^2 = 676
b^2 = 5.0^2 = 25
c^2 = 20^2= 4.0*10^2　
になり、
a^2 - b^2 =676-25=651
651 - c^2 =676-4.0*10^2 = 251　－－－－－(2)
となり、
Ｐ　＝　251/2*102.0 = 1.23039…　＝1.23　－－－(3)
という結果であってるでしょうか？

(2)、(3)の部分が特に自信がなくて困ってます。
また(1)式の分母の２ｒの２は有効数字を何桁と考えればいいんですか？
今回は無限大なのかなと思ってるのですが自信がありません。
アドバイスください。よろしくお願いします。

回答No.1

htms42 · ベストアンサー

前の質問の続きですね。

前の質問に答えましたのでこの質問にも答えます。
＞a^2 - b^2 =676-25=651
＞651 - c^2 =676-4.0*10^2 = 251　－－－－－(2)
＞Ｐ　＝　251/2*102.0 = 1.23039…　＝1.23　－－－(3)

（２）が違います。それにしたがって（３）も変わってきます。
ａ^２－ｂ^２＝６．５１＊１００
ｃ２＝４．０＊１００
（６．５１－４．０）＊１００＝２．５＊１００
になります。ｃ^２の精度が不足していますので６．５１の最後の１が意味を持たなくなりました。
したがってＰの値は１．２ということになります。
Ｐの分母の２は測定量ではなくて定義量だと思いますので有効数字の桁数は無限大として扱います。
直径＝２＊半径というときの２です。

お礼

回答ありがとうございます。

自分なりに理解してつもりで計算してたら、Ｐの分母の２はもしかしたら有効桁数が１桁なのかという疑問にぶちあたり、いろいろ調べたら違うということが判明したんですがそこからなんか混乱してしまってまた質問させていただきました。

前の質問にも答えていただいたのにお礼もせずすいません。
大変助かりました。ありがとうございます。