物理学実験の計算 有効数字

質問

大学で物理学実験をしていてふと疑問にかんじた点があったため質問したいと思います。
Ｖ１　＝　91.0〈V〉
Ｖ２　＝　22.0〈Ｖ〉
Ｖ３　＝　70〈V〉
Ｉ　　＝　2.16〈Ａ〉
Ｓ　　＝　15.092・・　＝１５（有効数字2桁のため）
Ｐ　　＝　14.2・・　　＝１４（有効数字2桁のため）

という測定結果がでたんです。
この結果からＱをだすんですが、
（ちなみに、Ｑ＝√（Ｓの二乗　－　Ｐの二乗）です）
この場合はＳとして１５を代入するべきか１５．０を代入するべきか迷ってます。Ｐについても同様です。

結果はＳ＝１５、Ｐ＝１４をいれると、Ｑ＝５．４という結果になり、Ｓ＝１５．０、Ｐ＝１４．２を代入するとＱ＝４．８になります。どちらが正しいのかわかるかた答えてくれるとありがたいです。
できれば詳しい解説もよろしくお願いします。

回答No.6

hitokotonusi · ベストアンサー

有効数字の計算には、いろいろ誤解があるようですね。

有効桁を[]で囲んで表記することにします。

途中の計算では有効数字+１桁を使うので、有効数字２桁では

S=[15].1, P=[14].2
S^2=[22]8, P^2=[20]2

したがって、Q^2を計算すると桁落ちが生じて

Q^2 = S^2 - P^2 = [22]8 - [20]2 = [2]6

その平方根は(※）

Q = [5].1

最終的に有効桁だけを残せば

Q=5

です。つまり、何桁使って計算しようが、この場合にはQで信用できるのは１桁だけです。

（※）有効数字二桁と有効数字二桁の掛け算の結果は、やっぱり有効数字は2桁になることを思い出せば、有効数字2桁の数の二乗を取ればやっぱり有効数字は2桁であることがわかると思います。つまり、xとx^2の有効桁数は同じです。平方根を取るというのはこの逆、つまり、x^2→xですから、やっぱり有効桁数はおおよそ変わらないことが理解できると思います。

もう少しきちんとやるには誤差の伝播の法則を利用する必要があります。
誤差の伝播の法則に従えば、f(x)=√x=x^(1/2)とし、誤差をδを付けて表すと

(δf/f)^2 = (1/2)^2 (δx/x)^2 ∴　|δf/f| = (1/2) |δx/x|

となるので、平方根を取ると相対誤差は2分の1になりますが、多くの場合、有効桁数は変わりません。

もっときちんと計算するには、SとPの不確かさをきちんと求めておき、誤差の伝播の法則(ほんとのことを言えば標準偏差伝播の法則というべきなんでしょうけど)を使ってQの計算結果がどこまで有効かを判断する必要があります。

回答No.7

htms42

＃３、＃５です。

＃６様
ご指摘の部分、ウッカリしていました。
２乗の部分は掛け算ですから
Ｓ^２、Ｐ^２を求めるところでも桁を考えなければいけません。
＃３に書いた
＞ある数字を２乗してルートをかけると元に戻ります。３桁の数字を２乗すると普通６桁になります。６桁の数字にルートをかけると３桁になる事になります。最後の数字に３桁の精度が欲しければ６桁の数字が必要だということです
の部分がおかしかったということが分かります。
２乗してルートをかけると元に戻るということから早とちりしていました。
２桁を２乗して２桁、それにルートをかければ２桁ということになります。
御質問の場合は３桁を２乗して３桁、引き算で桁落ちして２桁、ルートがかかって２桁です。

Ｑ^２＝(１５．１)^２－(１４．２)^２＝１００（２．２８－２．０２）
＝１００＊０．２６
Ｑ＝５．１
です。
√をかけると誤差が縮小しますから５．１までいけると思います。ます。

質問文では材料となった数字が３桁（Ｖ３が問題になりますが）ですから１５．１，１４．２まで精度があります。２桁というのは最終結果がということだと思います。

回答No.5

htms42

＃３です。
ＳやＰを計算するときにＶ３を使っているとすると
Ｖ３が２桁であればＳ、Ｐの３桁の精度には「？」が付きます。最後が２桁だから２桁でいいということではありません。

＃３で私が書いたことと同じ内容のことを＃４で補足していただきました。あわせて読んでください。

回答No.4

Denkigishi

有効数字の桁数ということはデータを処理する上で大切なことですが、桁数だけにこだわって肝心の精度を落としてしまっては困ります。
例えば、11±0.5と、99±0.5では精度がかなり違います。11については３桁までデータがあるなら３桁として始めて両者の精度が同等となります。
有効数字の桁数は無駄な計算をしないために考慮すべきですが、精度を落とさない範囲で切り捨てることが大事です。そのためには誤差伝播という観点で各データが最終結果に及ぼす影響度を事前にチェックすることが必要です。

回答No.3

htms42

Ｑ＝√(Ｓ^２－Ｐ^２)に
Ｓ＝１５．１、Ｐ＝１４．２を入れるとＱ＝５．１３５
Ｓ＝１５．０９，Ｐ＝１４．２を入れるとＱ＝５．１０５
です。２桁で見ると５．１で一致しています。２桁の結果を求める計算ではどちらでもいいということです。
そういう計算をしてはいけないというのではありません。桁を多くして計算しても無駄になりますよという意味です。

Ｓ＝１５，Ｐ＝１４を入れるとＱ＝５です。５．４という二桁の精度はありません。
頭に１の付いた２桁の数字は２桁の数字の中では一番精度の低い数字のグループです。５．４という二桁の数字の方が精度が高いということになります。計算を繰り返せば精度は下がっていきます。精度が高くなるということはありません。
同様に１５．１，１４．２を使った場合はこの数字よりも精度の低い数字が得られるはずです。

補足
（１）１５．０としていますが１５．１です。値として近い数字になるように丸めるのですから切捨てではありません。四捨五入です。
（２）Ｖ３だけ７０Ｖと２桁になっています。どういう式で計算しているかが分かりませんがＶ１，Ｖ２を３桁で測ってＶ３だけ２桁で測るということは普通やらないと思うのですが。
（３）Ｓに対して１５．１を使ったか１５．０９を使ったかでＱの値が５．１３５から５．１０５に変わりました。
Ｓは１／１５００の変化です。Ｑは３／５００＝９／１５００の変化です。Ｑの変化の割合が１０倍ほど大きいです。これは引き算が入ってきたときの桁落ちが起こっているからです。
ある数字を２乗してルートをかけると元に戻ります。３桁の数字を２乗すると普通６桁になります。６桁の数字にルートをかけると３桁になる事になります。最後の数字に３桁の精度が欲しければ６桁の数字が必要だということです。ルートの中を計算をしてもらうと分かりますが引き算で２桁少ない数字になっています。
式の中に引き算があるときは要注意です。ＳとＰの値がもっと近ければＱの値が１桁しか信頼できないということも起こります。

補足

この実験はＶ３を、０～１００ボルトまで１０ボルトずつ順番に上げていったときのｖ１やｖ２、Ｉ、Ｓ，Ｐの値を測る実験なので、多分２桁でいいのではないのかと思ってます。
ただ最初から少しその点は不安ではあったんですが・・・。

回答No.2

noname#69788

＞ただなぜ15.09を代入するのかがよくわかりません・・・。
15.1を代入したほうがよいかと思いましたがここは有効数字を増やしました。
＞有効数字を丸めるのは計算の最後ということは15.092・・・の値を入れてもよいのでしょうか？
もちろんかまいません。あまり意味はないとおもいますが。

お礼

回答ありがとうございます。

最初みたときよく意味がわからず困惑していましたが、理解することができました。ありがとうございます。

回答No.1

noname#69788

15.09を代入します。有効数字を丸めるのは、計算の最後です。２桁になります。

お礼

回答ありがとうございます。

ただなぜ15.09を代入するのかがよくわかりません・・・。
有効数字を丸めるのは計算の最後ということは15.092・・・の値を入れてもよいのでしょうか？