平均値の桁数に関して

質問

例えば、実験をして正規分布に従うデータが出たとします。
その平均値と標準偏差がそれぞれ4.567893と2.33543のような値になったとします。
このとき、4.567893±2.33543という表現で数値を表そうとしたとき、意味のある桁数（四捨五入するべき桁数）はこれら平均値と標準偏差の比から決まるという話を聞いたのですが、
具体的にどうやって決めれば良いのでしょうか？
相対誤差が関係あるようなことを聞いたのですが、どなたか知ってらっしゃったら教えて下さい。

回答No.2

sanori · ベストアンサー

こんばんは。

平均値を求めるときの具体的な手順は、
１．合計を求める
２．合計を個数で割る
ですよね。

このとき、１で求まった合計の有効数字が何桁かが、そのまま平均値の有効数字の桁数になります。
そして、標準偏差の有効数字は、桁数ではなく、平均値の最も下の位（十の位とか小数第３位とか）で決まります。

例を挙げますと、
１０．００
１０．１１
１０．２２
１０．３３
９．６５２
という５個のデータがあるとしましょう。
単純合計は、50.312　ですが、最後の１個以外のデータの精度は小数第２位までしかありませんので、合計は、５０．３１です。
つまり、合計の有効数字の桁数も平均値の有効数字の桁数も上から４桁です。

合計を５で割れば平均値です。
５０．３１　÷　５　＝　10.062　→　有効数字４桁なので、１０．０６

標準偏差（母集団の標準偏差の推定値）は、0.260305・・・ですが、
平均値の精度が小数第２位なので、０．２６　です。

よって、この例では、平均値±標準偏差　は、
１０．０６　±　０．２６
となります。

以上、ご参考になりましたら幸いです。

回答No.1

shintaro-2

>、意味のある桁数（四捨五入するべき桁数）はこれら平均値と標準偏差の比から決まるという話を聞いたのですが、

そもそも、測定値の有効桁数はいくつですか？

お礼

一応、3桁ですけど・・・
これを使うわけではないそうなのですが・・・