実験標準偏差について

質問

具体的に測定した値が１．８５、実験標準偏差は０．００６となりました。実験標準偏差の有効数字の桁が１桁の場合はそのままであるとならったので０．００６のままでいいと思うのですが、それだと測定した値と小数点以下の桁が異なります。（それぞれの最下位の位をそろえると習いました）測定した値の有効数字は３桁であったので１．８５０にするわけにもいかないと思います。この場合どう表記するべきなのでしょうか。よろしくお願いします。

回答No.2

hitokotonusi · ベストアンサー

標準偏差が出ているということは複数回の測定をしていますよね。
その場合で、標準偏差の桁が個々の測定値の有効桁を下回っている場合、
たいていは足し算の過程で桁上がりがあって有効桁数がひとつ増えています。
確認してください。

また、仮に桁上がりがなかったとしても最確値の表記は標準偏差にあわせればいいです。
こういう場合はそもそも測定回数が少なすぎて統計処理をしていいかどうかが問題になるはずです。

お礼

解決しました。ありがとうございます。

回答No.3

heboiboro

実験から得られた値の不確かさには、統計的なゆらぎの他に、装置の分解能や較正の不確かさなども関わってきます。
平均値の実験標準偏差はこのうちの前者を与えるものですが、これが有効数字を下回った場合には後者の大きさが無視できないので、これを評価しなければなりません。
（たとえば分解能の極端に悪い測定器で何度も測定をすると毎回ほぼ必ず同じ値が出るかもしれませんが、だからといって得られた値の不確かさはその分解能以上にはなりません）
具体的なことは測定方法などによるのでなんとも言えません。「不確かさ」などで検索してみて参考にしてください。

回答No.1

masudaya

あまり状況分かっていませんが，
Ave=1.85，σ=6.00×10^-3
とすれば，有効数字は合いますよ.

そうでない場合は，補足してください.