• 締切済み

切り上げの不確かさ

今「不確かさ」について勉強しています。 その中で矩形分布に対する標準偏差は a/√3だとあります。(aは上限と下限の半値幅) 分解能や、次位を四捨五入するときなどは 矩形分布になるのでこの標準偏差を使うとありました。 表示する値が、次位を切り上げとなっていた場合 (決まりでそうきまっている)はこの不確かさでいいのでしょうか? 例えば20.3と出た値は21と表示します。 このときは21±0.29としてよろしいのでしょうか? (0.5/√3=0.29) わかりづらい質問かもしれませんがよろしくお願いします。

みんなの回答

  • rabbit_cat
  • ベストアンサー率40% (829/2062)
回答No.1

次位の桁がほんとの有効桁範囲内とすれば、 切り上げた値と真の値との誤差は、[0 1)の範囲に分布します。 切り上げると、±という書き方にはそぐわないとは思いますが、あえて書くなら、[0 1)の一様分布の標準偏差 1/√3 = 0,58 より、21±0.58 とするしかないでしょう。四捨五入に比べて誤差が2倍になってしまいますね。

lemoned1213
質問者

お礼

すぐご回答していただいたのに 返答遅れて申し訳ございません。 確かに±という表現はおかしいと思うのですが、 「不確かさ」の決まりで最後の表現は±で書くと なっているため質問してみた次第です。 四捨五入も切り上げも同じ幅([-0.5 0.5)と[0 1)) なのに誤差が2倍になるのですね。 まだちゃんと納得できていませんが 参考にさせていただきます。