精度の定め方

質問

測定値の誤差の範囲を0.2mgとした時に、期待される精度とはどのように考えればよいのでしょうか？
測定値をAとした場合、A÷（A±0.2mg）と考えた場合が期待される精度(％)と考えたのですが…違うような気がして。

よくわからない質問ですみません！

回答No.1

Cupper · ベストアンサー

精度の基本計算式は
　｛（測定値）－（真値）｝÷（真値）× 100 ＝ 誤差（％）
です

例
　400ｇの物を測定して、0.2ｇの誤差が生じる場合
　百分率　0.2÷400×100＝0.05%

　2kg測定できる天秤で測定誤差が0.2ｇ生じる場合の天秤の精度
　百分率　0.2÷2000×100＝0.01%(F.S)

F.Sはフル・スケール（最大値）に対しての精度を示します
対して、測定した値の真値に対する精度（例の前者）は rdg.を使うことがあります