計器測定のもつ有効数字

質問

初めて質問を投稿いたします。よろしくお願いいたします。
☆質問
例えば、分解能：0.001、精度：0.15%/読値の装置を用いた場合、数種類のサンプルを測定した結果、各サンプルのデータが0.01～50.00と広範囲な結果となったとき、有効数字についてどのように扱えば良いのでしょうか？

回答No.1

KEN_2

通常測定器などの精度仕様は以下のような表現となっています

　ＦＳ　±0.15%　±1/2 LSB　（ＦＳ：フルスケール、LSB：最小桁）
　±1/2 LSB　は ±0.0005となります。（分解能：0.001 から）
　ＦＳ は 通常 2.000V で４・1/2桁などと表示されています。

＞分解能：0.001、精度：0.15%/読値　←　で考えると

２Ｖが最大感度のレンジであれば、2.000V 指示した場合、
2.000V X （±0.15%）X ±0.0005 で　1.9785V から 2.0215V で ±0.0215Vが誤差です。
たぶん、2Ｖ/20Ｖ/200Ｖの自動レンジ切替えですので、各レンジで　±1/2 LSB　が変化
して以下の表示となります。

　　２Ｖ：2.000　±1/2 LSB　0.0005
　２０Ｖ：20.00　±1/2 LSB　0.005
２００Ｖ：200.0　±1/2 LSB　0.05

つまり
５０Ｖを測定した場合の２００Ｖレンジで、49.7875V　から 50.215V が測定値となります。

お礼

こんにちは。
お礼を申し上げるのが遅れてしまい、申し訳ありません。

詳細な説明がわかりやすく、とても助かりました。
お教えくださったアドバイスは、問題解決に参考となりました。
ありがとうございました。