• ベストアンサー
※ ChatGPTを利用し、要約された質問です(原文:デジタルテスターの精度の計算方法)

デジタルテスターの精度の計算方法

このQ&Aのポイント
  • デジタルテスターの精度を計算する方法について詳しく解説します。
  • 解説書に記述されている精度の計算方法と、通常の考え方の違いについて質問しています。
  • 説明をわかりやすくしていただけると助かります。

質問者が選んだベストアンサー

  • ベストアンサー
  • Trick_Q
  • ベストアンサー率45% (34/75)
回答No.1

質問者様も解説書も説明がおかしいので、正しく説明します。 条件 精度が±(0.7%rdg+3dgt) 測定レンジがDC200 VOLT で、100VOLTを測定した場合。 表示されている値が100.0VOLTだったとします。 rdg(リーディング誤差)は、 100.0×0.007=0.7VOLT となります。 ※もし、rdgがrdg(fs)と書いてあったら、フルスケールに対する誤差ですので、 レンジの200VOLTで計算します。 200×0.007=1.4VOLT dgt(デジット誤差)は、 表示されている最小桁が、この場合は少数第一位なので、 0.1×3dgt=0.3VOLT となります。 ※もし、表示されている値が100.00と少数第二位までしたら、 0.01×1×3dgt=0.03VOLT となります。 したがって、誤差は、この2つを足して、 0.7+0.3=1.0VOLT 誤差の範囲は、100.0±1.0VOLT となります。

juntaro73
質問者

補足

大変わかり易い説明、ありがとうございました。 ただ、、 ※もし、表示されている値が100.00と少数第二位までしたら、 0.01×1×3dgt=0.03VOLT となります。 の、×1はどういう意味なんでしょうか?  単純に0.01×3dgt=0.03ではダメなんでしょうか?? 申し訳ありませんが、もう少しだけ教えて下さい。

その他の回答 (1)

  • Trick_Q
  • ベストアンサー率45% (34/75)
回答No.2

>0.01×1×3dgt=0.03VOLT ×1は、書き間違えたようです。 ご指摘の通り不要です。 すみません。 

juntaro73
質問者

お礼

ご回答、ありがとうございました。 おかげでスッキリしました。

関連するQ&A