- ベストアンサー
※ ChatGPTを利用し、要約された質問です(原文:デジタルテスターの精度の計算方法)
デジタルテスターの精度の計算方法
このQ&Aのポイント
- デジタルテスターの精度を計算する方法について詳しく解説します。
- 解説書に記述されている精度の計算方法と、通常の考え方の違いについて質問しています。
- 説明をわかりやすくしていただけると助かります。
- みんなの回答 (2)
- 専門家の回答
質問者が選んだベストアンサー
質問者様も解説書も説明がおかしいので、正しく説明します。 条件 精度が±(0.7%rdg+3dgt) 測定レンジがDC200 VOLT で、100VOLTを測定した場合。 表示されている値が100.0VOLTだったとします。 rdg(リーディング誤差)は、 100.0×0.007=0.7VOLT となります。 ※もし、rdgがrdg(fs)と書いてあったら、フルスケールに対する誤差ですので、 レンジの200VOLTで計算します。 200×0.007=1.4VOLT dgt(デジット誤差)は、 表示されている最小桁が、この場合は少数第一位なので、 0.1×3dgt=0.3VOLT となります。 ※もし、表示されている値が100.00と少数第二位までしたら、 0.01×1×3dgt=0.03VOLT となります。 したがって、誤差は、この2つを足して、 0.7+0.3=1.0VOLT 誤差の範囲は、100.0±1.0VOLT となります。
その他の回答 (1)
- Trick_Q
- ベストアンサー率45% (34/75)
回答No.2
>0.01×1×3dgt=0.03VOLT ×1は、書き間違えたようです。 ご指摘の通り不要です。 すみません。
質問者
お礼
ご回答、ありがとうございました。 おかげでスッキリしました。
補足
大変わかり易い説明、ありがとうございました。 ただ、、 ※もし、表示されている値が100.00と少数第二位までしたら、 0.01×1×3dgt=0.03VOLT となります。 の、×1はどういう意味なんでしょうか? 単純に0.01×3dgt=0.03ではダメなんでしょうか?? 申し訳ありませんが、もう少しだけ教えて下さい。