- 締切済み
電圧設計値の測定値を判定する有効桁数に関する資料を教えて!
例えば、設計値が電圧5.00V±0.05Vの時、小数点3桁まで測定しなさいとか、測定値が4.949Vの時は、基準外であると判定するのか、また、測定値がそこまで測れない時は、管理値をこうしなさいとか、載っている資料がありましたら、大変困っていますので、情報を お願いします。
- みんなの回答 (2)
- 専門家の回答
みんなの回答
- paspas
- ベストアンサー率52% (47/90)
回答No.2
#1です。 私としては、許容誤差が、±0.05で問題ある場合は、±0.050とします。 問題ない場合は、有効数字以下を四捨五入とします。 あくまでも私の考え方です。 したがって、5±0.05の場合に4.649vだった場合は、私だったらokとします。
- paspas
- ベストアンサー率52% (47/90)
回答No.1
公的な規格があるかどうかはわかりませんが、私は次のようにしています。 目的の電圧が電源電圧などの場合、周辺機器の許容範囲として、±5%~10%あります。 負荷を接続した場合にその範囲の半分程度を設計値として決めます。 また、A/D変換などのリファレンスとして使用する場合は、許容値によって、測定するものの誤差が決まってきます。この場合は、1mV以下の範囲で調整したりします。 結局、その目的の電圧に必要な許容精度の半分以内というのが私の基準ですね。 これが一般論かどうかはわかりませんが.... とりあえず、ご参考までに。
質問者
お礼
何度も質問してましたが、なかなか回答がなく、凹んでました。回答して頂きありがとうございます。厚かましいのですが、もう一つお聞かせ願います。例えば、設計値を5.00V±0.35Vとした場合、検査で測定した値が4.649Vの場合、良・否判定はどちらになるのでしょうか?教えてください。お願いします。
お礼
早速 回答して頂きありがとうございます。すごく参考になりました。 設計値 測定値 「5.00±0.05」 「4.949」 記載時:「5.00±0.05」 「4.95」 判定「良」ということですね、ありがとうございました。勉強になりました。