有効桁数の決め方

質問

有効桁数の決め方について質問です。

実際の測定結果においての有効桁数の決め方について困っています。
あるシステム(電源電圧3.0V)に±1mVの誤差をもった電圧を入力したとき、利得と位相の有効桁数は何桁になるのでしょうか？

回答No.3

Trick_Q

＞有効桁数6桁の測定器での測定データの有効桁数は6桁でよろしいのでしょうか？

必ずしもそうなりません。
何の測定器なのか分かりませんが、例えば、６桁表示のデジタルマルチメータで、rdg誤差が±0.02%だったとします。（dgtは省略）
電圧２Vを測定して、表示が2.00000とぴったりになったとしても、
rdg誤差があるので、測定の範囲は、1.99960～2.00040となるので、どう見ても6桁ではないですよね。

また、ちょうど2.00000としましたが、実際の表示は、
2.00025、1.99987、2.00014、・・・
という具合に最後の何桁かが不安定に動いているかもしれません。
これも有効数字は、6桁ではないですね。

回答No.2

中京区 桑原町（@l4330）

有効桁数が小数第二位・・・・そんな物は存在しません
100000000000000000000000.99
これでも小数第二位ですがこんな桁で測定できる測定器はありません

普通の測定器は有効桁6桁くらいでしょう
http://www.yokogawa.co.jp/tm/Bu/7560/index.htm

有効桁について勘違いされてる様に思いますが
1234.56・・・6桁
0.123456・・・6桁
123456・・・6桁
12.3456・・・6桁

お礼

おっしゃる通り有効桁数を勘違いしていました。。
ご指摘ありがとうございます。

有効桁数6桁の測定器での測定データの有効桁数は6桁でよろしいのでしょうか？

回答No.1

中京区 桑原町（@l4330）

測定器の持つ有効桁に依存します

お礼

ご回答ありがとうございます。
測定器の持つ有効桁数が小数第二位までだと、
どうなるのでしょうか？