- ベストアンサー
有効数字と誤差率
初歩的な質問で恐縮ですが、調べても良く分かりませんでした。 次のような場合、有効数字はどのようになるのでしょうか。 例)真の値が1.50、測定値1.55(有効数字3桁)のとき、 誤差ε=1.55-1.50 =0.05 質問1 引き算のときは、このように桁落ちが発生するので気をつけよ、とまでは書いてあるのですが、どう気をつけるのでしょうか? 有効数字は1桁になってしまったということなのか、5.00×10^2と言う風に3桁に直しておきなさいと言うことなのでしょうか? 質問2 誤差率を求める場合、 誤差率=(0.05/1.50)×100% =3.333・・・% 質問1の結果によりますが、この場合、何桁で書くのだ正しいですか? 有効数字1桁でしたら、3% 有効数字3桁でしたら、3.33% の、どちらかだと思うのですが。 宜しくお願いします。
- みんなの回答 (2)
- 専門家の回答
質問者が選んだベストアンサー
- ベストアンサー
質問1 有効数字が1桁になってしまったということです。 ここでは小数点以下2桁までが正しい値です。ところが誤差を計算したら小数点以下2桁目だけの数字になってます。1の位や0.1の位の値がゼロなので、結局正しい値は「5」だけとなり、有効数字が1桁です。 質問2 結果を先に言うと計算式に使った数値の中で、一番有効数字の小さいものにあわせます。なので3%です。 0.05→1桁 1.50→3桁 1.50→3桁 100→∞ なぜかというと、それぞれの有効桁の1つ下の桁で数値を少しズラして計算してみて下さい。例えば0.05を0.051にして計算してみるのです。計算結果の数字の変化を考えると有効桁数2桁目で変化してる筈です。また、1.55を1.552にして計算すると、答えの数値は有効桁数4桁目で変化してる筈です。トータルで考えると計算値は有効桁数2桁目で変動する可能性があるので、有効桁数1桁です。
その他の回答 (1)
- nrb
- ベストアンサー率31% (2227/7020)
測定値1.50ならば・・通常 1.504~1.495までの間に測定値があります 通常は有効数字の1つ下の桁で四捨五入します したがって・・・ 真値は誰にも判りません・・・誤差とはその範囲のどこかに真値があって意味ですから・・ 仮に1%誤差がある測定器で測定すると 測定値が1.000ならば 1.010~9.990の間に真値があります どこに有るのかは誰にも判りません 測定器の誤差とそんな考え方です 単に測定の有効数字ならば・・・・ 誤差ε=1.55-1.50 =0.05 が正確です 1.5と1.50とは意味が違います この意味です 測定値が1.5ならば 1.54~1.45の間に測定値があります 1.50ならば 1.504~1.495の間に測定値があります ので精度が違います 有効数字は3桁です 100%ですから 100が基準ですこれ これの有効数字3桁ですから 003%ですので三桁になります 3%が有効数字3桁です 3%は0.03ですのでこのようにすれば判り易いでしょう 有効数字が3桁になるでしょう
補足
ご回答ありがとうございます。 貴重なお時間を割いてくださり、ご丁寧な回答を書いていただきましたが、質問が悪いためか、私が望む回答ではありませんでした。 最後のところは、3%は左のゼロはカウントしないので、1桁だと思います。 質問1のところで、引き算の結果、有効数字が1桁のままでいいのかどうかが分からないことと、もし1桁の場合、割り算(または掛け算)のルールですと、割った結果、分母と分子のうち有効数字の少ないほうに合わせると思います。すると、質問2の計算は3%と、1桁でいいのかなぁと思ったのです。結局、質問1の引き算は有効数字1桁でいいのでしょうか。 ありがとうございました。
お礼
明快なご回答ありがとうございました。 納得できました。