有効数字と桁数について

質問

有効数字と数字の桁数について、教えていただきたいことがあります。

大学で先生が測ってきた環境調査データの整理をしているのですが、ある濃度について、小数点以下が２桁のものと３桁のものが混在していました。

例えば、このような感じです。

0.23 mg/L
0.083 mg/L

違和感を感じたので、「0.220 mg/Lとしたり、四捨五入して0.08mg/Lとしたりしなくていいのですか？」と聞いたところ、「どちらも、有効数字２桁だから問題ない」と言われました。
0.23とは本来、0.225～0.235までの範囲の総称を0.22と言い、0.083とは本来、0.0825～0.0835までの範囲の総称を言うそうですが、そもそも、どちらの数字も同じ分析器機器で測定可能ということでした。ということは、基本的には1/1000の位までは正確に測れるんだと思います。ということは、0.23という数字についても小数点以下3桁で書くのが正しいのではないかと思ったのですが、こういう考えはダメでしょうか？

また、別の項目では、
0.05 mg/L
0.21 mg/L
という2つの数字が出てきました。

この場合、上の有効数字は1桁で、下の有効数字は2桁と考えられ、桁があってないのではないかと思います。

これは問題ないのでしょうか？

教えていただきたくよろしくお願いします。

回答No.6

Trick_Q

＃４です。
平均の場合は、まず、0.05＋0.21を計算しますが、加減算の場合は、有効数字の一番桁の小さいものに合わせます。
つまり、0.05は有効数字は1桁ですが、計算するときは、小数第二位として計算するのです。
たまたま0.21も小数第二位なので、この場合は、
0.05+0.21＝0.26　これが有効数字です。
乗除算のときと加減算のときで変わってきますので注意です。
で、平均は2で割るのですが、この2は測定値ではないので、有効数字1桁というわけではなく、ただの2ですので、そのまま割ります。
なので、平均は0.13の2桁が正解です。
先輩のやり方は正しいです。

回答No.5

htms42

＞この場合、上の有効数字は1桁で、下の有効数字は2桁と考えられ、桁があってないのではないかと思います。

＞これは問題ないのでしょうか？

念のためです。

この２つの数値に対してどういう演算をやるかによります。
・足し算、引き算の場合は位があっていないといけません。有効数字の桁数の違いは関係ありません。
０．０５＋０．２１＝０．２６

・掛け算、割り算の時は桁数が問題になりますがこのまま計算してもらってかまいません。得られた結果の有効桁数を判断する時に問題になるのです。計算する前から有効数字の桁数を合わせる必要はありません。桁数が大きく違っている数字を組み合わせて計算しても無駄になるというだけの話です。
０．０５×０．２１＝０．０１０５≒０．０１

同じ単位の量が２つですから加減の操作の対称になっている数値ではないかなと思います。
この場合、小数点下第二位に揃っていないといけません。

回答No.4

Trick_Q

＃2の補足について。

＞0.05mg/Lは5×10の-2乗
＞として「これは有効数字1桁です」としてはいけないのですか？

0.05mg/Lは有効数字1桁ですので、質問者さんが正しいです。

＞0.05 mg/L
＞0.21 mg/L
＞という2つの数字が出てきました。

測定器自体が持っている誤差がどのようなものなのかが分からないため、この結果が正しいと信じるしかないですが、結果が正しいとするならば、有効桁数が異なってしまっても、それは仕方がありません。
注意すべきは、＃１さんが指摘しているように、このデータで計算をしなければいけないような場合、0.05 mg/Lのデータを用いて乗除算を行うと、計算結果の有効数字も1桁になってしまうことです。

＞基本的には1/1000の位までは正確に測れるんだと思います。

この部分も、この測定器のことが分からないので、なんともいえません。
質問者さんの言うことが正しければ、0.23 mg/Lの有効数字は、0.230mg/Lになるはずですが、もしかしたら、倍率レンジを変えているのかもしれません。このことは、測定した人しか分かりません。
質問者さんの考え方自体は正しいです。

お礼

ありがとうございました。
ということは、0.05と0.21の2数の平均をとる場合、電卓を叩くと0.13とはじきだされますが、この場合、平均値は0.13ではなく、0.1と書くのが正解なのですね。過去に先輩が取りまとめた表などを見ていますと、小数点以下2桁であれば、平均値も2桁で表記するというふうに、桁数に揃えているようで混乱していました。
倍率レンジを変えているかも関わってくるとなると、データ整理する立場の者も測定方法の詳細について把握する必要もあるのですね。

回答No.3

chie65536（@chie65535）

追記。

＞「0.220 mg/Lとしたり、四捨五入して0.08mg/Lとしたりしなくていいのですか？」

「0.220 mg/L」と書くと「220×10の-3乗」であり、有効数字３桁になってしまいます。

「0.08mg/L」と書くと「8×10の-2乗」になり、有効数字１桁になってしまいます。

「小数点の位置を合わせる」のと「有効数字の桁数を合わせる」のは「まったく異なる行為」です。

濃度で言えば「１０キログラム中に２３０グラム」と「１キログラム中２３グラム」と「１００グラム中２．３グラム」は「同じ濃度」です。そして、この３つは「有効数字２桁」です。

しかし、無理矢理小数点位置を合わせようとして「２．３グラム」を「小数点を四捨五入して２グラム」とやっちゃうと「１００グラム中２グラム」だけ「違う濃度」になっちゃいますね。

回答No.2

chie65536（@chie65535）

0.23 mg/L
0.083 mg/L
0.05 mg/L
0.21 mg/L
は
23×10の-2乗
83×10の-3乗
50×10の-3乗
21×10の-2乗
であり、すべて「有効数字２桁」です。

補足

回答ありがとうございました。
ここでの数字はすべて「有効数字２桁」とのことでしたが、たとえば、

0.05mg/Lは50×10の-3乗

とのことですが、この「－３乗」という数字はどこからでてきたのでしょうか？

0.05mg/Lは5×10の-2乗

として「これは有効数字1桁です」としてはいけないのですか？

回答No.1

sanori

こんばんは。

0.23 mg/L、0.083 mg/L、0.05 mg/L、0.21 mg/L　という数値が、
どういう測定値とどういう計算から出てきたかによります。

ご質問文に測定値と計算の内容が書かれていないので、
正しいのかダメなのかは判定できません。

その代わり、例を挙げて説明しますね。

【足し算、引き算】
有効数字は、桁ではなく、精度で決まります。
精度が粗い方に合わせます。

１．２３４５　＋　６．７８　＝　８．０１
９８７．６　－　０．１２３４５６７８　＝　９８７．５

【掛け算、割り算】
有効数字は、有効桁数で決まります。
有効桁数が少ないほうに合わせます。

１．２３４５　×　６．７８　＝　８．３７
１．２３　÷　０．０６７８９　＝　１８．１
１０００．００　×　１０．００００００００　＝　１００００．０

以上、ご参考になりましたら。

お礼

桁と精度というのは違うのですか。
おはずかしながら、初めて知りました。
コメントいただきまして、ありがとうございました。