有効数字について

質問

有効数字についてよく分からないところがあるので質問させてください。
例えば、最小目盛りが1 mmのものさしで、ある長方形の紙の縦と横の長さを測定し、面積を求めるとします。
測定は最小目盛りの1/10まで読み取るため、縦、横の長さの読み取りは0.1 mmまで読み取ります。
以下が測定した値とします。
縦の長さ・・・1.23 cm
横の長さ・・・98.76 cm

そして面積を求めると121.4748 cm^2となります。しかし有効数字を考えると縦は３桁、横は４桁であり、積は有効数字の小さいほうにあわせるのでこの場合は３桁にしなくてはならない、つまり面積は121 cm^2となる、ということでいいのでしょうか？
何かしっくりこないのです。

もっと極端に言うとものさしを使って長方形の紙の面積を求める際、縦が非常に長くて(1122334455667788.99cm)横が非常に短い場合(0.02 cm)
有効数字を考えると縦は１８桁、横は１桁なので面積は有効数字１桁で表さなくてはならないということになってしまうのでしょうか。
これだったらせっかく縦を有効数字１８桁まで測った意味はなくなるような気がします・・・。(結局面積は2*10^13 cm^2としか表せない)
これでいいのでしょうか？どなたかお教えいただけないでしょうか。お願いいたします。

回答No.2

guide_man · ベストアンサー

2*10^13 cm^2であっています。

なぜなら、0.02 cmは0.015～0.024の間の数と考えられるからです。

長方形の寸法値を細かく測定しても、横の寸法値は次のように幅があります。

最大寸法値のとき、
（0.024-0.02）/0.02＊100＝+20％

最小寸法値のずれは、
（0.015-0.02）/0.02＊100＝-25％

つまり、縦を一定としたとき、±45％ずれが起こりうるのです。

そのようなずれに対し、桁を細かく出しても、意味のない数字になってしまいますね。

多少、大雑把な点はありますが、有効数字とは、
意味の有る数字で丸めることになります。

お礼

確かにこんなにずれが起こるんだから桁を細かく出してもまったく意味がないですね。有効数字について理解が深まりました。
回答していただき本当にありがとうございました。

回答No.5

anthracene

横レスですが。
＞ビュレットの誤差
結局、最小目盛りの1/10のとこは目で読んでいるので。
目盛り自体はちゃんとしているでしょうが。
経験をつんだ人ならそれくらいの誤差でしょうが、あまりなれていない人だと誤差はもっと大きくなると思います。

お礼

すいません、ビュレットとホールピペットを勘違いしてました・・・。
確かにビュレットは1/10まで読みますね。自分の場合はまだ経験が浅いので誤差はかなり大きいです、というか見方によってどうにでも見えてしまうような感じです。
再び回答していただきありがとうございました。

回答No.4

anthracene

NO.2さんと同じことですが。

質問者さんが最初に書かれた方で計算してみましょう。
小数点2桁目は、目で読み取っているので、プラマイ１くらいの誤差はあるでしょう。ということで、縦は1.23プラスマイナス0.01 cm、横は98.76プラスマイナス0.01 cmということにします。
ものさしの場合はどうか知りませんけど、化学で使うビュレットなどではこれくらいの誤差を計算にもちこんだと思います。

さて、このとき面積の最大値と最小値を計算してみると、
マックスは122.47 cm^2、ミニマムは120.47 cm^2
となります。
ずれが生じないのは2桁目までで、3桁目以降にはずれがでてますね。
ですから、3桁目以降を議論しても意味はないということになります。
面積としては1.21プラスマイナス0.01 X10^2 cm^2ということですか。

お礼

なるほど、よく分かりました。
後、ビュレットでもこのくらいの誤差があるのですか。特にビュレットの誤差を意識せずに使ってました・・・。
回答していただきありがとうございました。

回答No.3

akitaken

1.23 cm
98.76 cm
121.4748

有効数字を考えると、121.47の気がするのですが。
縦も横も小数点２桁まで正確なので、面積も小数点２桁までは求めなくては。

お礼

うーん、すいません、よく分かりません。
有効数字３桁×４桁なら答えは有効数字が小さい３桁にあわせるのではないのでしょうか？
縦と横は最小目盛り1 mmのものさしで測っているので小数点２桁目は正確とはいいがたいような気がするのですが・・・

回答No.1

toboty

実社会での「有効数字」は単なる数学上の概念ではなく、測定できる「精度」と密接な関係があります。
　例えば具体的に１００ｇまではかれる計量器の目量が０．１ｇであった場合、デジタル表示だと０．１ｇ単位で表示されますので、この場合は「小数点以下一桁の有効数字」を計算することとなります。
　同様に、長さを測定する場合、１００ｍまで測定できるその計量器の目量が例えば１ｃｍであれば、小数点以下二桁つまり０．０１ｍまでの計算を行います。
　ところが、あなたのおっしゃっている有効数字の例示の考え方には、実社会での測定精度のことが欠落しており、少々誤解があるように思えます。

お礼

なるほど、分かりました。
特に実社会での測定精度は考えていませんでした。
回答していただきありがとうございました。