平均値をとると有効数字が増える？

質問

普通の物差しで測った有効数字3ケタのデータ
2.0[mm]
2.1
2.2
2.1
1.9
2.0
があったとします。各データには±0.1程度の誤差があると考えられます。
これらの合計をとると，和の場合の有効数字は末位が最高位のもの合わせるので，今の場合，0.1位までで計算すればよいので
12.3
となりますよね。これをデータ数6で割りますが，この場合の6というのは正確な6であり，どこまでも6.000…で正しい，有効数字は無限大桁と考えられます。割り算の場合，商の有効桁数は有効数字は有効桁数の少ない方に合わせるので
2.05
となり，現データの2ケタよりも多い3ケタになります。これは正しいのですか？

回答No.8

hitokotonusi · ベストアンサー

測定器の精度以上には精度は上がらないという点についてですが、

デジタル計測器を用いて測定
10回測定して最小桁が0が9回、1が1回

この場合、最小桁は0と1の間で0に近いと判断するのは正当な推定であろうと思います。
したがって、多数回の測定をすれば、測定器の精度より1桁程度はおそらく精度をあげることは可能、というのが私の見解です。

それ以上はおそらく無理で、100回、1000回とくり返しても、標準偏差を計算すればおなじあたりに落ち着くはずです。

なお、#7の測定回数については、おおよそ10点あれば十分と言うのが普通のコンセンサスです。これは、母集団標準偏差をσとして平均の標準偏差がσ/√nなので、nを10以上にしてもさほど値が下がっていかず労力の割に効果がえられないというところが理由です。

回答No.12

multi-otaku

ANo.11のTheWK1981さんへ補足

"最近接偶数への丸め（通称「五捨五入」）"・・・IEEE 754-2008、ISO-31-0 および JIS Z 8401-1999規則A
は確かに使われています。
　・「VB の丸め込み関数 Round() などは、そのような動きをする。」http://ameblo.jp/argv/entry-10007376238.html）
　・端数処理＞１．２．２再接近偶数への丸めhttp://ja.wikipedia.org/wiki/%E7%AB%AF%E6%95%B0%E5%87%A6%E7%90%86
　・IEE754＞２．１最接近丸めhttp://ja.wikipedia.org/wiki/IEEE_754

理由は全部２．０５０だったとして、測定値はすべて２．１で平均も２．１になり、最大誤差がが０．０５になってしまうからです。
全部２．０４９だったとして、測定値はすべて２．０になり、最大誤差が０．０４９と少なくなります。

しかしこのかたは、もっと基本的なレベルの質問をされています。ですから

（１）２．０は有効数字２けた（２．０＊１０＊＊１）
（２）合計の桁数は有効数字を表さない。
・・・あくまでも測定値の最低の有効数字が引き継がれるが、丸めを途中で何回もやってはいけない。・・この場合１２．３が有効数字2ケタだと知りつつ3ケタのまま使い、最後に四捨五入して有効数字２けたにする。・・・質問者の勘違いの原因と推定します。
（３）平均２．０５を有効数字2けたで四捨五入して２．０（２．０＊１０＊＊１）・・JIS Z8401-1999規則B
が適切だと思います（中学校、高校でもそう習う。一般でもそう使う）
　　（１０＊＊２は１０の2乗で１００です。１０~２＝１００と書くときもあります）

WIKIPEDIA「有効数字」http://ja.wikipedia.org/wiki/%E6%9C%89%E5%8A%B9%E6%95%B0%E5%AD%97
で良いのではないでしょうか？

回答No.11

noname#157574

＞普通の物差しで測った有効数字3ケタのデータ
2.0[mm]
2.1
2.2
2.1
1.9
2.0
があったとします。各データには±0.1程度の誤差があると考えられます。

技術系の立場のものから回答させていただく。
2.0，2.1，2.2，2.1，1.9．2.0と測定された時点で有効数字は2桁である。
以上六つのデータの平均は
(2.0＋2.1＋2.2＋2.1＋1.9＋2.0)/6＝12.3/6＝2.05≒2.0
最後の丸めでなぜ2.1でなく2.0にしたかであるが，これはJIS Z 8401：1999（数値の丸め方）の2.c)規則Aに従ったからである。これは丸めた数値として偶数倍のほうを選ぶものであり，一連の測定値をこの方法で処理すると丸めによる誤差が最小になるという特別な利点がある。
一方，規則Bは丸めた数値として大きい整数倍のほうを選ぶもので，計算機による処理に広く用いられている。
またd)には，上述の規則を２回以上使って丸めることは誤差の原因となるので，丸めは常に1段階で行わなければならないことが明記されているので注意しよう。

回答No.10

hitokotonusi

＞少々場外乱闘の感になってしまうのですが、

それがわかっているなら終了してはどうですか？
はじめから質問者さんが望む解答をはるかに逸脱しています。

回答No.9

heboiboro

少々場外乱闘の感になってしまうのですが、

hitokotonusiさん

> したがって、多数回の測定をすれば、測定器の精度より1桁程度はおそらく精度をあげることは可能、というのが私の見解です。
> それ以上はおそらく無理で、100回、1000回とくり返しても、標準偏差を計算すればおなじあたりに落ち着くはずです。
この前半については同意見ですが（何をもって精度とするかも曖昧ですし）、後半に関しては明確に異なります（平均値の標準偏差は測定回数を増やすとどんどん小さくなり0に収束します）。

平均値の標準偏差は理想的には、σ/√n となります。
ここでσは個々の測定値の標準偏差を示す定数であり、有限回の測定においては s=√(Σ(xn-<x>)^2/(n-1)) がよい推定値になります。
ですから、平均値の標準偏差の推定値は s/√n = √((Σ(xn-<x>)^2/n/(n-1)) となるのです。

s は n→∞ で一定値σに収束します。ですので、平均値の標準偏差（の推定値） s/√n はn→∞ で0になります。
ですから、「100回、1000回と繰り返しても標準偏差を計算すればおなじあたりに落ち着く」ことはありません。

そもそも測定値のばらつきの問題と分解能の問題は別です。
分解能が無限大の測定器でも値が真値のまわりにばらつくことはあり、逆に値にばらつきが全くなくても分解能が悪ければ値は一定の誤差を持ちます（極端なはなし10cm刻みでしか目盛りのない物差しで5.1cmの物を測ったら？）
前者は標準偏差で扱えますが後者は統計的な誤差ではないので標準偏差にはあらわれません。

回答No.7

hitokotonusi

現実に不偏分散というものがあって、分散を計算するするとき、残差二乗和をnではなくn-1で割ります。当然ご存じでしょうけど。この1の違いはデータ数が多くなれば事実上ほとんど気にする必要がないものです。にもかわらず、この不偏分散、あるいはその平方根である標準偏差は非常によく使われています。なぜでしょう？それは、

データ点数の少ない計測が現実には非常にたくさんある

ということです。机上で遊んでいるのとは違って、現場では厳密に数学的に正しくなくてもおおよその数字をださなければ話が進みません。ですから、この程度でも標準偏差は普通に使われます。もちろん６点は相当に少ないですが、それでも標準偏差を計算しないよりはましです。

回答No.6

multi-otaku

No5の方に補足します。

1000回計測しても、合計が5けたになるだけで、有効数字2けたは変化しません。
例えば合計2005.6だとしても、合計の有効数字も2けたの２０００（正確には２．０×１０＊＊３）であり、平均は２００５．６／１０００＝２．００５６で有効数字は2けたなので、平均は２．０です。

No.4のかたへ補足します。
たかだか6個のデータで標準偏差を考えるのは、無理です。統計というのはできれば数百、なるべく数千というデータがあって成立するものです。だから９９％とか「信頼区間」という用語があります。

回答No.5

heboiboro

この例に限れば間違っているか微妙なところです。
一般的に言えばこの方法は間違っています。

たとえば、今回の実験で1000回の測定を行ったとします。
このとき和はおよそ5桁の有効桁数を持つでしょうから、平均も5桁の有効桁数を持ち、つまり0.1μmの精度を持つことになってしまいます。

無論、普通の物差しで何千回何億回測定しようがこれほど正確に対象の長さが分かるはずがなく、これは間違っています。
一般に、平均値も測定器の分解能以上の精度を持てません。

微妙なところと言ったのは、分解能を考慮した上でどの桁まで残すかにはやや曖昧なところがあるからです
（というより、単に私がこの点についての慣習を知らないだけなのですが）。
たとえば今回の測定では0.1mmの桁まで記録しているので、分解能を±0.05mm程度と考えることもできます。
誤差の桁まで桁を残すという慣習に従えば、0.01mmまで値を残すことになります。
しかし同じく±0.05mmの誤差を持つはずの個々の測定値はこの上の桁までしか書いてませんし、平均値も0.1mmまでしか書かないべきかもしれません。

いずれにしろ、もしさらに測定回数を増やしてもこの例で平均値が4桁以上の精度を持つことはないでしょう。

なお、一般にはもちろん、#4の方のおっしゃる（平均値の）標準偏差まで考慮する必要があります。
（平均値の）標準偏差が分解能よりも大きいうちは分解能を忘れてよくて、一方で測定回数をあげて（平均値の）標準偏差が分解能より小さくなってきた場合には分解能が効いてきてそれ以上精度はあがりません。
（高校生でしょうか、大学生でしょうか？ 高校生ならば標準偏差まで考慮しなくてもいいかもしれません（するに越したことはありませんが））

回答No.4

hitokotonusi

正しいです。
測定精度をあげるために多数回の測定をするのはこのためです。
だから、有効数字を考えて計算せよという問題ならそれで正解です。

ですが、この有効数字の計算というのは不用意に必要な桁を落してしまわないようにするためのものなので、
本当に計算上の桁まで有効かどうかは標準偏差を計算するまでわかりません。
なので、実際に測定に使う場合は必ず標準偏差を計算し、どこまで有効かを確認するひつようがあります。

この例では平均の標準偏差(*)が0.04になるので

2.05 ± 0.04 m

で、3桁でOKです。

(*) 平均の標準偏差 = √[ Σ(x-<x>)^2/n(n-1) ]

回答No.2

multi-otaku

『普通の物差しで測った有効数字3ケタのデータ　2.0[mm]』に問題があります。
２．０は有効数字２ケタです。

例えば、全部の測定値が２．０だった場合、平均は２．０であり、２．００にはなりませんが。

合計１２．３÷６＝２．０５と割り切れたので、勘違いをしたと思われます。
この場合四捨五入して２．１です。

合計１２．２÷６＝２．０３３３３３３３３３・・・の場合は有効数字何けたになるのでしょう？

もっとも計測値が大量（できれば数百以上）にあった場合、また普通の（正規分布に従う）場合、
平均値が計測値よりだいたい一桁精度が高い場合が多いです。

だから、学校などの100点満点（1点刻みなので、有効数字２けた）のテストの平均が、５８．５など0．1点まで書かれることが多いです。しかし、有効数字の考え方と運用から言えばナンセンスです。学年100人いたとして、合計５８．５×１００＝５８５０点で、10点の採点ミスで０．１変化します。四捨五入によっては1点の採点ミスで、変化します。

有効数字の誤用は他にも見られます。例えば食品のカロリー数の表示です。「５２４カロリー」？？
疑問
（１）食品成分表分析に使ったのと同じものですか？
（２）季節変動や、天然、露地、工場などを考慮していますか？
（３）皮むきや内臓処理などが正確に行われていますか？
（４）個体差は考慮されていますか？
（５）正確に盛りつけていますか？
などなど、せいぜいよく注意して±３０カロリー、へたをすれば８０カロリーくらいの誤差があると思います。

回答No.1

asuncion

＞普通の物差しで測った有効数字3ケタのデータ
＞2.0[mm]
＞2.1
＞2.2
＞2.1
＞1.9
＞2.0
＞があったとします。各データには±0.1程度の誤差があると考えられます。

そもそも、これらのデータは有効数字3桁なのでしょうか。
2桁に見えます。

＞現データの2ケタよりも多い3ケタになります。

「現データの2桁」という文言と「物差しで測った有効数字3ケタのデータ」という文言との間に
不整合はないでしょうか。