有効桁数について

質問

ある数値を５回測定したとします

A 5.039
B 5.075
C 5.092
D 5.064
E 5.058

有効桁数はすべて４桁ですよね？

次にA～Eの平均を取ると

(A+B+C+D+E)/5=5.0656

と関数電卓で結果がでますが、４桁に丸めて5.066とすれば有効桁数の扱い方としては問題ないですか？

そしてA～Eの平均の２乗をするときは、上記の平均を有効桁数４桁に丸めた5.066を２乗して

(5.066)^2=25.664356

となり、そして5.066の有効桁数４桁に合わして25.66とすればいいのでしょうか？

それとも平均の値を４桁に丸める前の電卓で出た値のまま２乗した後、最終的に４桁に丸めるのがいいのでしょうか？この数値だとどちらでやっても４桁にした値は変わりませんが・・・

有効桁数の扱い方で問題があったら教えてください、また平均の２乗を求めるときはどちらが正しいのでしょうか？
（平均の値の２乗は平均×平均なのだから平均の値を４桁にせず５桁として計算すると平均の２乗は有効桁数５桁と考えるので、やはり正しく平均の値を測定値の有効桁数４桁に丸めて出した平均の値を２乗する方が正しいですかね・・・）

また、上記の平均の計算をしたときのよな、「5」などの数字の有効桁数は何桁ですか？１桁なんでしょうか？もし１桁なら割り算をしているので有効桁数はいちばん桁数の少ないものに合わせるので有効桁数１となると平均の値が「5」となりおかしいとおもうんですが・・・

上記の平均を取ったときの「５」や、測定回数の数値や、測定していない数で１００で割れと書いてあったりしたときは、それらの数字の桁数も考えなければならないんでしょうか？

読みづらい文章かもしれませんが、ご回答待っています。

回答No.2

kamobedanjoh

内容的には、NO.１さんと同じ意見です。
考え方の問題として、５回の測定値が「5.0」までは一致していますから、この値までは正しいと思えます、
小数2位の値は、３，７，９，６，５　と揺らいでいますから、信憑性は薄いものの、平均的数値を採用して、
「5.1」として取り扱うことは可能でしょう。
問題は、何処までの詳しさが必要なのか・・・にあります。
1000分の１の誤差が致命的な結果をもたらす場合には、より多くの回数、より精度を高めた測定が必要です。
場合によっては、５％程度の誤差は無視して良い場合もあるでしょう。
必要な精度によって、有効桁数が決められます。
円周率は、通常「3.14」として扱われてきましたが、超精密計算を必要とする場合には、さらに下位の数値まで必要な場合もあるでしょう。
最近、文科省では、小学生の場合の円周率は「３」で良い、などと云いだしています。
これには違和感がありますが、簡単な概算法としては、一考には値します。
この場合には、有効桁数を整数位に止めることになります。
言葉を換えれば、有効桁数は、許し得る誤差の範囲を指定しているとも云えます。

回答No.1

doc_somday

数学的処理をする時の自然数は無限の有効数字を「持って居るかの様に」扱います。
理由は簡単それが計算の「定義」であって「測定された値では無い」から幾ら有効数字の桁数の多い
場合でも全く気にする必要がないのです。

最初の方の二乗の件ですが、試験の場合は悩ましいが、実験の現場では「どうでも良い」「些末すぎる」
と言う扱いです。デシマルですので最後の桁が±１揺らぐ事は「おかしくは無く」揺らがない方がおかしい。

化学の元素分析の場合合計は、100.01％、10.00％、99.99％は全て正確だと認められます。
だが0.02以上揺らいだらアウトです。

お礼

数学的処理をする時の自然数は桁数を気にしなくていいのですね、ありがとうございます。