有効数字と標準偏差

質問

有効数字と標準偏差の長所と短所を教えてください。また、どういう時にどちらを使った方が良いのかも教えてくれませんか？？よろしくお願いします。

回答No.3

noname#21649

長所も短所もないです。結果は同じようなものですから。
値がどのくらい信頼できるか.という指標に「重み」というものがあります。
有効桁の逆数
標準偏差の逆数
として.結果的に数値を求めます。

ただ.計算方法が両者で異なります。そのときに「何に使うか」で計算方法が変わります。手計算の場合には.前者が有利ですが.数学的な正確さというか数値の連続性というかが問題になるときには.後者が有利です。今の時代コンピューターによる数値演算が主流ですから.２進方の桁落ち(0.1は無限小数です)を考慮すると.前者は１０進演算が必要であり.後者は２進演算がそのまま使えますから.コンピューターにとっては.後者が楽です。
それから.前者は２通りの方法があります。ひとつは学校数学で学ぶ方法であり.もうひとつはJIS (番号忘却)法です。
2.551や2.552をを二桁に丸める場合に.３桁目を切り捨てるか.切り上げるかのもんだいです。こうなると１０進演算の世界でコンピューターが最も苦手とする分野になります。

お礼

どうもありがとうございました。

回答No.2

Hyoutan

おそらく，平均値の桁数と標準偏差の桁数のことを知りたいのではないかと思うのですが，どうなんでしょうか．
そうでないと，#1さんの回答どうりです．

回答No.1

ymmasayan

全然関係ないものを比べる事は出来ません。