有効数字 実験計算時

質問

たとえば最初に出てきた値が0.011だとして、次に出てきた値が5.01次に出てきた値が0.1の時、最終的に有効数字は2桁になると思うんですが、計算途中で既に2桁で計算したほうがいいのでしょうか？
それとも最終的に出てきた値を有効数字で表すべきですか？

たとえば
0.011×5.01=0.05511
0.05511×0.1=0.005511
有効数字二桁より　0.1

とするか
0.011×5.01=0.05511　⇒有効数字二桁より0.1
0.1×0.1=0.01

よろしくお願いします。

にするか

回答No.1

mii-japan · ベストアンサー

加減算と乗除算で異なります

加減算の場合、有効数字の最も小さい桁に合わせます
99.92、100.1、101.115　の場合、全体としては小数点以下１桁までが有効数字になります
小数点以下が二桁以上ある数値は、少数点以下二桁目を四捨五入し、小数点以下１桁にして計算します（一桁多く計算しておき最後に最低位の桁を四捨五入する場合もある）

乗除算の場合、最終的には最も少ない有効数字の桁にそろえますが、計算途中では１桁多く計算しておき、最後に最低位の桁を四捨五入するのが普通です
なお上位の0は有効数字に含めないのが通常です

0.011　は有効数字２桁

＞有効数字二桁より　0.1

これは　？？？　　0.1　は通常　有効数字１桁になる

質問の例では
0.011×5.01=0.05511→0.0551
0.0551×0.10=0.00551→有効数字二桁より　0.0055
（例にある0.1が有効数字１桁ですので質問の趣旨にあわせ有効数字２桁の0.10としました、
有効数字１桁の0.1ですと
0.011×5.0=0.055
0.055×0.1=0.0055→0.01）

計算の途中で１桁多くして計算するのは丸め誤差の累積を防止するためです

お礼

>乗除算の場合、最終的には最も少ない有効数字の桁にそろえますが、計算途中では１桁多く計算しておき、最後に最低位の桁を四捨五入するのが普通です
なお上位の0は有効数字に含めないのが通常です

まったく知りませんでした。ありがとうございました。

回答No.2

qaz_qwerty_me

実験時と書いていますが単位を書いていないので・・・一言

有効数字を検討する時は、必ず単位を考慮していますよね？　１ｇと１.０Ｋｇで足し算して、１．００１Ｋｇとは言わないですよ？　実験ですから、１ｇと１.０Ｋｇでは足し算できないですよね？