- ベストアンサー
有効数字の足し算
(4.25-4.20)*23.5をどのように処理すればよいか。 =0.05*23.5 としてしまうと、桁落ちして0.05自体の有効数字は1ケタとなってしまう。 もし、これを1ケタとしてしまうと =1.175 =1 で良いのだろうか。 分配すれば、 =4.25*23.5-4.20*23.5 =99.875-98.7 (98.7より、小数第1位が基準。99.875を基準より1ケタ多い第2位まで丸めて99.88) =99.88-98.7 =1.18 =1.2 となるはず。 桁落ちする場合はどう判断すればよいのだろうか。
- みんなの回答 (6)
- 専門家の回答
お礼
引き算を先にやった場合は、 おっしゃるとおり、0.938から1.413の範囲を示すものとしては、1の位がすでに不確かさを含むので、中央値1.1755について1の位の一つ下の小数第一位で四捨五入して1。 問題は、桁落ちをできるだけしないように考え直さなければならないのかどうか、というのが私の質問の主旨でございます。説明不足ですいません。