- 締切済み
有効数字
有効数字についての質問です。 計算途中で物理定数を使用するとき、測定値に合わせた桁数まで とればいいことはわかるのですが、そのときに最後の桁はもう一つ下の桁を四捨五入して得た数字を採用するのでしょうか。それとも、元のままの数字を使用するのでしょうか。 例えば、測定値が5桁でこれに円周率をかけるとすると、 測定値×3.1415 なのか、それとも 測定値×3.1416 なのかどちらになるのでしょうか。 初歩的な質問で申し訳ありません。よろしくお願いします。
- みんなの回答 (5)
- 専門家の回答
みんなの回答
- wolv
- ベストアンサー率37% (376/1001)
回答No.5
- hagiwara_m
- ベストアンサー率44% (58/130)
回答No.4
- hagiwara_m
- ベストアンサー率44% (58/130)
回答No.3
- rei00
- ベストアンサー率50% (1133/2260)
回答No.2
- ADEMU
- ベストアンサー率31% (726/2280)
回答No.1
補足
ありがとうございました。 回答を読ませていただいて少し気になったことがあるのですが、 計算途中で四捨五入した値を使用する作業を繰り返していくと、段々誤差が大きくなるような気がするのですが、これは錯覚でしょうか?