有効数字(有効桁)の考え方
小数を含んだ計算ですが,以下の押さえで正しいでしょうか?
いくつかサイトを見て,こうなのかな?と思ってまとめてみたのですが...
((1)の「4」,(2)の「5」に関しては誤差を含まない数とする)
(1)6.523×4=26.092
(2)6.524×5=32.620
(小数第3位の0は必要)
(3)65.23+6.524=71.754
→71.75(四捨五入(各々4桁故))
(4)65.23÷6.524=9.99846719…
→9.998(四捨五入)
(5)65.23÷6.52=10.00460122…
→10.0(四捨五入(6.52が3桁故答えは3桁まで))
(6)6.523×6.524=42.556052
→42.46(四捨五入(各々4桁故))
(7)6.523×6.52=42.52996
→42.5(四捨五入(6.52が3桁故))
正しいでしょうか?
お礼
ありがとうございました。