有効数字の計算の添削お願いします！

質問

有効数字の計算の添削お願いします！

8.002×(1.2500×10^-1)+9.25
(m/s^2) (s) (m/s)

を計算したのですが（２行目の括弧内は物理単位です）、以下のような手順で合ってますでしょうか？

8.002×(1.2500×10^-1)
＝8.002×0.12500
＝1.00025
となるが、有効数字４桁＋１桁（小数第５位の『５』を四捨五入）で、1.0003

1.0003+9.25
＝10.2503
となるが、有効数字３桁で、10.3

よって、最終的な答えは　10.3　(m/s)

色々調べてみたのですが、頭がこんがらがってしまって・・・合ってるか不安です。
皆さんのお知恵を貸してください。
よろしくお願い致します。

回答No.2

htms42

＞1.0003+9.25＝10.2503
となるが、有効数字３桁で、10.3

何故　「有効数字が３桁である」という結論が出てきたのですか。
９．２５の有効数字は３桁です。
小数点下第２位まで意味を持っています。
足し算、引き算ではこの桁の信頼性は変化しません。
したがって結果は１０．２５まで信頼できるということになります。
答えは１０．２５です。
もし１０．３とするのであれば有効数字の計算の規則からではない、別の要請によってです。

足し算、引き算の場合、結果の桁数は初めの数字の桁数に一致していなくてもいいのです。
足し算では増える、引き算では減るということが起こります。
逆に結果の桁数を一致させればおかしいことが出てきます。
引き算では有効数字の桁数の減少が起こる場合があります。
１．２３－１．２０＝０．０３
結果の有効数字は一ケタになりました。（「桁落ちが起こった」と言います。）
これを３桁に合わすということで
０．０３００とすればおかしいことになるというのが分かりますね。
測定不能だった桁の数値が分かったということが起こってしまいます。
（でもときどき見ます。）

回答No.1

sanori

こんにちは。

途中で四捨五入をしない方がいいです。
高校物理だと、途中で四捨五入して最終的な答えが少しずれても正解扱いになりますけれども。

考え方としては、
・掛け算・割り算の場合、有効数字は、上から数えて何桁？で決める。
・足し算・引き算の場合、有効数字は、後ろの位はどこの位？で決める。
です。

8.002×(1.2500×10^-1) = 1.00025　・・・有効数字は４桁、つまり小数第３位まで。
9.25　・・・有効数字は小数第２位まで。

1.00025 + 9.25 = 10.25025　⇒小数第２位までに丸めるので、10.3

ご参考になれば。