有効数字について

質問

有効数字の揃え方が分かりません。問題文がそろっていればその揃っている桁数より一つ多く計算して、四捨五入でいいのですか。たとえば、
有効数字２桁に揃えるとすると、4.445=4.5でしょうか、それとも4.4でしょうか。
更に分からないのが、問題文がそろっていないときです。問題集には「多いもの（大きいものではなく）にあわせる」と書いてあります。たとえば、２桁で書かれた箇所が３つ、１桁で書かれた箇所が１つなら、２桁でといつする、と言うことです。でもこの考え方だと１桁の箇所と２桁の箇所が同じ数だけ合ったらどうするのでしょうか。
しかし、先生は「有効数字の低いものに合わせる。箇所の数は関係ない。」と言っていた気がします。上の例なら１桁で書かれた箇所は１つだけだが、低いので１桁で統一する、と言うことです。

かなり混乱して分からなくなっているので、皆さん教えてください。

回答No.2

happy2bhardcore · ベストアンサー

＞有効数字２桁に揃えるとすると、4.445=4.5でしょうか、それとも4.4でしょうか。

有効数字が2桁なら3桁目を四捨五入し4桁目は無視しますから、答えは4.4です

そして問題集に書いてある「多いもの」というのは、箇所の多さではなく、桁数の多いものという意味でしょう。つまり、問題文中に2.6と3.55が出てきた場合は3.55の方に合わせましょうということではないでしょうか。
しかしながら、上記の例で言うと2.6は小数第三位が1～9のどの値が不明なのですから、2.6、つまり有効数字2桁にするのが普通です。

回答No.1

ymmasayan

四捨五入は必要悪です。
何度もすると誤差が積み重なっていきます。

そこで生の数字のまま計算した上で、一番有効数字の少ない数字の桁数＋１の桁だけを見て四捨五入を行います。

例えば１．２５６×１，３５×１．４６７＝２．４８７・・
なので７を四捨五入して答えは２．４９です。

迷いやすいのは２．４４４９に成ったときです。
９をあげて５にし５を上げて２．４５にしたくなるのです。
しかしこの場合２．４４５０００００００以上だけが２，４５に成るのです。