- 締切済み
有効数字に注意した計算
Perform the following calculations to the correct number of significant figures. (20.1477×2.34) + 399.42 (87.7 - 24.505)÷ 0.0047 (522÷939.4) + 5.27 [(2.06×10^6) ÷ 40.328] + 139.25 上記の計算を適度な有効数字に直して計算しろという問題ですが、いろいろなサイトをみて、計算方法を見てもやりかたがいまいちわかりません。やり方を含めて教えてくれると助かります。
- みんなの回答 (4)
- 専門家の回答
みんなの回答
- arrysthmia
- ベストアンサー率38% (442/1154)
間違っています。決まった手順があるんですよ。 20.1477 × 2.34 = 47.145618 の結果を、 掛け算だから、少ない方の有効桁数、三桁に合わせて 47.1。 47.1 + 399.42 = 446.52 の結果を、 低いほうの精度、小数第一位に合わせて 446.5。 計算する前に丸めを行っては、誤差が拡大してしまいます。
- shishigake
- ベストアンサー率20% (1/5)
NO!ですが次のように計算したのだと思います 20.15x2.34=47.151 ・・・・(ア) 47.2+399.4=446.6 ・・・・(イ) 普通有効数字は 3.45x10^3のように書きます この問題の場合一番下の2.06x10^6以外は普通表記なので 2.34は下2ケタまでが有効数字だから20.15と下3ケタで 四捨五入し、2.34が3ケタだから47.2にし、下1ケタだか らそこで統一したとすいそくできます。 有効数字はもともと誤差を重視した考え方で2.34は下2ケタの数字だから 2.34-0.005<2.34<2.34+0.005の数字で誤差は千分の一の世界、すると20.1477の10万分の一の誤差は必要なく20.15でいい。以下同様に誤差でどこまでを有効数字とするといいか考えてください。 ごめん
- arrysthmia
- ベストアンサー率38% (442/1154)
5.12 × 10^4
- shishigake
- ベストアンサー率20% (1/5)
有効数字は掛け算・割り算は有効数字の最小にあわせ答えもそれに合わせます。足し算引き算は、小数のときは小数点以下をとり答えもその数に合わせます。有効数字をあわせるときは四捨五入します (1)2.34は有効数字3ケタだから20.1をとります 20.1X2.34=47.034だから47.0をとります。小 数点1位だから小数点以下1ケタにそろえます。 47.0+399.4=446.4 がこたえ (2)87.7-24.5=63.2 掛け算、割り算は有効数字のケタ数を合わせます。 0.0047は47が有効数字で2ケタだから 63÷0.0047=13404.255 有効数字2ケタだから13000 (3)5.83 (4)51200 になると思います
お礼
回答ありがとうございます。 たいへんわかりやすい説明でした。 ただ(1)ですが答えは446.6になっていました。やり方が間違っているとは思えないのですがこれはなぜでしょうか? 2,3,4はあっていました。