有効数字の計算
有効数字の計算
有効数字の計算
1.4×3.26×2.1375×7.195
という計算をするとき、どのように計算すればいいのでしょうか?
1.4×3.26×2.1375×7.195=1.4×3.26×2.14×7.20
=4.564×2.14×7.20
=4.56×2.14×7.20
=9.7584×7.20
=9.76×7.20
=70.272
=70.3
=70
上のように左から順番に掛けていき、そのたびに有効数字3桁に直していきながら計算して
最後に2桁に直すというやり方で合ってますでしょうか?
また、例えば有効数字2桁の計算をしているとき最後に、
5.4489という数字が出てきた場合
まず、5.45と3桁にしてから、5.5とするのか
いきなり2桁に直して、5.4とするのは
どちらが正しいのでしょうか?
また、有効数字の計算中に割り算が出てきた場合は
まず、掛け算をすべて計算してから、割るべきでしょうか?
例えば
1.53÷3.25×5.19÷22.4
という式なら
1.53×5.19=7.9407=7.941
3.25×22.4=72.8
7.941÷72.8=0.1091=0.109=1.09×10^-1
とすればいいのでしょうか?
細かいことかもしれませんけど、気になります。
他にも、有効数字の計算で気をつけなければいけないことがあれば教えてください。
お願いします。
お礼
すばやい回答をありがとうございました。 とても分かりやすいです。 一番早い回答という事でベストアンサーにさせて頂きました。