• 締切済み

有効数字について

有効数字について例えば1.7657×3.23というような式があり、1.7657はそれまでの計算で出た、 途中計算の値だとします。また有効数字は3桁であるとします。 有効数字3桁なので1.7657は有効数字4桁の値にするのですが、この場合末尾の7を切り捨てるのですか?四捨五入するのですか? ちなみにZ会の参考書は切り捨てのほうが一般的と書いています。 大学入試では切り捨て派と四捨五入派がいることを考慮して末尾の誤差は考慮して採点してくれるのでしょうか。 また有効数字4桁とか気にせず計算し最後に四捨五入して有効数字3桁にしたほうが安全でしょうか。

みんなの回答

  • c80s3xxx
  • ベストアンサー率49% (1634/3294)
回答No.1

計算機使えるなら,途中での丸めはしないで,最後に目的の桁数に落とす. 切り捨てか四捨五入かはいろんな意見があって,どちらも一定程度の根拠があるので,まあ,ほとんど趣味の世界と言ってもいいw 大学入試の採点は,基本的には採点者が決めることなので,どうなるかなんてわかるわけもない.大学によって違うかもしれない.