小数点の四捨五入で分からないことがあります

質問

例えば、0.230978という値を小数点第4位を四捨五入したら、答えは0.231ですか？それとも0.2310が答えですか？
また、0.8という値を小数点第1位を四捨五入したら、答えは1.0ですか？それとも1ですか？
よろしくお願いします。

回答No.6

g27xxxxx

小数点以下を表示する場合、
小数点以下第４位を四捨五入、又は切り上げ、切り捨てした時には、
第４位は必ず「０」となります。

このような場合は、「０」以外の数値ではないことを示すために、敢えて第４位以下は表示しません。
第３位までの表示(０.２３１)にとどめます。

同じ理由で、小数点以下を四捨五入した場合は整数だけの表示(１)となります。

回答No.5

asuncion

有効数字に触れている回答があるが、今回の質問の趣旨とは
関係ない気がする。
小数第4位を四捨五入した結果は小数第3位まで。
小数第1位を四捨五入したら結果は整数部まで（小数点以下はない）、
というだけの話。

回答No.4

bgm38489

四捨五入とは、必要とする位の次の数が4以下ならば切り下げ、5以上なら切り上げるという方法。
おっしゃる「小数点第4位を四捨五入する」は、0.231の時は「下３桁（シモサンケタ）で四捨五入する」、0.2310の時は「下４桁で四捨五入する」という言い方が正しい。
１５２を１５０にするとき、「十の位で四捨五入する」というのと同じ。

回答No.3

麗 李（@reisinki）

普通に考えれば、0.231も0.2310も同じです。

ただ、質問されている数字が何の数字かで全然違ってきます。
これが物理の回答などの数字であれば0.231と0.2310は別であり「有効数字」の観点から0.231は不正解とされます。

物理では有効数字というのを考えます。
どれだけその桁数を持つ数字に有効性があるかという指標です。
速さが1m/sだと書かれると、これには誤差が含まれているでしょうから
もしかしたら1.3m/sかもしれないし、0.8m/sかもしれません。
約1m/sという目的で1m/sと書きます。

これを1.0m/sと書くと、1.0までは有効性を保証してくれるわけです。
1.0m/sと書かれていれば、これは約1.0という意味で
真値は1.3m/sだった、とは言えないですよね。
より精度を上げて表現することが可能になるのです。
おおよその値を四捨五入で与えるならば、
1の真値の範囲は0.5～1.5
1.0の真値の範囲は0.95～1.05
ということになります（終端は含みません）。
1.0の方がより精度が上がって、誤差の幅が小さくなっていますね。

1.0は有効な桁が2桁という意味で、有効数字2桁と表します。

回答No.2

noname#235638

0.231　ですし　1　です。

ある桁までの値がほしい時にする処理ですから
その下の桁　０（ゼロ）は、いりません。

回答No.1

mshr1962

どっちでも正解です。
単純に表示桁数を四捨五入した桁に合わせてるか否かの違いでしかありません。