小数点の四則演算

質問

エクセルでrounddownで小数点下3桁で計算したら、0.8になる所が0,799　1.0になる所が0.999となってしまいます。他のセルは0.2　0.4　0.6　1.2
等となります。計算式は$を付けているので、どのセルも同じです。どうしたらいいのか?教えてください。お願い致します。

回答No.3

M_Sato

Excelのセルの表示上で0.8になっていることと、内部的に0.80000…になっていることは別です。
計算後の式の値が0.80000…になるのでしたら、=rounddown(式,3) としても0.8になります。

どこが違っているのかは、入力した元データと式とセルの書式設定がわからないとコメントできません。

お礼

ありがとうございます。もう少し勉強します。

回答No.2

M_Sato

表示桁をそろえたいならセルの書式設定で行います（これなら誤差はでません）。
計算結果を小数点下３桁にしたいなら、目的に応じてround（四捨五入）、roundup（切り上げ）、rounddown（切り捨て）で計算式をくくります。

補足

早速ありがとうございます。計算式はROUNDDOWNでくくったつもりです、他のセルでも同じを計算式をいてたのに、求めたい答えが0.8が0.799や1が0.999になってしまいます。0.8の下3桁ROUNDDOWNは0.799が正解ですか？
計算後の0.8の下3桁ROUNDDOWNは0.8になりませんか？

回答No.1

takepon256

ROUNDDOWNは小数点以下を切り捨てているので、誤差が出るのが当たり前ですが・・・
一体、何をしたいのでしょうか？？？

お礼

早速の解答ありがとうございます。
誤差が出て当り前何ですね。多少歯がゆい結果です。