• 締切済み

Excelの演算誤差について教えてください。

1000以下の数値を切り捨てる場合の演算誤差を無くす方法はありますか? ありましたら、教えてください。

みんなの回答

回答No.3

Excelの数値計算は、14桁以内の整数(小数点を含まない数)を扱う限り、演算誤差は発生しません。

すると、全ての回答が全文表示されます。
noname#232800
noname#232800
回答No.2

誤差って計算機上の問題で、2進数の小数点は近似値で表示してます。 Excel のツールバーで ←.0 か、セルの書式設定で、表示形式、数値、小数点以下の数字でいじれます。 セルに 0.15 を入力。←.0 をクリック、0.2 って表示になります。 これは「まるめ」ではありませんが、表示上の問題として考えても、体験可能です。 「切捨」なので、演算誤差は考えなくて良いと思います。 「四捨五入」で、小数点以下3桁なら 10000倍して「5」を足し、10000分の1にすれば、誤差は無いと思います。

すると、全ての回答が全文表示されます。
  • aokii
  • ベストアンサー率23% (5210/22063)
回答No.1

数値を切り捨てる場合の、演算誤差を無くす方法はありません。 数値を切り捨てるということは、必ず演算誤差がでるということです。

すると、全ての回答が全文表示されます。

関連するQ&A