• ベストアンサー

エクセル2010数が合わない【若干ハイレベルかも】

(1)まずセルA1に【 1 】と数字を入れます。 (2)次にセルA2に【 0.5 】と数字を入れます。 (3)セルA3に【 =A2 】と数式を入力します。 (4)セルA4に【 =A3+$A$2 】と数式を入力します。 (5)セルA1~A4を小数点10~20桁くらいまで表示するようにします。 (6)セルA4をオートフィルで200行くらいまで下に表示させます。 これをすると1に0.5づつ加算されていくことになります。しかし、途中からなぜか3.69999999999999とか小数点以下の数字が変わってきます。 セルA3から下に正確に0.5づつ加算させるためにはどうしたらいいですか?

質問者が選んだベストアンサー

  • ベストアンサー
  • Saturn5
  • ベストアンサー率45% (2270/4952)
回答No.1

Excelは内部計算を2進数で処理しています。 整数は完全に2進数に変換できますが、少数を含む数字は2進数で 表すと無限小数になり、誤差が発生します。 これに対する方法は2つです。 (1)表示形式で適当な桁数で四捨五入する。 (2)値を10倍してから計算し、10で割る。 http://pc.nikkeibp.co.jp/pc21/special/gosa/

LucentHeart2
質問者

補足

ご回答ありがとうございます。参考になります。 この誤差が生じている値を条件付き書式に反映させたいのですが、一工夫必要になりそうですね。

関連するQ&A