• ベストアンサー
※ ChatGPTを利用し、要約された質問です(原文:小数の足し算をすると「1000.999999」みたいになってしまう)

Flash8で小数の足し算をした場合に生じる誤差とその対処法

このQ&Aのポイント
  • Flash8の環境で小数の足し算をすると、一部の値が期待通りに表示されない現象が生じることがあります。
  • この現象は、コンピュータ内部での浮動小数点数の表現に起因しています。
  • 対処法としては、小数の表示精度を制御するためにtoFixed()関数を使用する方法があります。

質問者が選んだベストアンサー

  • ベストアンサー
  • suzukikun
  • ベストアンサー率28% (372/1325)
回答No.1

計算機は2進法で計算しているので10進法の0.1が循環小数になります。ですから誤差が必ず出てきます。1/3が0.333…になってこれを途中で切り捨てて計算しているようなイメージです。 対処法はその時々によって違いますが、1000倍して足して1000で割るとかなるべく整数演算をするように式を変換するというのが良く行われます。

tenketu
質問者

お礼

今やってみたらうまくいきました。 どうもありがとうございます。 勉強にもなりました。

関連するQ&A