• ベストアンサー
※ ChatGPTを利用し、要約された質問です(原文:javaのdoubleでの計算による誤差)

javaのdoubleでの計算による誤差

このQ&Aのポイント
  • javaのdoubleを使った計算で、正確な値が得られないことがあります。特に小数点の計算で誤差が生じることがあります。
  • この問題は、コンピュータが浮動小数点数を2進数で表現するために起こります。2進数表現では、一部の小数を正確に表すことができません。
  • そのため、double型の変数を使った足し算や割り算の結果には微小な誤差が生じることがあります。これは計算の順序や丸め誤差などの要素も関与しています。

質問者が選んだベストアンサー

  • ベストアンサー
noname#147388
noname#147388
回答No.2

丸め誤差

すると、全ての回答が全文表示されます。

その他の回答 (3)

  • Tacosan
  • ベストアンサー率23% (3656/15482)
回答No.4

この数値でどうして「デノーマル数の事と推察」したのでしょうか>#3. ちなみに今の問題は数値計算では当然念頭に置かなければならないことです.

すると、全ての回答が全文表示されます。
  • yhc3594
  • ベストアンサー率27% (25/92)
回答No.3

デノーマル数の事と推察致します。 *コンピューターの内部は2進数(0と1)で表現するので、限界がある。 詳しい事は以下を参照して下さい。 http://www.g200kg.com/archives/2011/10/javascript-1.html

bajiriko
質問者

お礼

2進数と10進数の誤差ですね。 ありがとうございました。

すると、全ての回答が全文表示されます。
  • Tacosan
  • ベストアンサー率23% (3656/15482)
回答No.1

double の値が内部でどのように保持されているかを調べてみてください.

bajiriko
質問者

お礼

調べます。ありがとうございました。

すると、全ての回答が全文表示されます。

関連するQ&A