double型の精度

質問

static doubleで配列を作り
0.3454703165とセットして
宣言しました。

しかし、実行してウォッチで見ると
0.345470316499999になってしまいます。

なぜでしょうか？

回答No.1

ymmasayan · ベストアンサー

floatでもdoubleでも内部では２進数で数値を表しています。
例として小数点以下は
0.1(２進)・・０．５
0.01・・・・・０．２５
0.001・・・・０．１２５
このやり方で10進数→2進数→10進数とやると必ず元に戻るとは限りません。
2進数の桁数の限界による変換誤差ですね。