• ベストアンサー

VB2005で掛け算の結果がおかしい

VB2005を利用しています。 例えば以下のように記述すると、 Dim a As Double = 2.3 Dim b As Double = 27000 Dim c As Double c = a * b cに62099.999999999993という 値が入ります。 a=2.1だと c=56700.0 a=2.2だと c=59400.000000000007 となります。 本当はa=2.3の場合には62100.0となって欲しいのですが。 何がおかしいのでしょうか?

質問者が選んだベストアンサー

  • ベストアンサー
  • AlexSuns
  • ベストアンサー率67% (78/115)
回答No.2

Decimal型を使用してみてはどうでしょう ただし高速演算には向きませんが・・・ 事務処理演算としてだったら、正確に演算されると思います

rabu_chihaha
質問者

お礼

ありがとうございます。 できました。

その他の回答 (1)

  • c80s3xxx
  • ベストアンサー率49% (1634/3294)
回答No.1

浮動小数点演算というのはそういうものですが.

rabu_chihaha
質問者

お礼

ありがとうございます。そういものですか・・・。

関連するQ&A