VB6のFIX関数での誤差について

質問

VB6のFIX関数を使用すると次の事象が発生しました。
私自身で制限事項等を調べてみたのですが、探す事が
できませんでした。FIX関数へは、DOUBLE型の数値また
は数式を入れる構文となっていますが、今回はDOUBLE型
への明示的な変換は行っていませんでした。しかし、VB6
はデータ型をあまり意識しなくても良い仕様の言語である
ので内部的にDOUBLE型へ変換しているのであれば誤差が
あるのは矛盾していると思います。
マイクロソフトのサポートもVB6については終了している
ので個人的に聞いてもだめでした。
また、VS2005で同じFIX関数を試してみると正確な値が戻
ってきました。
以上、よろしくお願いします。

FIX(7520*0.15) を実行すると「1127」が表示されます。
実際は、「1128」なのですが1円の誤差が発生します。
FIX(DOUBLE(7520*0.15))を実行すると「1128」が表示され
ます。
※　実行環境　OS：Windows XP SP2、
Visual Basic Ver 6 Professional SP5

回答No.2

Hayashi_Trek · ベストアンサー

0.15 のデータ型はなんですか？
下記プログラムでは正しい値が出ますよ。
Dim a As Currency
Dim b As Currency
Dim c As Currency
Dim d As Double
a = 7520
b = 0.15
d = 0.15
c = Fix(a * b)
MsgBox CStr(c)
c = Fix(a * d)
MsgBox CStr(c)

お礼

0.15がdoubleとなっていました。
参考にさせていただきます。

回答No.1

Hayashi_Trek

コンピュータの中では数値を2進数で扱うので、整数には大きさの制限があり、実数にはそれに加えて小数で表現する桁数の限界があります。
これはコンピュータで数値計算をする場合に注意しなければならない事柄です。
この場合も、7502*0.15の結果が例えば1127.999999998とかになっているのです。
人間ならば答えは1128だなと「察する」ことが出来ますが、コンピュータは律儀に1127を返します。

回避策としては、
・小数点４桁目あたりで四捨五入してからFIX()する。
・計算に使用する数値をdouboe型ではなく通貨型にする。
のいずれかでどうでしょう？

補足

ありがとうございました。
回避策の２番目ですが、
Dim a As Currency
a = 7520
Fix(a * 0.15) としても「1127」とやはり表示されます。
また、同じパソコン・ＯＳなのにVB6ではだめで
VS2005ならＯＫなのかが理解できません。