- ベストアンサー
※ ChatGPTを利用し、要約された質問です(原文:見えない浮動小数点演算誤差?)
見えない浮動小数点演算誤差に困惑しています
このQ&Aのポイント
- VBAを使用して、二つのBOOKにある表のデータの数値を比較しています。
- 数式バー上の値もまったく同じなのに、相違があると判定されています。
- 浮動小数点演算誤差により、見た目が同じでも小数点以下の違いが生じている可能性があります。
- みんなの回答 (16)
- 専門家の回答
質問者が選んだベストアンサー
その他の回答 (15)
- chayamati
- ベストアンサー率41% (260/625)
回答No.16
- HohoPapa
- ベストアンサー率65% (455/693)
回答No.15
- chayamati
- ベストアンサー率41% (260/625)
回答No.13
- chayamati
- ベストアンサー率41% (260/625)
回答No.12
- HohoPapa
- ベストアンサー率65% (455/693)
回答No.11
- HohoPapa
- ベストアンサー率65% (455/693)
回答No.10
- HohoPapa
- ベストアンサー率65% (455/693)
回答No.9
- msMike
- ベストアンサー率20% (371/1817)
回答No.8
- msMike
- ベストアンサー率20% (371/1817)
回答No.7
- msMike
- ベストアンサー率20% (371/1817)
回答No.6
- 1
- 2
お礼
ありがとうございます。 浮動小数点演算誤差が発生する過程が添付の図でよくわかりました。 ただ、わたしの課題は与えられたデータの差異を調べることなのです。 そして与えられたデータは、見た目も、数式バーで見ても0.669でまったく同一。 しかし、ご提示いただいた Function myDif(LRng As Range, RRng As Range) As Double myDif = LRng.Value - RRng.Value End Function でも差異が現れます。 もちろん、0.669をセルに直接入力すれば差異は出ません。 この目に見えない違いをどうすべきかなのです。 ・・・と言って、これは自分でありのままを説明するしかないですね、やっぱり。(理解してもらえるか自信がありませんが)