• ベストアンサー

割り算について

お世話になります。下記の数値の割り算の仕方をお願いします。 数値  A; 12340.71 B; 12316.54 式 (B-A) / A 解答  少数6位で四捨五入して出力 電卓では0.00195855..との具合ですが、Double Single を駆使してみましたがオーバーフローの連続です。どなたか御教授願います。

質問者が選んだベストアンサー

  • ベストアンサー
  • popesyu
  • ベストアンサー率36% (1782/4883)
回答No.1

それぐらいならコードをそのまま載せてもいいんじゃないかなと。 素直に書けば間違いようがないので、それだけの情報ではどこが間違っているかの指摘もできません。 以下サンプル Dim x As Double Dim y As Double Dim z As Double x = 12340.71 y = 12316.54 z = Round((y - x) / x, 6) MsgBox (z)

ryu8472
質問者

お礼

お早い回答有難うございます。確かに情報不足かも。 お書き頂いたサンプルの一回だけの計算なら問題ないのですが、これを下記配列を使用して連続で計算すると何故かオーバーフローの連続になるようです。 DIM HAIR(100,2) As Double 1;X 2;Y 但しX,Yとも5桁で少数第2位 EX 12345.58 等 これを1~100回 Round((y - x) / x, 6)の式を実行するとオーバーフロー発生です。なぜか?今一度、試してみます。  また改めて投稿すると思いますのでその際はよろしくお願いします。 大変有難うございました。  

関連するQ&A