• ベストアンサー

fortran90

fortran90で、シンプソン1/3 公式による自動積分プログラムを作る際の質問です。例えば円周率を求めるとして精度を10^(-6)までにするにはどうすればよいですか?どーしても10^(-4)が限界です。

質問者が選んだベストアンサー

  • ベストアンサー
  • xcrOSgS2wY
  • ベストアンサー率50% (1006/1985)
回答No.1

質問の内容から直接正解を回答することは無理ですが(計算の順序が分からないので)、演算精度の限界に近いところでの計算結果の精度は、演算の順序によって大きく左右されますので、四則演算の順序を見直してみてはいかがでしょうか。 どうしてもダメなら、変数を単精度ではなく倍精度にする・・・のは反則かな。

その他の回答 (1)

  • xcrOSgS2wY
  • ベストアンサー率50% (1006/1985)
回答No.2

質問の内容から直接正解を回答することは無理ですが(計算の順序が分からないので)、演算精度の限界に近いところでの計算結果の精度は、演算の順序によって大きく左右されますので、四則演算の順序を見直してみてはいかがでしょうか。 どうしてもダメなら、変数を単精度ではなく倍精度にする・・・のは反則かな。

関連するQ&A