標準偏差の算定におけるオーバーフロー

質問

標準偏差を求めるために以下の計算を電卓で行いたいのですがオーバーフローします。
なんとか計算できるいい方法はないでしょうか。
ちなみに電卓は関数電卓でなく一般的な12桁対応のものです。

(0.2×(1700200-154000)の２乗)のルート。

回答No.2

rabbit_cat · ベストアンサー

12桁あるなら
σ=100*√(0.2*(17002-1540)^2 + 0.8*(-300-1540)^2)
で計算できるか。

お礼

ありがとうございます。
うまくいけました。

回答No.3

inara

σ=√(0.2×(1700200-μ)の２乗 + 0.8×(-30000-μ)の２乗)
= 10000×√(0.2×(1.7002-μ/10000)の２乗 + 0.8×(-3-μ/10000)の２乗)
=10000×√(0.2×(170.02-15.4)の２乗 + 0.8×(-3-15.4)の２乗)
です。これならオーバフローしないはずです。

お礼

ありがとうございます。
うまくいけました。

回答No.1

age_momo

√{0.2×(1700200-154000)×(1700200-154000)}

を求めるのでしょうか？なら

(1700200-154000)×√0.2

で同じ値になります。

お礼

ありがとうございます。
うまくいけました。

補足

すみません。算式を端折りすぎました。以下が正しい算式です。
もしよろしければこれで教えていただけますか？

μ=154000
σ=√(0.2×(1700200-μ)の２乗 + 0.8×(-30000-μ)の２乗)。