数列に関する最小二乗法

質問

ある数列{X(n)},{S1(n)},{S2(n)},{S3(n)}について，

min{Σ_[n=1,N]({X(n)}-a*{S1(n)}-b*{S2(n)}-c*{S3(n)})^2}

となるような正の実数a,b,cを求めたいのですが，一般的な最小二乗法のように，微分などを使用して求めることはできるのでしょうか？
よろしくお願いします．

回答No.1

stomachman · ベストアンサー

a,b,cが正だという限定がなければ、ごく簡単にできます。
以下、いずれもΣはΣ_[n=1,N]の意味だとして、
E(a,b,c) = Σ(ε(n))^2
ε(n) = {X(n)}-a*{S1(n)}-b*{S2(n)}-c*{S3(n)}
とおくと、a,b,cを変数とする三元一次連立方程式
∂E(a,b,c)/∂a = 0
∂E(a,b,c)/∂b = 0
∂E(a,b,c)/∂c = 0
を解くだけです。その最初の式は
∂E(a,b,c)/∂a = 2Σ(ε(n)(∂ε(n)/∂a))
であり、
∂ε(n)/∂a = -{S1(n)}
ですから、
∂E(a,b,c)/∂a = -2Σ(ε(n){S1(n)})=0
すなわち
Σ{X(n)}{S1(n)} = aΣ({S1(n)}^2)+bΣ({S2(n)}{S1(n)})+cΣ({S3(n)}{S1(n)})
という方程式である。残りの二つの式も同様にして展開できますね。

でもa,b,cが正という条件が付くとかなり難しくなります。

お礼

回答ありがとうございます！

展開方法まで教えていただいて，非常に助かりました．
正という条件が入れられない，という部分は検討してみます．

ありがとうございました．

回答No.2

arrysthmia

常に可能とは、限らない。

まづ、問題の Σ が収束しなければならない。
例えば、ΣX が ∞ 発散で、
ΣS1~2, ΣS2~2, ΣS3~2 がどれも収束する場合、
問題の Σ は発散するから、
min 以前に、a, b, c の関数でない。

次に、収束したからといって
a, b, c について微分可能とは限らない。

まして、Σ の項別に微分したければ、
更に条件が必要になる。

問題の Σ が、a, b, c について一様収束するならば、
項別微分もできて、有限項のときと
ほぼ同様に扱える。

お礼

回答ありがとうございます！

すいません，条件の記載が足りなかったです．
数列は，有限項で計算します．
また，無限だとしても，すべて一様に0に収束します．

今回は有限項で計算しますが，この条件であれば無限項としても
扱える，ということですね．

大変勉強になりました，ありがとうございます！