多次元正規分布のパラメータに対する仮定（条件）

質問

1点お聞きしたいことがあります。
多次元正規分布のパラメータΣ（シグマ）は、
正値対称行列だという仮定が
初めからあるかどうかを知りたいです。

シグマの行列式が正であれば、
結果として正値対称であることが示せるのか、
そうでないのかがわからず困っております。
本を読むと、多くの本には正値であるという条件が
ついているような気がします。

この問題の解法の１つとしては、
多次元正規分布のモーメント母関数を求め、
そこから分散を求めたらシグマに一致したので、
シグマは正値対称である、という方法があると思いますが、
この方法ではおそらく何十時間かかるか予想もつかないので
ご質問いたしました。

回答No.2

adinat · ベストアンサー

はっきりいって何が疑問なのか分からない。問題点をもっと明確にせよ。

正規分布を密度から定義するとして、
f(x)=1/{√{(2π)^n|Σ|}}exp{-(x-μ)^tΣ^{-1}(x-μ)/2}
と書いたとする。

まずΣが正定値である必要性について。適当な基底の取り替えによって、Σは対角行列と仮定してよいけれども、そうするとexpの部分は、
Πexp(-1/λ_i(x_i-μ_i)^2)
となる。λ_iはΣの固有値。だから負の固有値があれば、f(x)は可積分にならない。つまりR^n上で積分すると無限大になる。これはf(x)が確率密度関数であること(R^n上で可積分で、積分値が1)に矛盾する。したがって、Σが対称行列のとき、f(x)が確率密度関数になるためには、Σは正定値であることが必要。このことはもう少し直感的にいうと、基底の取替え(1次の変数変換)によって、確率密度関数が各成分に分離されるが、この各成分がそれぞれ分散λ_iの正規分布になるのです。したがってすべての固有値は正でないと困るというわけ。

次にΣを対称行列にする必然性について。expの中身は、x=(x_1,…,x_n)の2次形式だから、Σ^{-1}が対称行列でないと仮定しても、ある対称行列A^{-1}が存在して、
-(x-μ)^tΣ^{-1}(x-μ)/2=-(x-μ)^tA^{-1}(x-μ)/2
とかける。一般にΣが対称行列でないとき、|Σ|≠|A|であることに注意せよ。そうするとexpの中身をAに置き換えてf(x)をR^n上で積分すると、一般には1にならない。したがって、Σは対称行列と仮定する必要がある。別に対称にしなくても、係数を1/{√{(2π)^n|A|}}に変えれば密度関数になりうるけれども、この場合は、ΣそのものをAにとりかえてもf(x)はまったく同じ分布を定めるから、対称行列に取らなければ新しい分布が出てくる、というわけでもない。

結局、Σを正値対称に取れば、ただひとつの正規分布を定めることが出来るというわけ。

お礼

本日やっと理解できました。
私の不出来に辛抱強くお付き合い下さり
誠にありがとうございました。
またいつかお目にかかれれば幸いです。
失礼します。

回答No.1

adinat

1次元の正規分布なら、平均mと分散σ^2で分布が決定されます。分散の定義からσ^2≧0（つまり分散は正値）です。

これとまったく同様のことが多次元正規分布にも言えます。つまり平均ベクトルMと分散共分散行列Σで分布が完全に決定します。Σの定義は、第i,j成分がCOV(X_i,X_j)=E[(X_i-E[X_i])(X_j-E[X_j])]で与えられる行列です。定義から対称行列であることは明らかでしょう。さらに分散が非負であるのと同様に、これが正値であることもすぐに分かります。次のようにやるのが普通です。

対称行列A=(a_{ij})が正値であるとは、任意のベクトルvに対して、Σa_{ij}v_iv_j≧0となることです。内積でかけば、(Av,v)≧0と言っても同じです。さて、共分散の性質から、
ΣCOV(X_i,X_j)v_iv_j=COV(v_1X_1+…+v_nX_n,v_1X_1+…+v_nX_n)
ですが、この右辺はv_1X_1+…+v_nX_nの分散ですから、常に非負です。これで証明が終わっています。なお、和はi,jについて、1からnまで取るものとします。

正規分布のパラメータΣとは、分散共分散行列のことなので、これは特に明記しなくても常に正値対称になるというわけですね。

お礼

ご回答ありがとうございます。

補足