分散共分散行列とは？

質問

分散共分散行列のことを調べたのですが、参考になるものがあまり見つかりません。教えてください。
分散共分散行列とは、どのようなもののことを言うのでしょうか?
また、どうしてその行列が分散を表しているのでしょうか?
その、行列の行列式？が小さければ、分散が小さいといえるのでしょうか?
良く分からないので、詳しい方、ぜひぜひ教えてください。
よろしくお願いします。

回答No.1

adinat · ベストアンサー

多変数の確率変数の特性値の一種です。簡単のため、まず二変数の確率変数Z=(X,Y)について説明します。

一般に二つの確率変数X,Yがあったとき、cov(X,Y)=E[(X-E(X))(Y-E(Y))]をXとYの共分散と呼びます。共分散は正にも負にもなり、雑にいって正で大きいときはXとYは正の相関を、負で小さいときはXとYは負の相関を持ち、絶対値が小さいときは、XとYは無相関に近くなります。これらの用語はよく使われるので、また調べてみてください。さて、定義からcov(X,X)はXの分散に他なりません。つまり自分との共分散は分散になるというわけです。

そこで、1,1成分にcov(X,X)を、1,2成分にcov(X,Y)を、2,1成分にcov(Y,X)を、2,2成分にcov(Y,Y)を並べた2×2の行列をZ=(X,Y)の分散共分散行列と呼びます。これは正定値の対称行列です。正定値というのは、固有値が全部非負という意味であって、これは通常の分散が非負であることに対応しています。文字通り、分散(対角成分に)と共分散(非対角成分に)が並んだ行列な分けです。

n変数の確率変数Z=(X_1,…,X_n)のときは、i,j成分がcov(X_i,X_j)なるn×n行列を、Zの分散共分散行列と呼びます。

1変数の正規分布が平均と分散で完全に分布が決定されるように、多変数の正規分布は平均ベクトル(各成分の平均)と分散共分散行列で完全に分布が決まります。この意味で、まさに多変数の分散を表すものが、この分散共分散行列ということがお分かりだと思います。少し難しい言葉を使えば、多変数版の2次モーメントを決定するもの、といえます。