主成分分析の固有値について

質問

主成分分析を行うとき、行列の固有値問題を解きますよね。
そこで、対角成分に固有値が降順に並ぶ行列において、
累積寄与率がある値になるまで固有値を上から順番に
足し合わせていくのはわかりました。そこで、質問です。
固有値を降順に並べるとは、負の固有値で大きな値も
含まれるように「固有値の絶対値」で降順なのですか？
それとも、正の固有値のみで考えて降順なのですか？
初歩的な質問ですみませんが、どうか教えて頂きたいと
思います。

回答No.1

kamiyasiro · ベストアンサー

なかなか回答が無いので私から，
私は応用統計学の学位があり，企業でSQCを普及する立場にある者です．

主成分分析は，主成分軸の分散（固有値）が大きい順にスペクトル分解し
データを縮約して見る方法ですので，
「固有値の絶対値の大きい順に見る」というのは，意図としては正解です．
時々，このような発想（負値も含んで大きい順）をされる方がみえます．

しかし，分散共分散行列を出発行列にしても，相関係数行列を出発行列にしても
それらは，いずれも半正定値行列ですので，固有値は非負です．

従って，ご質問の回答ですが，「そのようなケースはありません」となります．

（分散共分散行列が半正定値行列になるということは，ここの質問にあります．
基準化したデータの分散共分散行列が相関係数行列ですので，
分散共分散行列が半正定値なら，相関係数行列が半正定値であることは自明です）

なお，主成分分析の軸上の分散は固有値に等しいと書きましたが，
その分布はχ^2分布です．

これは，関連知識として覚えておいて損はありません．