回帰係数の有意性の検定

質問

線形回帰式
y=b0+Σ[i=1～p]bi・xi
y:被説明変数　xi:説明変数　bi:係数

があり、Ｎ組のデータからbiの最尤推定量 bi~ を求めるとします。
この bi~ の有意性を検定する場合、bi~ が最尤推定量の漸近正規性から、以下の正規分布に従っているとみなします。

N(bi★,σ^2)　(bi★は真のパラメータ、分散σ^2は未知)

次に以下の仮説検定を行います。

帰無仮説　H0:bi★=0
対立仮説　H1:bi★≠0

ここでは bi~ の分散が未知なので、bi~ の標本分散 s^2 を用いて
以下のt統計量により検定を行います。

t=bi~/(s/√N) ～　自由度N-1のt分布

以上のような解説を聞いたのですが
最尤推定量 bi~ はＮ個のデータから１回推定を行っただけなので
標本は１個しかありませんよね？
だったら、標本分散s^2って計算できない気がするのですが…
私の理解のどこがおかしいでしょうか？

回答No.1

kagu_march

N(bi★,σ^2)　(bi★は真のパラメータ、分散σ^2は未知)
という事は、各bi~(i=0,...,p)が平均は異なるが、分散は等しい正規分布に従うという事になりますね。

これは、一般には正しくありません。

y=b0+Σ[i=1～p]bi・xi+ei　(eiは攪乱項)なる線形回帰モデルがあり、
攪乱項eiの分布が正規分布N(0,σ^2)であると仮定し、その仮定の下に最尤推定量を求めるのではないでしょうか？

表記の簡単化のために、求めるパラメータをベクトルにまとめ、
b=(b0,...,bp)'
とすると、最尤推定量の漸近的正規性から、b~は以下の分布に漸近的に従います。

b~～N（b★、E(I(b★))^(-1) )

但し、E(I(b★))は対数尤度関数のHessian行列にマイナスを付けたもの。

各bi~は、E(I(b★))^(-1)のi番目の対角成分を分散として持ちます。

お礼

ご回答ありがとうございました！