回帰係数のt検定について

質問

回帰係数の検定では回帰定数を０とした帰無仮説とするということを、とあるテキストに書いてあり、その場合のt検定の式が下記のようになるらしいですが

t=（求めた回帰定数）/√{（残差平方和）/（n-2) /（説明変数の偏差平方和）}

このような式に至る過程を詳細に知りたいです。
どなたか詳しい方は教えて頂けませんでしょうか？一番気になる点は自由度が（n-2)になる点です。何卒宜しくお願い致します。

回答No.6

backs

かつては涌井・涌井「図解でわかる回帰分析」日本実業出版社（2004）が分かりやすくていい本だと思っていましたが、最近は少し冗長的な説明がされている本だと思います(^_^;)

回帰分析にのみ焦点をあてて勉強したなら、岩崎学「統計的データ解析入門　単回帰分析」東京図書（2006）がおススメです。

自分で少しレベルアップしたと思えるようになったら、野間口・野間口【訳】「一般線形モデルによる生物科学のための現代統計学」共立出版（2007）を読んでみるといいかなぁ、と思います。回帰分析の章だけでも十分にいい勉強になるはずです。

お礼

back様
ありがとうございます。早速あたってみます。

回答No.5

backs

> Veを分散の推定値=残差平方和/(n-2)

理解しました。n-2は誤差分散の不偏推定値を求める公式の分母のn-2だったのですね。

回答No.4

noname#227064

追加。
> このような式に至る過程を詳細に知りたいです。

詳しく記載された回帰分析のテキストをご覧になるのが一番です。
ここで説明をするとなると、かなり大変な分量になります。
線形代数がわかっている方に対してなら難しくはないのですが……

No.3さんへ
> この偏回帰係数の検定に用いるt値を計算する公式で、このようなものを見たことがないのですが、例えば、どこに載っていますか？参考書やwebページなどで。

単回帰分析の傾きの検定なら、bを傾き、Veを分散の推定値=残差平方和/(n-2)、Sxxを説明変数の偏差平方和=Σ(x-Σx/n)^2とすると、
b/sqrt(Ve/Sxx)
が自由度n-2のt分布に従うというのは、大概のテキストに書かれていると思うのですが？

お礼

quaestio様
ご回答ありがとうございます。私は線形代数に関しての知識は疎いので、その辺りの勉強も必要ですね。

>>詳しく記載された回帰分析のテキストをご覧になるのが一番です。

お薦めの参考書がございましたら、教えて頂けたらと思います。

回答No.3

backs

ぜひ教えていただきたいのですが、

>> t=（求めた回帰定数）/√{（残差平方和）/（n-2) /（説明変数の偏差平方和）}

> この式でいいのですが、「単回帰分析での傾き」の話でしょうか？

この偏回帰係数の検定に用いるt値を計算する公式で、このようなものを見たことがないのですが、例えば、どこに載っていますか？参考書やwebページなどで。

お礼

>backs様
御礼が遅れて申し訳ございません。ご回答ありがとうございます。説明が不十分だったのと、日本語のみの式で分かりにくかったと反省しております。ちなみに問題の参考書は、日科技連出版社発行の「Excelソルバー多変量解析」因果関係分析・予測手法編（著者：中山厚穂）です。著者は大学教員ですが、専攻が経済学ですので、概論的な説明が多く、式の証明や過程の説明についてはかなり省いています。それはそれでいいのですが、きちんと数学の基礎を身に付けておきたいという思いもあります。統計学に関してお薦めの良書がございましたら、教えて頂けないでしょうか？

回答No.2

noname#227064

単回帰分析での傾きについてなら、

> t=（求めた回帰定数）/√{（残差平方和）/（n-2) /（説明変数の偏差平方和）}

この式でいいのですが、「単回帰分析での傾き」の話でしょうか？

> 一番気になる点は自由度が（n-2)になる点です。

感覚的な説明なら、傾きと切片を推定したために自由度が2減ったからということになりますが、これでは納得できませんか？

回答No.1

backs

結局、求めた偏回帰係数を標準誤差で割ればよいのですが、√{（残差平方和）/（n-2) /（説明変数の偏差平方和）}というのがそのテキストでいうところの標準誤差を求める式なのでしょうか、、、（ちょっと違う気がするのです）

テキストを明示するか、あるいはt値の式を正確に書くとはっきりしますね(^_^)

*　掲示板などで数式を書く場合、√はsqrt()で表現します。そうでないと、どこからどこまでが√なのか分かりません（今回のように典型的な式ならばある程度、予想はつくのですが）。また、なるべく日本語ではなく、半角英数で表現した方が誤解が少なくて済みます。

b: 偏回帰係数
SSE: 残差平方和
bSSE: 説明変数の偏差平方和

t = b / sqrt({SSE / (n-2) / bSSE})

いずれにしても、この式は少し変ですね？

http://aoki2.si.gunma-u.ac.jp/lecture/Regression/mreg/mreg3.html