【統計学基礎】自由度とは？

質問

【統計学基礎】自由度とは？
以下の問題で自由度について答えさせられるのですが自由度とはなんでしょうか？自分はただ自由度＝標本の大きさ－パラメータと考えていたのですが色々パラメータがどれを指すかによってかわってきて混乱してきています。

平均u=5、分散σ^2=4 の正規母集団より大きさn=16の無作為標本を抽出する。このときy=(n-1)s^2/σ^2は以下省略…また‐xを標準化したZは正規標準分布にしたがい、‐Xとs^2は統計的に有意であることから、z/√y/15は自由度？？？のt分布に従う。

という問題です。まずそもそもz/√y/15の式の意味もよくわからないのですがご回答お願いします。

回答No.4

noname#227064 · ベストアンサー

> この式の「-5]は母集団の平均u=5を指しているのですよね？

「5」はその通りですが、「-5」は違いますよ。
E(x1-5)^2 = E(x1-u)^2
で平均からの偏差の二乗の期待値を意味しており、これは母集団の分散の定義そのものです。

> あと分散の式と言うのは確かに^2の式を含みますが前にΣがついた式である1/n-Σ(x-u)^2だと思ったのですが。。。

E(x-u)^2は、母集団が離散分布ならΣp(x)(x-u)^2（ただしp(x)はxとなる確率）、有限母集団なら(1/N)Σ(x-u)^2（ただしNは母集団の大きさ）、連続分布なら∫(x-u)^2dxを意味します。

記述統計と推測統計、母集団と標本についてきちんと区別をする必要があります。
(1/n)Σ(x-u)^2は記述統計の場合の分散の定義です。
推測統計の場合、母集団の分散は上に述べたとおりE(x-u)^2が定義になります。
そして、その母集団の分散の推定値として(1/n)Σ(x-u)^2或いは不偏分散{1/(n-1)}Σ(x-u)^2があるのです。

お礼

＞＞
記述統計と推測統計、母集団と標本についてきちんと区別をする必要があります。
(1/n)Σ(x-u)^2は記述統計の場合の分散の定義です。
推測統計の場合、母集団の分散は上に述べたとおりE(x-u)^2が定義になります。

よく理解できました！わざわざ自分のためにこんなに丁寧に解説していただいて幸いです。試験が終わったら金融のゼミに入りたいので統計を一から勉強したいと思います。

ただまた同じようなことかもしれませんが勉強を進めていくうちに疑問点が見つかりまた質問をしたので、そちらの方もまた御解答頂けたら幸いです。

回答No.3

noname#227064

・平均がuで分散がσ^2である分布から大きさnの標本を得たとき、標本平均の分布の平均uで分散が(σ^2)/nである。
・正規分布については再生性があるため、標本平均の分布も正規分布に従う。
上の二点はどんな参考書でも必ず書いてあると思いますので、確認してみてください。
この二点から
E(‐x-5)^2＝(σ^2)/n = 4/16 = 1/4
となります。

> 明日の試験と言うことでこれ以上自分で文献を探してくるのも厳しいので、すみません。

明日ですか。厳しいですね。
時間があれば平均値の確率密度関数を求めてみるのもいいのですが……

補足

＞＞・平均がuで分散がσ^2である分布から大きさnの標本を得たとき、標本平均の分布の平均uで分散が(σ^2)/nである。
・正規分布については再生性があるため、標本平均の分布も正規分布に従う。
上の二点はどんな参考書でも必ず書いてあると思いますので、確認してみてください。
この二点から
E(‐x-5)^2＝(σ^2)/n = 4/16 = 1/4
となります。

なんとなくやりたいことは見えてきて上記2点も再確認できたのですがそもそもE(x1-5)^2とかが何故分散を意味するのかがわかりません。。
この式の「-5]は母集団の平均u=5を指しているのですよね？
あと分散の式と言うのは確かに^2の式を含みますが前にΣがついた式である1/n-Σ(x-u)^2だと思ったのですが。。。

何度も何度もすみません！

回答No.2

noname#227064

> この場合E(x1-5)^2=？？、E(‐x-5)^2＝？？？である。

x1は平均がu=5、分散がσ^2=4である正規分布に従うことはわかりますよね。
‐xはANo.1でも書きましたが、平均がu、分散が(σ^2)/nである正規分布に従います。
あとは、E(x1-5)^2とE(‐x-5)^2がそれぞれx1と‐xの分散であることがわかっていれば、値を代入するだけです。

補足

―x1は平均がu=5、分散がσ^2=4である正規分布に従うことはわかりますよね。

ここまではx1が母集団から標本されたものですから理解できますが、後の部分の解説された部分が分かりません…。これ以上は厳しいかもしれませんがさらに優しく説明していただけると幸いです。。
明日の試験と言うことでこれ以上自分で文献を探してくるのも厳しいので、すみません。

回答No.1

noname#227064

平均を表すのに断りもなく‐x, ‐Xというように書くのは、マイナスXと誤解してしまうのでしないほうが良いでしょう。
あと、
> ‐Xとs^2は統計的に有意であることから
は有意ではなく独立の書き間違いでしょうね。

まず、標準正規分布にしたがう確率変数Zと自由度φのカイ二乗分布に従う確率変数Yがあり、ZとYが独立であるとき、Z/√(Y/φ)が自由度φのt分布に従うというのは、天下り式に受け入れましょう。
そして、自由度とは分布の形を決めるパラメータの一つと思っておいて構いません。

さて、X1, X2,…XnはN(μ, σ^2)からのiidな確率変数で、μ及びσ^2は未知母数とします。
こういう場合、未知母数μの値がある値μ0と同じかどうか知りたいということがあります。

μの真の値はわかりませんが、X1～Xnの平均mで推定でき、μ=μ0であるならm-μ0という値は0から大きく外れることは滅多にありません。
つまり、0から大きく外れているならμ≠μ0であるに可能性が高いということです。

実際mの分布はN(μ, (σ^2)/n)従いますし、μ=μ0であるなら(m-μ0)/(σ/√n)が標準正規分布に従うことを利用してどの程度滅多にないことか計算できます。
(m-μ0)/(σ/√n)(=z)が0から大きく外れるということは、m-μ0も0から大きく外れていることに注意してください。

しかし、σの値はわからないので推定しないといけません。
σの推定値としては、
s = √{(Σ(Xi-m)^2)/(n-1)}
がありますが、これをσの変わりに使用して(m-μ0)/(s/√n)の値で考えます。
sはσの推定値ですので、(m-μ0)/(s/√n)は標準正規分布に従いませんが、(n-1)(s^2)/(σ^2)(=y)が自由度n-1のカイ二乗分布に従うことと、mとsが独立であることから、
(m-μ0)/(s/√n)
= {(m-μ0)/(σ/√n)}/{(s/√n)/(σ/√n)}
= z/(s/σ)
= z/√{y/(n-1)}
となり、これが自由度n-1のt分布に従うことがわかります。

結局、z/√{y/(n-1)}が0より大きく外れているかどうかを知ることで、μ=μ0かどうかがわかります。

mとsが独立であることは少し難しいので説明はしないでおきます。

疑問点等があれば補足してください。

補足

天下りにするのはわかりました!そう覚えます。
後者についてはもう一度考えてみます。

あと質問の個だしになってしまうのですが以上の問題文の続きで

標本平均‐xの期待値E(‐x)はuに等しく、この性質を推定量の普遍性という。さらにx１の期待値E(x1)は5に等しく、やはり推定量の普遍性を満たしている。いずれかがより望ましい平均uの推定量かを決めるには、それぞれの推定量の分散を比較してより小さい方をより有効な推定量という。この場合E(x1-5)^2=？？、E(‐x-5)^2＝？？？である。

という以上の問題はどうやって考えればよいのでしょうか？
？？の部分がわかりません。また今回に限り‐xと、統一するため書いてしまうのをご容赦ください。