統計の最尤法について

質問

最尤法、尤度関数について質問です。
正規分布、ポアソン分布などは尤度関数が積の形で表わされるのに対し二項分布はなぜ違うのでしょうか？

回答No.4

noname#227064

二項分布はベルヌ―イ試行を繰り返し和をとった分布でもあります。

成功確率がpのベルヌーイ試行の確率関数は
P(x） = p^x (1-p)^(1-x)
なので、これを独立にn回試行すれば、その尤度関数は
P(x1)P(x2)・・・P(xn) = p^x1 (1-p)^(1-x1) p^x2 (1-p)^(1-x2) ・・・p^xn (1-p)^(1-xn)
= p^(Σxi) (1-p)^(n-Σxi)
となり、二項係数を除き二項分布の尤度関数と同じ形で表されます。

回答No.3

takurinta

No.1の補足
> もし二項分布の尤度関数=P(x1)P(x2)…P(xn)
> ならば
> 尤度関数=nC1nC2nC3…nC(n-1)・p(1-p)^(n-1)p^2(1-p)^(n-2)…
> となるのではないでしょうか？

を見たところどうも勘違いをしているのではないかと思われました。

尤度はデータを固定してパラメータの式として見るものです。つまり、あるデータX=kが得られた場合の尤度関数は、二項分布の確率関数
nCk p^k * (1-p)^(n-k)
をpの関数として見ている、ということです。つまり、そのまま単独の式です。

X=0,1,2,3,...のすべての場合を一回ずつ掛けるというわけではないです。

掛けることがあるとしたら、X_1=3, X_2=5, X_3=2,..など、複数の二項分布のデータの同時分布を考えるときに
nC3 p^3 q^(n-3) * nC5 p^5 q^(n-5) * nC2 p^2 q^(n-2)
などとするかもしれませんが、実質pの関数になっている部分にしか興味はないので、その場合はnCxの部分は適当な係数として深く考えないでいいということになります (データがgivenなので変動しない)。

お礼

ありがとうございます。

少しわかってきたような気がします。
でも逆にポアソンや正規分布はなぜ積の形にするのかがわかりません。
二項分布みたいにそのままでもいいような気がしますが…

回答No.2

kamiyasiro

尤度は同時確率ですから、基本的に積です。

ただ、微分を楽にするために対数尤度に変形することがあります。

あなたの見られたのは、後者では。

お礼

ありがとうございます。

対数尤度ではないようです。

回答No.1

buenaarbol

Wikipediaを見る限り確率質量関数は積担っていると思いますが・・・
積の形とはどういう意味ですか？

何か文献の引用があれば分かりやすいです．

参考URL：

http://ja.wikipedia.org/wiki/%E4%BA%8C%E9%A0%85%E5%88%86%E5%B8%83

補足

蓑谷の「統計学入門」を読んでいました(他の本と書いていることは変わらないかもしれませんが…）

ポアソンや正規分布では
尤度関数=P(x1)P(x2)…P(xn)
となっていると思いますが
二項分布では
尤度関数=P(xk)
となっていると考えました。

もし二項分布の尤度関数=P(x1)P(x2)…P(xn)
ならば
尤度関数=nC1nC2nC3…nC(n-1)・p(1-p)^(n-1)p^2(1-p)^(n-2)…
となるのではないでしょうか？

（当然教科書やwikiに書いてあることが間違っているとは思っていません（笑）
どこが間違っているのでしょうか？）