ＡＩＣと対数尤度

質問

このサイト
http://tswww.ism.ac.jp/kawasaki/nagoya2001summer/sld074.htm
を参考にして、ＡＩＣについて現在勉強しています。
Ey[log　f(Y)]を導出するために、未知の分布g()を経験分布関数g^()で近似して、
Ey[log　f(Y)]　＝　∫log　f(y)g(y)dy
　　　　　　　≒　∫log　f(y)g^(y)dy
　　　　　　　≒　1/N　Σlog　f(y)
と導出されるそうなのですが、なぜ未知の分布を経験分布関数で近似できるのか
分かりません。分かる方、教えてください。

回答No.1

masudaya · ベストアンサー

直接の回答が,"時系列解析入門"北川源四郎 岩波
pp.50から54くらいに書いてあります.

要するに経験分布関数はNを大きくすると真の分布関数
に収束するという大数の法則によって近似を正当化します.

お礼

回答に書かれている参考書を購入して読んで理解します。
適切な回答ありがとうございます。

回答No.2

noname#107252

未知の分布ではなく、真の分布と考えればいいでしょう。それに対応する経験的に採用する統計分布モデルをいかに近づけるかというか、差異が少ない分布モデルを調べようとするのが、AICの考えの基本だと思います。
　推定の考え方を理解しましょう。
　AICを勉強するには、参考サイトで十分、理論の導出を理解できる筈です。

　統計は、真値が大数の法則から成り立っていますから、適切な表現ではありませんが、真値の推定は多数決で決まるようなもんです。ですから私には、統計に対する疑問、つまり多数は正しいという疑問が私にはあります。例えば、理論値がない場合、その観測の測定値が間違って行われた場合、その大数の原理から平均が真値の推定値になってしまうのです。真値は神のみ知っているのですから、不確実な値です。だから統計は確率の問題になるのですがね。