ベイズ推定法の項目についてです。

質問

ベイズ推定法の項目についてです。

ハイパーパラメータβは訓練標本Xが最も生起しやすいように、すなわち、p(X;β)を最大にするように設定することは自然であろう。

と、書かれてるのですが、どうして自然なんですか？

回答No.1

ur2c · ベストアンサー

これは最尤法の原理そのものです。

話をはっきりさせるため、X は確率変数で、x はその実現値とします。つまり以下、訓練標本は x であって、X ではありません。

p(X;b) は X の生起しやすさを説明するためのモデルです。b は、p() の枠組みの範囲内で調整をするための変数です。b をいじることによって、X の実現値 x を生起しやすくも、しにくくもできます。

実際に起きたことは、起きやすかったからこそ起きたのだ、と思うことにします。起きそうもないことが実際には起きたと思うのは、奇跡を認めることだから不自然ですよね？ そして x は実際に生起したことがわかっています。

それなら b は、x をできるだけ生起しやすく調整するのが妥当でしょう。なにしろ P() は X の起きやすさを説明するための道具で、X = x が実際に起きちゃったのですから。だから p(X=x,b) を最大化するように b を設定するのが自然なわけです。

お礼

丁寧な回答ありがとうございます。