統計学 条件付きエントロピーの問題

質問

(1) H(X , X) = ?

(2) H(X｜X) = ?

(3) I(X ; X) = ?

情報源 X {a₁, a₂, ..., am} 　　 pi = P(X=ai)

情報源 Y {b₁, b₂, ..., bn} 　　 qi = P(Y=bｊ)　　　　　rij = P(X=ai , Y=bｊ)　とする

XとYの同時エントロピー　H(X , Y) = -Σrij log₂rij　　pi = nΣ(j=1)rij　　pj = mΣ(i=1)rij

……

というように定義していくと、問題はどのように解かれますか。

回答No.1

Tacosan

Y がかわいそうだ.

お礼

そうですね