情報量、条件付きエントロピーについて

質問

情報量、条件付きエントロピーについて質問があります。

事象A:サイコロを振って出た目

事象B(b1,b2)
b1:サイコロの目は3の倍数
b2:サイコロの目は3の倍数以外

サイコロは普通のサイコロです。(1から6全て確率1/6)

この時、サイコロの目が事前に3の倍数だと分かっている時の、AのエントロピーH(A|b1)を求めよという問題がわかりません。

どうか教えて下さい。

回答No.1

muturajcp

サイコロの目がyで3の倍数の確率を
p(b1,y)
とすると
p(b1,3)=p(b1,6)=1/6
p(b1,1)=p(b1,2)=p(b1,4)=p(b1,5)=0
サイコロの目が3の倍数の確率は
p(b1)=p(b1,3)+p(b1,6)=1/6+1/6=1/3
だから
H(A|b1)=-Σ_{y∈A}p(b1,y)log{p(b1,y)/p(b1)}
H(A|b1)=-(1/6)log{(1/6)/(1/3)}-(1/6)log{(1/6)/(1/3)}
H(A|b1)=-(1/6)log(1/2)-(1/6)log(1/2)
H(A|b1)=-(1/3)log(1/2)
H(A|b1)=(1/3)log2
H(A|b1)=(log2)/3