エントロピーを求める問題です。

質問

エントロピーを求める問題です。

A、Bからなる情報源があり、2つの文字の結合確率は次のとおりである。
P（A,A）＝0.7、P（A,B）＝0.1、P（B,A）＝0.1、P（B,B）＝0.1
この情報源を単純マルコフ情報源とするとき、この情報源のエントロピーを求めよ。

答えは、0.63なのですが、どうしても導出できません。もし。解かる方がいたら教えてください。

回答No.1

f272

Aが出力されたことを知っている条件で，その次の文字を読むときに得る条件付エントロピーは計算できますか？同様に，Bが出力されたことを知っている条件で，その次の文字を読むときに得る条件付エントロピーは計算できますか？
その二つを，定常状態でのAとBの頻度を重みとして平均すれば良いですね。