正規マルコフ情報源のエントロピーについて

質問

次の行列であらわされる正規マルコフ情報源のエントロピーを計算せよ、という課題を出されました
(すでに回収も終わっているのでカンニングにはなりません、念のため)

P=| 0.2 0 0.8 |
　 | 0.4 0.6 0 |
| 0 0.3 0.7 |

まず定常確率を求めたのですが求まった定常確率が間違っていたようなのです。
以下に求める際に用いた式を載せますので間違っている点があればご教授ください。
また、その後のエントロピーの計算に関しても経過と答えを載せてほしいです。

P(0)=0.2P(0)+0.8P(2)
P(1)=0.6P(1)+0.4P(0)
P(2)=0.7P(2)+0.3P(1)

P(0)+P(1)+P(2)=1

この式を解くと各値が1/3となりました。

最後に私はこの辺をあまり理解できていないため質問文にも至らないところが多々あると思います。
そのようなことがあれば補足欄で説明したいと思います。

回答No.2

ur2c · ベストアンサー

> 定常確率に関して
> 口頭で各値が1/3に～なったと説明したところ教授にそれは違うと否定されていたんです。1/3で合っていたなら何故否定されたのでしょう？

状態確率が列ベクトルでなく行ベクトルなのです．だから，解くべき方程式は P x = x でなくて x P = x です．これを sum x = 1 のもとで解くと x = [3 6 8]/17 です．

状態確率が行ベクトルらしいことは，P を見てわかります．行ベクトルなら，ある状態，たとえば状態 1 にいると，次の状態が 1 である確率が 0.2，2 である確率が 0，3 である確率が 0.8 で，合計が 1 になります．もし列ベクトルだったら，たとえば状態 1 にいると，次の状態が 1 である確率が 0.2，2 である確率が 0.4，3 である確率が 0 になってしまい，合計が 1 になりません．

お礼

そもそもが間違っていたんですね、勉強しなおしたいと思います。ありがとうございました

回答No.3

stomachman

ANo.1のコメントについてです。

　No.2でのご指摘の通り、数値を見れば行列かベクトルかどっちかが転置されてるのは明らかでしたね。御質問の計算にうっかりつられちゃいました。たはは。

回答No.1

stomachman

仮にご質問のPがマルコフ過程の遷移確率行列のことだとすると、行列Pの第(i+1)行(j+1)列は、「ある時出力された信号がiであったときに、その次の信号がjになる条件付き確率」P(j|i)を示しています。一方、このマルコフ過程の定常確率pは
　　Pp=p
となるようなベクトルp=(p(0), p(1), p(2))' （ただしp(0)+p(1)+p(2)=1。なお「'」は転置のこと）であり、行列Pとは区別しなくちゃいけません。（Pと書いたら×を喰らうでしょう。）

>P(0)=0.2P(0)+0.8P(2)

>P(1)=0.6P(1)+0.4P(0)

>P(2)=0.7P(2)+0.3P(1)

>P(0)+P(1)+P(2)=1

　Pを別の文字に変えればOKですね。整理すると
　　p(0)-p(2) = 0

　　p(0)-p(1) = 0

　　p(1)-p(2) = 0

　　p(0)+p(1)+p(2)=1
なので
　　p(0)=p(1)=p(2)=1/3
が解というのもOKです。

　エントロピーSを計算するには、まず「信号jが来たという条件下で次の信号を受けて得られる情報量の平均値（条件付きエントロピー）」S(j):
　　S(j)= -Σ{i=0～2}P(i|j)log(P(i|j))　　　（ただしlog(x)の底は2）
を出します。これはもう、デンタク叩いて計算するだけの話です。そして、先に計算しておいた定常確率p(j)を使って
　　S = Σ{j=0～2}p(j)S(j)

お礼

回答ありがとうございます、定常確率の表記に関して無知をさらしてしまい申し訳ないです。
また、定常確率に関してなのですが回答者が口頭で各値が1/3に～なったと説明したところ教授にそれは違うと否定されていたんです。1/3で合っていたなら何故否定されたのでしょう？

エントロピーに関しては計算した結果約0.89となりました。