情報理論：エントロピーの問題について。

質問

【通報xが指数分布
p = (1/a)e^(-x/a) x≦0
= 0 x＞0
にしたがう。エントロピーを求めよ。
】

という問題があるのですが、この解きかたがわかりません。
普通に、
-∫[∞,0]plogp dx
とおいて、解こうとしたのですが、値が∞になったりして、答えが出ません…。

よろしくお願いします。

回答No.1

R_Earl · ベストアンサー

> p = (1/a)e^(-x/a) x≦0
> = 0 x＞0

(1)この不等号の向きはあってますか？
このまま計算すると

-∫[∞,0]plogp dx
= -∫[∞,0] 0log0 dx
= -∫[∞,0] 0 dx
= 0

となってしまい、『値が∞』にはならないです。

(2)対数の底は2でしょうか？

(3)どのような計算をして、どこで∞が出てくるのでしょうか？

この3つについて教えて下さい。

試しに
p = (1/a)e^(-x/a) （ 0 ≦ x ）
= 0 （ x < 0 ）
（不等号の向きを変えました）
で∫[∞, -∞] plogp dxを計算したところ、値が収束しました。