ビットの情報量

質問

知人の生徒から下記に内容の問題の相談受けましたが、
いまいち、理解が出来ず説明が出来ません。
基礎的な事と思いますが、ご理解ある方助言願います。

「一箱に赤球１００個入っているとする（他の色の球はない）。１つの玉を出して色を教えてもらった時、何ビットの情報量がえられるか？」

定義式が分かれば説明出来るのですが、基礎定義等ありますか？

よろしくお願い致します。

回答No.3

tatsumi01 · ベストアンサー

確率 p の事象が起きるとき、その結果を知って得られる情報量は
I = - p・log(p)
です。ここで対数は底２で取ります。

今の問題では、球を取り出した場合、確率 1 で赤ですから
I = 1・log(1) = 0

余談です。
p=1 でも p=0 でも得られる情報量は 0 です。これらの場合は予想が確実につきますから、結果を教えて貰っても得る情報量はないわけです。
情報量が最大になるのは p=1/2 のときです。つまり、硬貨を投げて表か裏かという場合のように予想が付かない現象で結果を（神様から）教えて貰えるなら情報量は最大です。

お礼

より分かりやすい回答ありがとう御座いました。

回答No.2

nrb

１００コ全部同じですので
色の情報だけならば　赤しかないので
赤色である＝１
赤以外で　＝０

とすると１ビット
でも取り出さなくても
一箱に赤球１００個入っているとする（他の色の球はない）。
１つの玉を出して色を教えてもらわなくても
赤色であるのは判る訳ですから
赤色である＝１
赤以外で　＝０
これはもう事前に判ってる情報です
したがって色情報としては
０ビットの報量がえられます

回答No.1

notnot

これで問題の全文ですか？
あらかじめ箱の内容が赤球１００個とわかっているのなら、玉を取り出そうがとりださまいが情報量は増えないので玉の取り出しによる情報量はゼロ（0ビット）です。