Следовательно, информация о реализации одного из них

S о.

Е-

О Q.

M

З-

И ш

О

Н I (В

О.

X Q.

.5

U со и

D о

Q.

X (С

It

З-

О x

* и

(1)

о

§

(И

о

ш I <ь

■ъ а.

Г

<с

X

к

з: н к

с

о

О

о «о

о

равняется I = log₂16 = 4 бита!!!!!!

Пример 3. Решим предыдущую задачу для случая, когда сообщение об исходе случайного события было следующим: "верхняя перевернутая карта оказалась черной дамой".

Решение: отличие данной задачи от предыдущей заключается в том, что в результате сообщения об исходе случайного события не наступает полной определенности: выбранная карта может иметь одну из двух черных мастей. В этом случае, прежде чем воспользоваться формулой Хартли, необходимо вспомнить, что информация есть уменьшение неопределенности знаний:

I = H₁- Н₂

До переворота карты неопределенность (энтропия) составляла Н₁= log₂N₁ после него Н₂= log₂N₂ (причем для нашей задачи N₁= 16, a N₂= 2).

В итоге информация вычисляется следующим образом:

I = Н₁– Н₂= log₂N₁– log₂N₂= log₂N₁/N₂= log₂ 16/2 = 3 бита

Заметим, что в случае, когда нам называют карту точно, неопределенность результата исчезает, N2 = 1, и мы получаем "традиционную" формулу Хартли.

И еще одно полезное наблюдение.

Полная информация о результате рассматриваемого опыта составляет 4 бита (пример 1). В данном же случае, мы получили 3 бита информации, а оставшийся четвертый описывает сохранившуюся неопределенность выбора между двумя дамами черной масти.

Дата добавления: 2014-01-13