Студопедия

КАТЕГОРИИ:


Архитектура-(3434)Астрономия-(809)Биология-(7483)Биотехнологии-(1457)Военное дело-(14632)Высокие технологии-(1363)География-(913)Геология-(1438)Государство-(451)Демография-(1065)Дом-(47672)Журналистика и СМИ-(912)Изобретательство-(14524)Иностранные языки-(4268)Информатика-(17799)Искусство-(1338)История-(13644)Компьютеры-(11121)Косметика-(55)Кулинария-(373)Культура-(8427)Лингвистика-(374)Литература-(1642)Маркетинг-(23702)Математика-(16968)Машиностроение-(1700)Медицина-(12668)Менеджмент-(24684)Механика-(15423)Науковедение-(506)Образование-(11852)Охрана труда-(3308)Педагогика-(5571)Полиграфия-(1312)Политика-(7869)Право-(5454)Приборостроение-(1369)Программирование-(2801)Производство-(97182)Промышленность-(8706)Психология-(18388)Религия-(3217)Связь-(10668)Сельское хозяйство-(299)Социология-(6455)Спорт-(42831)Строительство-(4793)Торговля-(5050)Транспорт-(2929)Туризм-(1568)Физика-(3942)Философия-(17015)Финансы-(26596)Химия-(22929)Экология-(12095)Экономика-(9961)Электроника-(8441)Электротехника-(4623)Энергетика-(12629)Юриспруденция-(1492)Ядерная техника-(1748)

Формула Шеннона





Количество информации, получаемое при наступлении одного из ожидаемых событий, вычисляется по формуле Шеннона:

где I – количество информации (в битах) или энтропия до наступления

события;

n – общее количество ожидаемых событий;

pi – вероятности отдельных событий.

Задача. В мешке вперемешку хранятся 30 белых, 15 красных и 15 синих шаров. Наш помощник наугад достаёт один из шаров. Сколько информации мы получим, если узнаем, какого цвета вынутый шар?

Решение:

1) всего шаров: 30 + 15 + 15 = 60

2) вероятности вынимания шаров:

3) количество информации по формуле (1):

Округлив полученный ответ до 2 битов, мы можем сказать, что для выяснения, какого цвета был вынутый шар, нам в общем случае достаточно задать два вопроса с ответами да/нет. То, что ответ равен не 2, а 1,5бита указывает нам, что в половине случаев достаточно будет задать один вопрос: «Это белый шар?» (задаём вопрос именно о белом шаре, так как вероятность достать белый выше – белых шаров больше).





Дата добавления: 2014-01-07; Просмотров: 284; Нарушение авторских прав?; Мы поможем в написании вашей работы!


Нам важно ваше мнение! Был ли полезен опубликованный материал? Да | Нет



ПОИСК ПО САЙТУ:


Рекомендуемые страницы:

Читайте также:
studopedia.su - Студопедия (2013 - 2021) год. Все материалы представленные на сайте исключительно с целью ознакомления читателями и не преследуют коммерческих целей или нарушение авторских прав! Последнее добавление
Генерация страницы за: 0.002 сек.