Тема 6. Количество информации как мера снятой неопределенности

Задача 6.1.

Контролируемый параметр может принимать 2 значения и с вероятностью . Вследствие ограниченной точности системы контроля могут иметь место ошибки контроля, т. е. вместо может быть зафиксировано и наоборот. Условные вероятности таких событий равны 0,01.

Определить количество информации, получаемое при контроле.

Задача 6.2.

Определить количество информации, содержащееся в одном замере случайной величины , равномерно распределенной на интервале , при условии, что погрешность измерения этой величины распределена по нормальному закону , где .

Задача 6.3.

Определить среднее количество информации, получаемое при передаче элемента сообщения по каналу, описанному матрицей совместных вероятностей:

.

Указание.

При решении данной задачи можно воспользоваться результатами расчета априорной и апостериорной энтропий, полученных в задаче 4.12.

Задача 6.4.

Равновероятные двоичные символы передаются по каналу связи (рисунок 10). Вероятность приема правильного символа равна .

Определить, сколько в среднем информации теряется при передаче одного символа.

Рисунок 10

Задача 6.5.

На вход двоичной системы связи, представляющей собой два последовательных соединенных идентичных канала с вероятностями искажения двоичного символа в каждом (рис. 11), поступают статистически независимые двоичные равновероятные символы. Искажения в любом канале происходят независимо друг от друга.

Определить среднее количество передаваемой информации и .

Рис. 11.

Задача 6.6.

Сообщения из ансамбля передаются по каналу связи, заданному матрицей переходов:

.

Определить, сколько информации об содержится в выходном сообщении и сколько информации об содержится в выходном сообщении ?

Сколько информации в каждом случае теряется в системе связи?

Сколько в среднем информации теряется при передаче одного сообщения?

Задача 6.7.

Определить неопределенность выбора символа на экране, отображающем 32х16 статистически независимых элементов, если каждый элемент может отображать 32 независимых символа.

Задача 6.8.

Определить энтропию сообщения из 8-ми равновероятных статистически независимых десятичных цифр.

Задача 6.9.

Символы азбуки Морзе могут появиться в сообщении с вероятностями: для точки - 0.51, для тире - 0.31, для промежутка между буквами - 0.12, между словами - 0.06. Определить среднее количество информации в сообщении из 500 символов данного алфавита, считая, что связь между последовательными символами отсутствует.

Задача 6.10.

В лотерее N билетов, из них k выигрышных. Студент купил M билетов и после розыгрыша сообщил вам, что выиграл (возможно, не на один билет). Какое количество информации получено?

Задача 6.11.

Брошена пара игральных костей, и известно, что сумма выпавших значений равна 5. Сколько информации содержится в этом сообщении?

Дата добавления: 2014-12-26