Тема 7. Оценка информационных характеристик источников сообщений

Задача 7.1.

Определить, является ли эргодическим стационарный дискретный источник сообщений, алфавит которого состоит из четырех знаков , , , , причем безусловные вероятности выбора знаков одинаковы , а условные вероятности заданы таблицей 1.

Таблица 1

	1/3	1/3	1/3
	1/3	1/3	1/3
	1/3	1/3	1/3

Задача 7.2.

Оценить, какую долю общего числа возможных последовательностей следует учитывать в практических расчетах, если эргодический источник характеризуется параметрами: объем алфавита , дв. ед., а число знаков в последовательности .

Задача 7.3.

Определить возможный эффект от устранения избыточности при передаче текста на русском языке, если средняя энтропия русского языка на одну букву с учетом всех ограничений и корреляционных связей составляет 2 дв.ед./букву.

Указание.

Пренебречь различиями в буквах «е» и «ё», а также считать пробел буквой, т.е. следует полагать, что алфавит состоит из 32 букв.

Дата добавления: 2014-12-26