В этом случае скорость передачи информации составит

I(X) = V_x H(X), (11)

Где V_x – скорость передачи элементарных символов сигнала.

В этом случае, пропускная способность канала без помех равна

(12)

Полагая V_x заданой, получим, что максимальная скорость передачи информации будет обеспечена максимальной энтропией источника сообщения

(13)

т.е. при равномерном распределении вероятностей и статистической независимости символов алфавита сигналов.

Если известна ширина DF_k, то пропускная способность канала

С = max{I(x)}=2DF_klog₂N, (14)

где N - объем алфавита.

Чтобы определить в какой степени скорость передачи информации может быть приближена к пропускной способности канала воспользуемся теореммой Шеннона для дискретного канала без помех.

Для канала без помех доказана прямая теорема Шеннона, которая гласит, что если поток информации вырабатываемый источником достаточно близок к пропускной способности канала,

т.е. I(x) = C - d, (14)

где d - сколь угодно малая величина, то всегда можно найти такой способ кодирования, который обеспечит передачу всех сообщений, вырабатываемых источником. Причем скорость передачи информации будет весьма близка к пропускной способности канала.

Иными словами, для дискретных каналов без помех необходимо убирать избыточность сообщений.

Дата добавления: 2014-01-13