Без помех. Теоремы Шеннона для канала без помех

Скорость передачи и пропускная способность дискретного канала

Пусть задан канал, на вход которого подаются дискретные сообщения Х, образующие первичный алфавит X₁, X₂, …, X_n. Последние кодируются с помощью преобразователя П₁ и преобразуются в кодированные символы S. Для кодирования используется некоторый алфавит символов S₁, S₂, …, S_m (см. рис. 5)

Рис. 5. Дискретный канал передачи информации.

Говоря о каналах передачи информации, нельзя не отметить ряд следующий информационных характеристик канала. К ним относятся:

- скорость передачи информации;

- пропускная способность канала.

Среднее количество информации, передаваемое по каналу в единицу времени, называется скоростью передачи.

Наибольшее значение скорости передачи для данного канала называется пропускной способностью этого канала.

Скорость передачи информации

где Н(Х) – средняя энтропия одного сообщения; t_э – средняя длительность сообщения; V_x – скорость выдачи символов сообщения источником.

Под длительностью сообщения понимают интервал времени, в который появляются сообщения на выходе источника информации. Средняя длительность t при отсутствии статистических зависимостей между сообщениями определяется выражением

(8)

где Р(Х_i) и t(X_i) – априорная вероятность и длительность i-го сообщения; n – количество сообщений, передаваемых источником.

Пропускная способность канала определяется следующим образом

(9)

Скорость передачи информации в общем случае зависит от статистических свойств сообщения, метода кодирования и свойств канала.

Пропускная способность – характеристика канала и она не зависит от фактической скорости передачи информации.

Рассмотрим информационную модель канала без помех.

В канале без помех каждому определенному входному сигналу всегда будет соответствовать один и тот же сигнал на выходе канала, т.е. входные и выходные сигналы связаны однозначной функциональной зависимостью (рис. 6.).

			Y1 Y2     Yn

Рис. 6. Канал без помех.

В этом случае среднее количество информации, переносимое одним символом равно энтропии символа на входе канала (выходе источника сообщений).

I(X) = H(X) (10)

Дата добавления: 2014-01-13