Лекция 5. Тема 4. Кодирование источника дискретных сообщений в канале с помехами

Тема 4. Кодирование источника дискретных сообщений в канале с помехами. Общие принципы помехоустойчивого кодирования.

5.1 Кодирование информации для канала с помехами. Теорема Шеннона для канала с помехами.

На этой лекции мы приступим к изучению помехоустойчивого кодирования. Оно предназначено для обнаружения и исправления ошибок символов в кодовыхсловах, возникающих в канале передачи при воздействии помех и шумов.

Рассмотрим вначале, какие ошибки возникают чаще всего а какие реже.

Для этого рассмотрим простейшую модель канала с помехами. Это Двоичный СимМетричный Канал (ДСМК). Симметричность канала означает, что вероятность ошибки, для 0 и для 1 одинакова и равна p.

При передаче информации через ДСМК помеха способна с некоторой вероятностью p превратить 0 в 1 или 1 в 0. Передачу информации через ДСМК можно представить в виде следующего графа, изображенного на рис. 5.1:

Рис.5.1

Расчет вероятности искажения кодового слова в ДСМК

Преположим, кодовое слово состоит из n двоичных символов. Вероятность неискажения всего кодового слова, как несложно доказать, равна:

Вероятность искажения одного символа (однократная ошибка):

А для одновременного искажения нескольких символов (кратная ошибка)

Pr=p^r*(1-p)^(n-r)

При вероятности ошибки p<0.5, (то есть канал не слишком плохой) из этого выражения следует, что с ростом кратности ошибки (r) ее вероятность быстро уменьшается. Таким образом малократные ошибки (1, 2, 3 символа) гораздо более вероятны, чем многократные. С ними и следует бороться в первую очередь.

Кодирование информации для канала с помехами. Теорема Шеннона для канала с помехами.

Ошибка в кодовой комбинации появляется при ее передаче по каналу связи вследствие замены одних элементов другими под воздействием помех. Например, 2-кратная ошибка возникает при замене (искажении) двух элементов. Например, если кодовая комбинация 01101 принята как 01 01 1 то имеет место двукратная ошибка.

Напомним кратко основные характеристики канала связи. Пропускная способность канала связи определяется как максимальное количество информации, которое канал может пропустить за единицу времени. Скорость передач это количество информации, которое канал реально пропускает за единицу времени. То есть пропускная способность - это максимальная скорость передачи.

Производительность источника - это количество информации, вырабатываемое источником за единицу времени.

Теория помехоустойчивого кодирования базируется на результатах исследований, проведенных Шенноном и сформулированна в виде теоремы из двух частей.

Дата добавления: 2014-01-04