Основные характеристики корректирующих кодов

Классификация помехоустойчивых кодов

На рис. 4.1 приведена упрощённая классификация помехоустойчивых кодов. Остановимся кратко на основных особенностях различных классов кодов. Помехоустойчивые (корректирующие) коды делятся на блочные и непрерывные.

Рисунок 6.3.1

Блочными называются коды, в которых информационный поток символов разбивается на отрезки и каждый из них преобразуется в определённую последовательность (блок) кодовых символов. В блочных кодах кодирование при передаче (формирование проверочных элементов) и декодирование при приёме (обнаружение и исправление ошибок) выполняются в пределах каждой кодовой комбинации (блока) в отдельности по соответствующим алгоритмам. Непрерывные или рекуррентные коды образуют последовательность символов, не разделяемую на отдельные кодовые комбинации. Кодирование и декодирование непрерывно совершаются над последовательностью элементов без деления их на блоки. Формирование проверочных символов ведётся по рекуррентным (возвратным) правилам, поэтому непрерывные коды часто называют рекуррентными цепными.

В простейшем цепном коде каждый проверочный элемент формируется путём сложения по модулю 2 соседних или отстоящих друг от друга на определённое число позиций информационных элементов. В канал связи передаётся последовательность импульсов, в которой за каждым информационным следует проверочный. Подобную чередующуюся последовательность разрядов имеет, например, корреляционный манчестерский код.

К непрерывным кодам относятся и свёрточные коды, в которых каждый информационный символ, поступающий на вход кодирующего устройства, вызывает появление на его выходе ряда проверочных элементов, образованных суммированием по модулю 2 данного символа и k-1 предыдущих информационных символов. Рекуррентные коды позволяют исправлять групповые ошибки («пачки») в каналах связи.

Блочные коды делятся на равномерные и неравномерные. В равномерных кодах, в отличие от неравномерных, все кодовые комбинации содержат одинаковое число n -символов (разрядов) с постоянной длительностью τ₀ импульсов символов кода. Равномерные коды, в основном, и применяются в системах связи, так как это упрощает технику передачи и приёма.

Классическими примерами неравномерного кода являются: код Морзе, широко применяемый в телеграфии, и код Хафмена, применяемый для компрессии информации (факсимильная связь, ЭВМ).

Никаких специальных мер по исправлению и обнаружению ошибок в коде Морзе не предусматривается в связи с большой избыточностью самого передаваемого текста. В этом смысле, код Морзе не относится к классу корректирующих кодов.

Почти все блочные корректирующие коды принадлежат к разделимым кодам, в которых кодовые комбинации состоят из двух частей: информационной и проверочной. Их символы всегда занимают одни и те же позиции, т. е. располагаются на определенных местах. Как правило, в таких кодах, все кодовые комбинации которых содержат n символов, первые k символов являются информационными, а за ними располагаются (n-k) проверочных символов. В соответствии с этим разделимые коды получили условное обозначение – (n-k)-коды.

В неразделимых кодах деление на информационные и проверочные символы отсутствует. К таким кодам относятся, в частности, коды с постоянным весом, так называемые равновесные коды. Например, Международным консультативным комитетом по телеграфии и телефонам (МККТТ) рекомендован для использования телеграфный код № 3 – семиразрядный код с постоянным весом, т. е. с числом единиц в каждой кодовой комбинации, равным 3 (W = 3).

Систематические коды образуют наиболее обширную группу (n, k)-разделимых кодов. Особенностью этих кодов является то, что проверочные (корректирующие) символы образуются с помощью линейных операций над информационными. Кроме того, любая разрешённая кодовая комбинация может быть получена в результате линейной операции над набором k линейно независимых кодовых комбинаций. В частности, суммирование по модулю 2 двух и более разрешённых комбинаций также дает разрешённую кодовую комбинацию. Поскольку теоретической основой получения таких комбинаций является математический аппарат линейной алгебры, то коды и называют линейными, а учитывая, что проверочные символы формируются по определённой системе (правилам), блочные равномерные разделимые линейные коды получили название систематических. Использование аппарата линейной алгебры, в которой важное значение имеет понятие «группа», породило и другое название этих кодов – групповые.

Эти коды получили наибольшее применение в системах передачи дискретной информации.

Несистематические (нелинейные) коды указанными выше свойствами не обладают и применяются значительно реже, в специальных случаях. Примером нелинейного кода является уже упоминавшийся неразделимый, равновесный код. Эти коды обычно используются в несимметричных каналах связи, в которых вероятность перехода 1 в 0 значительно больше вероятности перехода 0 в 1, или наоборот. В таких каналах очень маловероятно, чтобы в одном блоке были переходы обоих видов, и поэтому почти все ошибки приводят к изменению веса блока и, следовательно, обнаруживаются.

Другим примером несистематического кода является код с контрольным суммированием – итеративный код. В этом коде проверочные разряды формируются в результате суммирования значений разрядов, как в данной кодовой комбинации, так и одноимённых разрядов в ряде соседних с ней комбинаций, образующих совместный блок. Итеративные коды позволяют получить так называемые мощные коды, т. е. коды с длинными блоками и большим кодовым расстоянием при сравнительно простой процедуре декодирования. Итеративные коды могут строиться как комбинационные, посредством произведения двух или более систематических кодов.

К комбинационным кодам можно отнести также антифединговые коды, предназначенные для обнаружения и исправления ошибок в каналах с замираниями (федингом) сигналов. Для таких каналов с группированием ошибок применяют метод перемежения символов или декорреляции ошибок. Он заключается в том, что символы, входящие в одну кодовую комбинацию, передаются не непосредственно друг за другом, а перемежаются символами других кодовых комбинаций исходного систематического или любого другого кода. Если интервал между символами, входящими в одну кодовую комбинацию, сделать длиннее «памяти» (интервала корреляции) канала с замираниями, то в пределах длительности одной исходной кодовой комбинации группирования ошибок не будет. На приёме после обратной «расфасовки» в кодовых комбинациях можно производить декодирование с обнаружением и исправлением ошибок.

В систематических кодах различают два метода формирования проверочной группы символов: поэлементный и в целом.

Наиболее известны среди систематических кодов коды Хемминга, которые исторически были найдены раньше многих других кодов и сыграли большую роль в развитии теории корректирующих кодов. В этих кодах используется принцип проверки на чётность определённого ряда информационных символов. Проверочная группа из r символов формируется поэлементно по соответствующему алгоритму. Коды Хемминга, имеющие d_min = 3, позволяют исправить одну ошибку.

Расширенные коды Хемминга строятся в результате дополнения кодов
с d_min = 3 общей проверкой каждой из кодовых комбинаций на чётность, т. е. ещё одним проверочным символом. Это позволяет увеличить минимальное кодовое расстояние до d_min = 4.

Циклические коды также относятся к классу линейных систематических кодов и обладают всеми их свойствами. Коды названы циклическими потому, что циклический сдвиг любой разрешённой кодовой комбинации также является разрешённой комбинацией. Теория построения циклических кодов базируется на разделах высшей алгебры, изучающей свойства двоичных многочленов. Особую роль в этой теории играют так называемые неприводимые многочлены, т. е. полиномы, которые не могут быть представлены в виде произведения многочленов низших степеней. В связи с этим, циклические коды относят к разновидности полиномиальных кодов.

Среди циклических кодов особое место занимает класс кодов, предложенных Боузом и Рой-Чоудхури и независимо от них – Хоквингемом. Коды Боуза – Чоудхури – Хоквингема, БЧХ-коды отличаются специальным выбором порождающего (образующего) циклический код полинома, что приводит к простой процедуре декодирования.

В циклических кодах r проверочных символов, добавляемых к исходным k информационным, могут быть получены сразу, т. е. в целом, в результате умножения исходной подлежащей передаче кодовой комбинации Q(x) простого кода на одночлен x^r и добавлением к этому произведению остатка R(x), полученного в результате деления произведения на порождающий полином Р(х).

Отметим, что коды Хемминга также можно получить по алгоритмам формирования циклических кодов.

Проблема помехоустойчивого кодирования представляет собой обширную область теоретических и прикладных исследований. Основными задачами при этом являются следующие: отыскание кодов, эффективно исправляющих ошибки требуемого вида; нахождение методов кодирования и декодирования и простых способов их реализации.

Наиболее разработаны эти задачи применительно к систематическим кодам. Такие коды успешно применяются в вычислительной технике, различных автоматизированных цифровых устройствах и цифровых системах передачи информации.

В настоящее время наибольшее внимание, с точки зрения технических приложений, уделяется двоичным блочным корректирующим кодам. При использовании блочных кодов цифровая информация передаётся в виде отдельных кодовых комбинаций (блоков) равной длины. Кодирование и декодирование каждого блока осуществляется независимо друг от друга.

Почти все блочные коды относятся к разделимым кодам, кодовые комбинации которых состоят из двух частей: информационной и проверочной. При общем числе n символов в блоке число информационных символов равно k, а число проверочных символов

r = n - k. (6.4.1)

К основным характеристикам корректирующих кодов относятся:

- число разрешённых и запрещённых кодовых комбинаций (N₀, N_k);

- избыточность кода (χ);

- минимальное кодовое расстояние (d_min);

- число обнаруживаемых или исправляемых ошибок (g₀);

- корректирующие возможности кодов.

Для блочных двоичных кодов, с числом символов в блоках равным n, общее число возможных кодовых комбинаций определяется выражением

N₀ = 2ⁿ. (6.4.2)

Число разрешённых кодовых комбинаций при наличии k информационных разрядов в первичном коде равно

N_k = 2^k. (6.4.3)

Очевидно, что число запрещённых комбинаций равно:

N_з = N₀ – N_k = 2ⁿ - 2^k, (6.4.4)

а с учётом (6.4.2) отношение будет:

N₀ /N_k = 2ⁿ /2^k = 2^n-k = 2^r, (6.4.5)

где r – число избыточных (проверочных) разрядов в блочном коде.

Избыточностью корректирующего кода называют величину

χ = r/n = (n-k)/n = 1 – k/n = 1 – log₂ N_k / log₂ N₀, (6.4.6)

откуда следует

B_k = k/n = 1 – χ. (6.4.7)

Эта величина показывает, какую часть общего числа символов кодовой комбинации составляют информационные символы. В теории кодирования величину B_k называют относительной скоростью кода. Если производительность источника информации равна Н символов в секунду, то скорость передачи после кодирования этой информации окажется равной

B = H∙(k/n), (6.4.8)

поскольку в закодированной последовательности из каждых n символов только k символов являются информационными.

Если число ошибок, которые нужно обнаружить или исправить, значительно, то необходимо иметь код с большим числом проверочных символов. Чтобы при этом скорость передачи оставалась достаточно высокой, необходимо в каждом кодовом блоке одновременно увеличивать как общее число символов, так и число информационных символов. При этом длительность кодовых блоков будет существенно возрастать, что приведёт к задержке информации при передаче и приёме. Чем сложнее кодирование, тем длительнее временная задержка информации.

Для того, чтобы можно было обнаружить и исправить ошибки, разрешённая комбинация должна как можно больше отличаться от запрещённой. Если ошибки в канале связи действуют независимо, то вероятность преобразования одной кодовой комбинации в другую будет тем меньше, чем большим числом символов они различаются.

Если интерпретировать кодовые комбинации как точки в пространстве, то отличие выражается в близости этих точек, т. е. в расстоянии между ними.

Количество разрядов (символов), которыми отличаются две кодовые комбинации, можно принять за кодовое расстояние между ними. Для определения этого расстояния нужно сложить две кодовые комбинации по модулю 2 и подсчитать число единиц в полученной сумме. Например, две кодовые комбинации x_i = 01011 и x_j = 10010 имеют расстояние d(x_i, x_j), равное 3, так как

x_i = 01011 имеет W = 3, x_j = 10010 имеет W = 2.

Заметим, что кодовое расстояние d(x_j, x₀) между комбинацией x _j и нулевой (х₀ = 00…0) называют весом W комбинации x_i, т. е. вес x_i равен числу «1» в ней.

x_i x_j = 11001 → d(x_j, x_j) = 3. (6.4.9)

Под операцией «» понимается сложение по модулю 2).

Расстояние между различными комбинациями некоторого конкретного кода могут существенно отличаться. Так, в частности, в безызбыточном первичном натуральном коде (n = k) это расстояние для различных комбинаций может изменяться от единицы до величины n, равной значности кода. Особую важность для характеристики корректирующих свойств кода имеет минимальное кодовое расстояние d_min, определяемое при попарном сравнении всех кодовых комбинаций, которое называют расстоянием Хемминга.

В безызбыточном коде все комбинации являются разрешёнными, и, следовательно, его минимальное кодовое расстояние равно единице – d_min = 1. Поэтому достаточно исказиться одному символу, чтобы вместо переданной комбинации была принята другая разрешённая комбинация. Чтобы код обладал корректирующими свойствами, необходимо ввести в него некоторую избыточность, которая обеспечивала бы минимальное расстояние между любыми двумя разрешёнными комбинациями не менее двух – d_min ≥ 2.

Минимальное кодовое расстояние является важнейшей характеристикой помехоустойчивых кодов, указывающей на гарантируемое число обнаруживаемых или исправляемых заданным кодом ошибок.

При применении двоичных кодов учитывают только дискретные искажения, при которых единица переходит в нуль (1 → 0) или нуль переходит в единицу (0 → 1). Переход 1→ 0 или 0 → 1 только в одном элементе кодовой комбинации называют единичной ошибкой (единичным искажением). В общем случае, под кратностью ошибки подразумевают число позиций кодовой комбинации, на которых под действием помехи одни символы оказались заменёнными на другие. Возможны двукратные (g = 2) и многократные (g > 2) искажения элементов в кодовой комбинации в пределах 0 ≤ g ≤ n.

Минимальное кодовое расстояние является основным параметром, характеризующим корректирующие способности данного кода. Если код используется только для обнаружения ошибок кратностью g₀, то необходимо и достаточно, чтобы минимальное кодовое расстояние было равно

d_mln ≥ g₀ + 1. (6.4.10)

В этом случае никакая комбинация из g₀ ошибок не может перевести одну разрешённую кодовую комбинацию в другую разрешённую. Таким образом, условие обнаружения всех ошибок кратностью g₀ можно записать в виде:

g₀ ≤ d_min – 1. (6.4.11)

Чтобы можно было исправить все ошибки кратностью g_i и менее, необходимо иметь минимальное расстояние, удовлетворяющее условию:

d_min ≥ 2 ∙ g_u + 1. (6.4.12)

В этом случае любая кодовая комбинация с числом ошибок g_u отличается от каждой разрешённой комбинации не менее чем в g_u + 1 позициях. Если условие (6.4.12) не выполнено, возможен случай, когда ошибки кратности g исказят переданную комбинацию так, что она станет ближе к одной из разрешённых комбинаций, чем к переданной или даже перейдёт в другую разрешённую комбинацию. В соответствии с этим, условие исправления всех ошибок кратностью не более g_u можно записать в виде:

g_u ≤ (d_min – 1)/2. (6.4.13)

Из (6.4.10) и (6.4.12) следует, что если код исправляет все ошибки кратностью g_u, то число ошибок, которые он может обнаружить, равно g₀ = 2 ∙ g_u. Следует отметить, что соотношения (6.4.10) и (6.4.12) устанавливают лишь гарантированное минимальное число обнаруживаемых или исправляемых ошибок при заданном d_min и не ограничивают возможность обнаружения ошибок большей кратности. Например, простейший код с проверкой на чётность с d_min = 2 позволяет обнаруживать не только одиночные ошибки, но и любое нечётное число ошибок в пределах g₀ < n.

При независимых ошибках полная вероятность ошибки кратности g, учитывающая все сочетания ошибочных символов определяется выражением:

, (6.4.14)

где ;

– вероятность искажения одного символа.

Отсюда вероятность отсутствия ошибок в кодовой комбинации, т. е. вероятность правильного приема равна

(6.4.15)

и вероятность правильного корректирования ошибок равна

(6.4.16)

Здесь суммирование производится по всем значениям кратности ошибок g, которые обнаруживаются и исправляются. Таким образом, вероятность некорректируемых ошибок будет равна

(6.4.17)

Анализ формулы (6.4.17) показывает, что при малой величине P₀ и небольших значениях n, наиболее вероятны ошибки малой кратности, которые необходимо корректировать в первую очередь.

Вопрос о минимально необходимой избыточности, при которой код обладает нужными корректирующими свойствами, является одним из важнейших в теории кодирования. Этот вопрос до сих пор не получил полного решения. В настоящее время получен лишь ряд верхних и нижних оценок (границ), которые устанавливают связь между максимально возможным минимальным расстоянием корректирующего кода и его избыточностью.

Так, граница Плоткина даёт верхнюю границу кодового расстояния d_min при заданном числе разрядов n в кодовой комбинации и числе информационных разрядов k, и для двоичных кодов:

d_min ≤ (n ∙2 ∙ k – 1) ∕ (2 ∙ k -1) (6.4.18)

или

r ≥ 2 ∙ (d_min - 1) – log₂ d_min, (6.4.19)

при n ≥ 2 ∙ d_min – 1.

Верхняя граница Хемминга устанавливает максимально возможное число разрешённых кодовых комбинаций (2 k) любого помехоустойчивого кода при заданных значениях n и d_min:

, (6.4.20)

где – число сочетаний из n элементов по i элементам.

Отсюда можно получить выражение для оценки числа проверочных символов:

. (6.4.21)

Для значений (d_min / n) ≤ 0,3 разница между границей Хемминга и границей Плоткина сравнительно невелика.

Граница Варшамова – Гильберта для больших значений n определяет нижнюю границу для числа проверочных разрядов, необходимого для обеспечения заданного кодового расстояния:

. (6.4.22)

Отметим, что для некоторых частных случаев Хемминг получил простые соотношения, позволяющие определить необходимое число проверочных символов:

r ≥ log ₂ (n + 1 ) для d_min = 3;

r ≥ log ₂ ( 2 ∙ n) для d_min = 4.

Блочные коды с d_min = 3 и 4 в литературе обычно называют кодами Хемминга.

Все приведённые выше оценки дают представление о верхней границе числа d_min при фиксированных значениях n и k или оценку снизу числа проверочных символов r при заданных k и d_min.

Существующие методы построения избыточных кодов решают, в основном, задачу нахождения такого алгоритма кодирования и декодирования, который позволял бы наиболее просто построить и реализовать код с заданным значением d_min. Поэтому различные корректирующие коды при одинаковых d_min сравниваются по сложности кодирующего и декодирующего устройств. Этот критерий является, в ряде случаев, определяющим при выборе того или иного кода.

Дата добавления: 2015-04-30