Пропускная способность дискретного канала с помехами

При определении пропускной способности канала предполагается, что заданы свойства канала (структура и уровень сигнала и помех, вид модуляции, методы кодирования и декодирования и др.). Эти свойства определяют статистические связи между принимаемыми сигналами, которые в свою очередь выражаются условными вероятностями вида и (рис.7.6). При заданных таким образом свойствах канала максимальную скорость передачи информации можно обеспечить выбором оптимального ансамбля сигналов. При этом накладываются ограничения в отношении уровня сигнала, его структуры, спектра, объёма алфавита и др. Выбор оптимального ансамбля сигналов означает выбор оптимального распределения вероятностей .

В соответствии с этим пропускная способность дискретного канала с помехами определяется как максимальная скорость передачи информации, которая может быть достигнута при заданных свойствах канала и наложенных ограничениях:

. (7.30)

В соотношении (7.30) максимум берётся по всем допустимым распределениям вероятности . Здесь – максимальное число сообщений, которое может быть передано по каналу за единицу времени. Величина зависит от электрических характеристик канала и вида модуляции. При передаче с большой скоростью, т.е. короткими импульсами, через канал с ограниченной полосой, недостаточно для неискаженного воспроизведения этих импульсов возникает взаимное перекрытия ряда соседних сигналов, снижающее достоверность приёма. Предельная удельная скорость передачи дискретных сигналов, при которой может быть достигнут безыскаженный прием, составляет 2 бода на 1 Герц полосы канала.

Для двоичного канала V _max представляет собой максимально возможную скорость манипуляции В _max. Напомним, что в отсутствие помех Н (X ½ Y)=0. Пропускная способность двоичного канала равна скорости манипуляции В _max.

В дальнейшем будем рассматривать только такие каналы, которые называют каналами без памяти. Дискретный каналназывается каналом без памяти, если вероятность перехода любого входного символа в любой выходной не зависит от того, какие символы передавались до этого и как они были приняты.

Если алфавит входных (X) и выходных (Y) сигналов состоит из двух символов, то канал называется двоичным. Диаграмма переходных вероятностей такого канала представлена на рис. 7.8.

Алфавит входных сигналов имеет два символа х ₀ и х ₁ . Выбранный случайным образом источником сообщений, один из этих символов подаётся на вход дискретного канала. На приёме регистрируется у ₀ и y ₁. Выходной алфавит тоже имеет два символа. Символ у ₀ может быть зарегистрирован при передаче сигнала х ₀. Вероятность такого события – р (y _0½ x ₀). Символ у ₀ может быть зарегистрирован при передаче сигнала х ₁. Вероятность такого события – р (y _0½ x ₁). Символ y ₁ может быть зарегистрирован при передачи сигналов х ₀ и х ₁ с вероятностями р (y _1½ x ₀) и р (y _1½ x ₁) соответственно. Правильному приёму соответствуют события с вероятностями появления р (y _1½ x ₁) и р (y _0½ x ₀). Ошибочный прием символа происходит при появлении событий с вероятностями р (y _1½ x ₀) и р (y _0½ x ₁). Стрелки на рисунке 7.8 показывают, что возможные события заключаются в переходе символа х ₁ в y ₁ и х ₀ в y ₀ (это соответствует безошибочному приему), а также в переходе х ₁ в y ₀ и х ₀ в y ₁ (это соответствует ошибочному приему). Такие переходы характеризуются соответствующими вероятностями р (y _1½ x ₁), р (y _0½ x ₀), р (y _1½ x ₀), р (y _0½ x ₁), а сами вероятности называют переходными. Переходные вероятности характеризуют вероятности воспроизведения на выходе канала переданных символов.

Канал без памяти называют симметричным, если соответствующие переходные вероятности одинаковы, а именно одинаковы вероятности правильного приёма, а также одинаковы вероятности любых ошибок. То есть:

- правильный прием,

- ошибочный прием.

Для общего случая

(7.32)

где – объём алфавита сигналов.

В большинстве случаев .

Дискретный канал считается полностью определенным, если известна скорость передачи отдельных элементов дискретных сигналов и определены (переходные) вероятности .

Переходные вероятности и распределение вероятностей позволяют определить апостериорную неопределённость не устраняемую полностью при приеме, так как в канале с помехами возможно искажение передаваемых сигналов. Напомним, что определяется выражением

. (7.33)

В выражении 7.33 условная энтропия входного символа при принятом символе ; – условная вероятность передачи , если принят . Границы условной энтропии определяются неравенством

. (7.34)

При чем при отсутствии помех в канале. Это означает, что остаточной (апостериорной) неопределённости нет. Помеха не искажает передаваемые сигналы. Сообщение на приеме восстанавливаются полностью, и из них извлекается вся информация.

при обрыве канала. При обрыве канала информация по каналу не передается и неопределенность на приёме не уменьшается.

Таким образом, при неполной достоверности сообщений, среднее количество информации равно разности безусловной энтропии Н (X) и условной энтропии характеризующей остаточную неопределённость сообщений. И в результате передачи по каналу одного элемента сообщения X неопределенность на выходе уменьшиться в среднем на величину

. (7.35)

В выражении 7.35 условная вероятность определяется распределением вероятностей и переходными вероятностями

, (7.36)

где – вероятность ошибочного приема символа, – вероятность правильного приёма символа, – объем алфавита.

Подставляя (7.36) в выражение (7.30) для пропускной способности получаем

(7.37)

Максимальное значение энтропия принимает при равно вероятных символах сообщения. Т.к. Н (Y) = log N, где N – алфавит выходных сигналов, то для пропускной способности можем окончательно записать

[бит/сек]. (7.38)

Пропускная способность канала в расчете на один символ определяется путем деления С на количество элементов сообщения, передаваемых в единицу времени, т.е. на скорость передачи . Пропускная способность канала в расчете на один символ составляет

[бит/символ]. (7.39)

Из выражения 7.39 следует, что при и пропускная способность симметричного канала равна нулю. Действительно, представляя значения и выражение 7.39 получаем

Этот случай соответствует обрыву канала. Физически, это означает, что по каналу идет передача информации, на выходе канала её получить невозможно, т.к. при любом переданном символе x_i все принимаемые символы у_j равновероятные, т.е. р (у_j | x_i) = 1/ N. Максимальной пропускная способность становится при отсутствии помех. В этом случае вероятность ошибки q становится равной 0: q = 0, а вероятность безошибочного приёма р = 1. Подставляя эти значения в (7.39) получаем

[бит/сек].

В частном случае двоичного симметричного канала без памяти, т.е. при N = 2 получаем:

C = 1 + p log p + (1- p) log (1- p).

Беря различные значения р, можем определить пропускную способность для такого канала (рис.7.9).

C

Из графика (рис.7.9) видно, что пропускная способность максимальна, если вероятность ошибки q равна 0. При увеличении вероятности q от 0 до 0,5 пропускная способность С уменьшается до нуля. В точке q =0,5 пропускная способность равна нулю. Этот случай соответствует обрыву канала. При дальнейшем возрастании вероятности ошибок q пропускная способность С начинает увеличиваться и достигает максимума при q =1. это означает, что все переданные «1» под воздействием помех переходят в «0», а все «0» переходят в «1». Поэтому, изменением полярности на приеме можно полностью исключить ошибки.