Скорость передачи информации по дискретному каналу связи с помехами

Среднее количество информации, переносимое одним символом при наличии помех

.

Тогда скорость передачи информации:

. (7.26)

Смысл соотношения (7.26) представляется моделью, приведенной на рис. 7.7.

Рис. 7.7. Модель системы передачи информации в условиях помех

Источник входных символов выдаёт среднее количество информации . За счет помех часть этой информации теряется в канале и создается ложная информация . Количество информации на выходе (полная, а не относительно источника!) равно сумме количества информации переданного по каналу и ложной информации создаваемой помехами. Смысл обозначения на рисунке 7.7 следующий: – производительность источника передаваемых сообщений; – производительность канала, т.е. полная информация в принятом сигнале за единицу времени, – скорость ²утечки² информации при прохождении через канал. – скорость передачи посторонней информации, не имеющей отношения к и создаваемой присутствующими в канале помехами. Практически, это информация о помехах, получаемая на выходе канала.

Рассмотрим пример определения скорости передачи информации по каналу связи. Пусть источник сообщений вырабатывает символы с вероятностями ; ; . Корреляция между символами отсутствует. Передача осуществляется двоичным кодом. Длительность элемента кода мс.

Необходимо определить скорость передачи информации.

Скорость передачи информации определим из выражения

.

Для этого определим среднюю энтропию сообщений на один символ. Для этого используем выражение для нашего случая:

Для передачи трех сообщений двоичным кодом необходимо хотя бы два разряда, т.е. кодовая комбинация должна состоять из двух элементов. Значит, длина кодовой комбинации , а скорость передачи сигналов

Скорость передачи информации составит