 |
Главная Случайная страница Контакты | Мы поможем в написании вашей работы! | |
Информация. Источник информации (передатчик) и приемник можно рассматривать как подсистемы одной сложной системы.
|
|
Источник информации (передатчик) и приемник можно рассматривать как подсистемы одной сложной системы.
Если рассматривать рис.7.5 в качестве модели процесса передачи сообщений по дискретному каналу, то можно выделить ансамбль символов на выходе источника 
и ансамбль символов на входе приемника (получателя) 
.
Каждый из этих ансамблей характеризуется своим распределением вероятностей:
Объединение этих ансамблей характеризуется взаимными вероятностями
.
Условную информацию можно определить из выражения
.
Взаимную информацию между состояниями подсистем можно записать в виде
.
Умножая числитель и знаменатель под логарифмом на 
и учитывая равенства
,
получим
(7.20)
Отсюда следует, что 
несет об 
такое же количество информации, какое несет об (свойство симметрии). Поэтому 
называется взаимным количеством информации между 
-м символом множества и 
-м символом множества 
..
Поскольку сложная система случайным образом приходит в то или иное состояние, определяемое парой 
, то будет случайной величиной, которую можно усреднить по всему множеству состояний.
Дата публикования: 2015-09-17; Прочитано: 386 | Нарушение авторского права страницы | Мы поможем в написании вашей работы!
