Понятие информации в кибернетике. Информативность сообщения

Данные - факты или идеи, представленные в виде, пригодном для обработки автоматическими устройствами (или человеком). Информация - смысловое содержание сообщения. Можно сказать, что отличие информации от данных заключается в том, что информация – это полезная часть данных, которая несет смысловую нагрузку.

Максимальное количество информации в сообщении при наличии n возможных сообщений определяется по следующей формуле: Imax=log2(n). Однако количество передаваемой информации зависит как от источника, так и от свойств приемника.

Информация, представленная в какой-либо форме, называется сообщением. Сообщения представляются в виде сигналов и данных. Сигналы используются для передачи информации в пространстве между источником и получателем, а данные — для хранения (то есть для передачи во времени). Передачу инф. можно представить в виде такой схемы:

Источник посылает сигнал Х — случайную величину, принимающую значения х1,..., хn с вероятностями p1,..., pn. Приемник получает сигнал Y — случайную величину, принимающую значения y1,..., yn с вероятностями q1,..., qn и (возможно) отличающийся от X на величину помехи (шума ξ).