Он (Аллах – Е.К.) – Тот, кто создал всяку вещь// И соразмерил должной мерой»[33]

6. Подходы к количественной оценке разнообразия системы найдем на основе следующих соображений.

Исходя из приведенных определений, мы говорим, что система обладает определенным разнообразием, имея ввиду, что она может находиться в определенном множестве состояний (), число которых может быть как конечным, так и бесконечным.

Естественно, чем больше число состояний, в которых может находиться исследуемая система, тем выше ее разнообразие ().

Мерой количества разнообразия принято считать такую функцию, которая отвечает следующим рациональным условиям:

Ø Если система может находиться только в одном единственном состоянии (), то ее разнообразие равно нулю: .

Ø Если число состояний одной системы больше числа состояний другого объекта, то и количество разнообразия первого объекта больше чем количество разнообразия второго объекта: .

Ø Суммарное количество разнообразия двух объектов с числом состояний и соответственно равно сумме количеств их индивидуального разнообразия:

(3.82)

Единственная функция, которая обладает такими свойствами – логарифмическая функция и, следовательно:

(3.83)

Основание логарифма существенной роли не играет, в силу наличия формул перехода, но исторически сложилось так, что используется логарифм по основанию 2.

7. Несмотря на всю важность понятия разнообразия, его количество не может служить исчерпывающей характеристикой системы, поскольку каждое состояние может наступать с определенной вероятностью. И чем выше разнообразие объекта, тем больше неопределенность наших знаний о том, в каком конкретно состоянии он находится в данный момент.

Основными понятиями первой по времени возникновения статистической теории информации являются понятия вероятности, неопределенности и количества информации.