Модель Хэмминга

Расстояние Хэмминга между двумя бинарными векторами одинаковой длины – это число несовпадающих бит в этих векторах. Нейронная сеть, которая реализует параллельное вычисление расстояний Хэмминга от входного вектора до нескольких векторов- образцов, носит название сети Хэмминга.

Тип входных сигналов: бинарные векторы.

Тип выходных сигналов: целые числа.

Размерность входа и выхода ограничены при программной реализации только возможностями вычислительной системы, на которой моделируется нейронная сеть, при аппаратной реализации – технологическими возможностями. Размерности входных и выходных сигналов могут не совпадать.

Тип передаточной функции: линейная с насыщением. Число синапсов в сети: (N*M).

Рисунок 11 – Передаточная функция сети Хэмминга

Ниже используются следующие обозначения:

w_ij – i -й синаптический вес j -го нейрона, x_i – i -й элемент входного сигнала сети, y_j – выход j -го нейрона, b_j – смещение j -го нейрона, N – количество элементов (размерность) входного сигнала, M – количество нейронов в сети, – i -ый элемент j -го вектора-образца.

Рисунок 12 – Сеть Хэмминга

Формирование синаптических весов и смещений сети:

Функционирование сети:

Рассмотренная нейронная сеть выполняет подсчет совпадающих бит входного вектора и векторов-образцов. Синаптические веса и смещения сети, которая вычисляет расстояние Хэмминга в соответствии с данным выше определением, формируются следующим образом:

В литературе наиболее часто рассматривается модель, синаптические веса и смещения в которой вычисляются по формулам:

Области применения:

· · распознавание образов;

· · классификация;

· · ассоциативная память;

· · надежная передача сигналов в условиях помех.

Недостатки модели Хэмминга:

· · сеть способна правильно распознавать (классифицировать) только слабо зашумленные входные сигналы;

· · возможность использования только бинарных входных сигналов существенно ограничивает область применения.

Достоинства сети Хэмминга:

· · сеть работает предельно просто и быстро, в модели использован один из самых простых алгоритмов формирования синаптических весов и смещений сети;

· · выходной сигнал (решение задачи) формируется в результате прохода через всего лишь один слой нейронов (Для сравнения: в многослойных сетях сигнал проходит через несколько слоев. В сетях циклического функционирования сигнал многократно проходит через нейроны сети, причем число итераций, необходимое для получения решения, бывает заранее не известно);

· · в отличие от сети Хопфилда, емкость сети Хэмминга не зависит от размерности входного сигнала, она в точности равна количеству нейронов (M) (Сеть Хопфилда с входным сигналом размерностью 100 может запомнить 10 образцов, при этом у нее будет 10000 синапсов. У сети Хемминга с такой же емкостью будет всего лишь 1000 синапсов).

Сеть Хемминга может быть дополнена сетью MAXNET, которая определяет, какой из нейронов сети Хемминга имеет выход с максимальным значением.