Решение задач распознавания на основе отдельных нейронов. Правило Хебба

Искусственные нейронные сети, предназначенные для решения разнообразных конкретных задач, могут содержать от нескольких нейронов до тысяч и даже миллионов элементов. Однако уже отдельный нейрон (рис. 1) с биполярной или бинарной функцией активации может быть использован для решения простых задач распознавания и классификации изображений. Выбор биполярного (1, –1) или бинарного (1, 0) представления сигналов в нейросетях осуществляется исходя из решаемой задачи и во многих случаях он равноценен. Имеется спектр задач, в которых бинарное кодирование сигналов более удобно, однако в общем биполярное представление информации более предпочтительно.

Поскольку выходной сигнал у двоичного нейрона (рис 1) принимает только два значения, то нейрон можно использовать для классификации предъявляемых изображений на два класса.

Пусть имеется множество М изображений, для которых известна корректная классификация на два класса X ¹ = { X ¹¹, X ¹², …, X ^{1 q} }, X ² = { X ²¹, X ²², …, X ^{2 р} }, X ¹ X ² = M, X ¹ X ² = Ø, и пусть первому классу X ¹ соответствует выходной сигнал у = 1, а классу X ² – сигнал у = –1. Если, например, предъявлено некоторое изображение и его взвешенная сумма входных сигналов превышает нулевое значение:

то выходной сигнал у = 1 и, следовательно, входное изображение X ^α принадлежит классу X ¹. Если S £ 0, то у = –1 и предъявленное изображение при-надлежит второму классу.

Возможно использование отдельного нейрона и для выделения из множества классов М = { X ¹ = { X ¹¹ ,…, X ^{1 k} }, …, X ⁱ= { X ⁱ¹,…, X ^iq }, …, X ^p = { X^{p 1} ,…, X ^pm }} изображений единственного класса X ⁱ. В этом случае полагают, что один из двух возможных выходных сигналов нейрона (например, 1) соответствует классу X ⁱ, а второй – всем остальным классам. Поэтому, если входное изоб-ражение Х ^a приводит к появлению сигналa у = 1, то Х ^a Î X ⁱ, если у = –1 (или у = 0, если используется бинарное кодирование), то это означает, что предъявленное изображение не принадлежит выделяемому классу.

Система распознавания на основе единственного нейрона делит все пространство возможных решений на две области с помощью гиперплоскости

x ₁ w ₁ + x ₂ w ₂ + … + x_nw_n+w ₀ = 0.

Для двумерных входных векторов границей между двумя классами изображений является прямая линия: входные вектора, расположенные выше этой прямой, принадлежат к одному классу, а ниже – к другому.

Для адаптации, настройки или обучения весов связей нейрона может использоваться несколько методов. Рассмотрим один из них, получивший название “правило Хебба”. Хебб, исследуя механизмы функционирования центральной нервной системы, предположил, что обучение происходит путем усиления связей между нейронами, активность которых совпадает по времени. Хотя в биологических системах это предположение выполняется далеко не всегда и не исчерпывает всех видов обучения, однако при обучении однослойных нейросетей с биполярными сигналами оно весьма эффективно.

В соответствии с правилом Хебба, если предъявленному биполярному изображению X = (x ₁, …, x_n) соответствует неправильный выходной сигнал у, то веса w_i связей нейрона адаптируются по формуле

w_i (t + 1) = w_i (t) + x_i у, (13)

где w_i (t), w_i (t + 1) соответственно вес i- й связи нейрона до и после адаптации; x_i () – компоненты входного изображения; х ₀ º 1 – сигнал смещения; у – выходной сигнал нейрона.

В более полной и строгой форме алгоритм настройки весов связей нейрона с использованием правила Хебба выглядит следующим образом:

Шаг 1. Задается множество M = {(Х ¹, t ¹), …, (X ^m, t^m)} состоящее из пар (входное изображение X^k = , необходимый выходной сигнал нейрона t^k), ). Инициируются веса связей нейрона:

w_i = 0,