Нейронная сеть Хопфилда как динамическая система

НС Хопфилда является динамической системой с непрерывным или дискретным временем.

Состояния нейронной такой сети характеризуют фазовое пространство системы, когда каждому состоянию соответствует точка в фазовом пространстве. Тогда релаксационный процесс изменения состояния нейронов можно интерпретировать как движение точки в фазовом пространстве в устойчивое состояние.

Существует параллельная и последовательная динамика работы сети Хопфилда.

Параллельная динамика характеризуется синхронным функционированием нейронных элементов сети. При этом за один такт работы все нейроны сети одновременно меняют свое состояние.

n

Y_i (t+1)=F(∑ w_{ij *}y_i(t)-Ti)

j=1

j <>i

Последовательная динамика характеризуется асинхронным процессом работы НС. В этом случае за такт работы НС изменяется состояние только одного нейрона.

Y_i (t+1)= Y_i (t)

n

Y_i (t+1)=F(∑ w_{ij *}y_i(t)-Ti)

j=1

j <>i

Нейрон, который в данном такте должен изменять свое состояние выбирается случайным образом.

Эту модель исследовал Хопфилд.

Назовем динамическую систему диссипативной, если производная энергии ее по времени всегда отрицательна или равна нулю (в состоянии равновесия). В таких системах на каждом шаге происходит необратимое уменьшение энергии.

Зададим динамическую систему в стандартном виде

∆ Y_i (t+1)= Y_i (t+1) - Y_i (t) Y_i (0)= Y_i ⁰ (1)

Доказана следующая теорема

Теорема 2. Динамическая система (1), матрица весовых коэффициентов W которой имеет нулевую главную диагональ, является диссипативной.