Применение многослойного персептрона для пространственно-временной обработки данных

Многослойная сеть, обучающаяся по правилу обратного распространения ошибки, сегодня является одним из самых популярных методов решения задач с помощью ИНС. Тем не менее, он существенно ограничен в своих возможностях, т.к. сеть обучается и функционирует на статических данных.

Многослойный персептрон может быть использован и для решения другого класса задач – задач нелинейного прогноза на стационарных временных последовательностях. В этом случае данные, содержащиеся в последовательности и подлежащие обработке, должны подаваться на вход сети.

На вход подается временная последовательность X = [ x (t –1), x (t –2), …, x (t – p)]^T по одному элементу в каждый момент времени с задержкой z^–1.

Задача состоит в прогнозировании одного значения временной последовательности в некоторый t -й момент времени с использованием данных о нескольких p значениях той же временной последовательности, полученных в предыдущие t –1, …, t – p моменты времени.

К сожалению, круг задач, требующих представления исходных данных в виде временной последовательности и позволяющих в этом случае использовать статическую архитектуру многослойного персептрона, ограничен. Основой многослойной сети с динамическими параметрами является нейрон с динамическим характером функционирования, использующий в системе связей задержки во времени. Задержки во времени обычно моделируются с помощью линейных стационарных фильтров.

Фильтры, моделирующие функционирование связей имеют следующие характеристики: формируют отклики только после того, как на вход будет подан сигнал; импульсная характеристика фильтра выполняет функции памяти и поэтому конечна.

Многослойная нейронная сеть, состоящая из нейронов с динамическим функционированием, способна решать задачи пространственно-временной обработки данных.

Существуют два подхода для обучения динамической сети.

Подход 1. Преобразование динамической сети в статическую и обучение статической сети с помощью алгоритма с обратным распространением ошибки. Теоретически, для этой сети возможно применение стандартного алгоритма с обратным распространением ошибки. Однако на практике такой способ оказывается слишком трудоемким.

Подход 2. Для обучения сети используется алгоритм обучения многослойного персептрона – обучение с обратным распространением ошибки. Единственным различием является то, что для динамической сети необходимо переопределить входные данные и параметры алгоритма.