Многослойный персептрон и его обучение

Схема нейронной сети, получившая название многослойный персептрон(multilayer perceptron), была предложена в 1958 г. нейробиологом Ф. Розенблаттом. (рисунок 13).

Рисунок 13 – Структурная схема многослойной нейронной сети

На структурной схеме выделены нейронные слои, включающие в себя параллельно расположенные простые узлы обработки информации – нейроны. Слой нейронов, принимающий вектор входных сигналов X, называется входным слоем (слой входов). Слой нейронов, выходные значения которых составляют выходной вектор Y, называется выходным. Остальные (промежуточные) слои называются скрытыми.

Следует отметить, что некоторые межнейронные связи в различных слоях могут отсутствовать, или иметь нулевое значение весового коэффициента связи.

Основное свойство нейронной сети – возможность изменять свои характеристики в желаемом направлении (за счет изменения весовых коэффициентов) в процессе обучения.

Целью обучения сети является такая подстройка ее весов, чтобы приложение некоторого множества входов приводило к требуемому множеству выходов. При обучении предполагается, что для каждого входного вектора существует парный ему целевой вектор, задающий требуемый выход. Вместе они называются обучающей парой. Сеть обучается на множестве пар (т.н. обучающая выборка).

Перед началом обучения всем весам должны быть присвоены небольшие начальные значения, выбранные случайным образом. Это гарантирует, что в сети не произойдет насыщения большими значениями весов, и предотвращает ряд других патологических случаев.

Один из часто используемых методов – метод обратного распространения (Back Propagation Method).

Обучение сети требует выполнения следующих операций:

1) 1) выбрать очередную обучающую пару из обучающего множества; подать входной вектор на вход сети;

2) 2) вычислить выход сети;

3) 3) вычислить разность между выходом сети и требуемым выходом (целевым вектором обучающей пары);

4) 4) подкорректировать веса сети так, чтобы минимизировать ошибку;

5) 5) повторить шаги с 1 по 4.