Формальные нейроны искусственных нейронных сетей

(довідковий)

Приклад оформлення списку авторів звіту про НДР

СПИСОК АВТОРІВ

Керівник НДР

зав. лабораторією

канд. техн. наук, доцент (підпис) М. Лук’яненко

(дата) (реферат, вступ, висновки, рекомендації, розд. 1)

Відповідальний виконавець

ст. наук. співроб.

канд. техн. наук (підпис) І. Стрельникова

(дата) (розд. 2)

Провідний інженер (підпис) О. Сагайдачний

(дата) (розд. 4)

Зав. лабораторією (підпис) М. Плющ

(дата) (розд. 3, завод чистих металів, м. Запоріжжя)

Провідний науковий

співробітник

канд. техн. наук (підпис) Ф. Клименко

(дата) (додаток А, завод чистих металів, м. Запоріжжя)

УДК 001.89:006.354 Т62

Ключові слова: стандарт, документація, звіт, подання, порядок викладення матеріалу, правила оформлення

Формальные нейроны искусственных нейронных сетей

При моделировании нейронных сетей в качестве искусственных нейронов обычно используется простой процессорный элемент, изображенный на рис. 1. На его входы поступает вектор Х = (х ₁, …, х_п) входных сигналов, являющихся выходными сигналами других нейронов, а также единичный сигнал смещения. Все входные сигналы, включая и сигнал смещения, умножаются на весовые коэффициенты своих связей и суммируются:

(1)

где S – суммарный входной сигнал; w_i () – весовые коэффициенты связей входных сигналов х ₁, …, х_п; w ₀ – весовой коэффициент связи сигнала смещения.

Полученный сигнал S поступает на вход блока, реализующего функцию f активации нейрона. Типичными функциями активации являются бинарная

(2)

или биполярная

(3)

Многие авторы при описании модели нейрона используют не сигнал смещения, а порог нейрона, что приводит к эквивалентной модели элемента. В этом случае выражения (2) и (3) принимают соответственно вид:

(4)

(5)

где

(6)

Графическое изображение бинарной и биполярной функций активации для этого случая представлено на рис. 2 а и 2 b.

Из сопоставления выражений (1) – (3) и (4) – (6) следует, что каждому значению порога нейрона может быть поставлен в соответствие весовой коэффициент w ₀ связи сигнала смещения и наоборот.

Реже используются линейные бинарные или биполярные функции активации (рис. 2 с и 2 d):

(7)

где а равно нулю для бинарных выходных сигналов нейронов и а равно минус единице для биполярных сигналов; k, a ₀ - постоянные коэффициенты.

Кроме приведенных в теории нейронных сетей используются также следующие нелинейные функции активации:

бинарная сигмоидальная или логическая сигмоидальная (рис. 2 e):

, (8)

где τ – постоянный коэффициент;

биполярная сигмоидальная (рис.2 f):

, (9)

радиально-симметричная (рис.2 g):

, (10)

К- значная бинарная (рис.2 h):

(11)

К- значная биполярная (рис.2 i):

(12)

Приведенные модели искусственных нейронов игнорируют многие известные свойства биологических прототипов. Например, они не учитывают временные задержки нейронов, эффекты частотной модуляции, локального возбуждения и связанные с ними явления подпороговой временной и пространственной суммации, когда клетка возбуждается не одновременно пришедшими импульсами, а последовательностями возбуждающих сигналов, поступающих через короткие промежутки времени. Не учитываются также периоды абсолютной рефрактерности, во время которых нервные клетки не могут быть возбуждены, т.е. как бы обладают бесконечно большим порогом возбуждения, который затем за несколько миллисекунд после прохождения сигнала снижается до нормального уровня. Этот список отличий, которые многие биологи считают решающими, легко продолжить, однако искусственные нейронные сети все же обнаруживают ряд интересных свойств, характерных для биологических прототипов.