Формальные нейроны искусственных нейронных сетей. Технология виртуализации, предлагаемая AMD, также полностью излагалась на базе противопоставления виртуализационной разработки компании Intel

Формальные нейроны искусственных нейронных сетей

При моделировании нейронных сетей в качестве искусственных нейронов обычно используется простой процессорный элемент, изображенный на рис. 1. На его входы поступает вектор Х = (х ₁, …, х_п) входных сигналов, являющихся выходными сигналами других нейронов, а также единичный сигнал смещения. Все входные сигналы, включая и сигнал смещения, умножаются на весовые коэффициенты своих связей и суммируются:

(1)

где S – суммарный входной сигнал; w_i () – весовые коэффициенты связей входных сигналов х ₁, …, х_п; w ₀ – весовой коэффициент связи сигнала смещения.

Полученный сигнал S поступает на вход блока, реализующего функцию f активации нейрона. Типичными функциями активации являются бинарная

(2)

или биполярная

(3)

Многие авторы при описании модели нейрона используют не сигнал смещения, а порог нейрона, что приводит к эквивалентной модели элемента. В этом случае выражения (2) и (3) принимают соответственно вид:

(4)

(5)

где

(6)

Графическое изображение бинарной и биполярной функций активации для этого случая представлено на рис. 2 а и 2 b.

Из сопоставления выражений (1) – (3) и (4) – (6) следует, что каждому значению порога нейрона может быть поставлен в соответствие весовой коэффициент w ₀ связи сигнала смещения и наоборот.

Реже используются линейные бинарные или биполярные функции активации (рис. 2 с и 2 d):

(7)

где а равно нулю для бинарных выходных сигналов нейронов и а равно минус единице для биполярных сигналов; k, a ₀ - постоянные коэффициенты.

Кроме приведенных в теории нейронных сетей используются также следующие нелинейные функции активации:

бинарная сигмоидальная или логическая сигмоидальная (рис. 2 e):

, (8)

где τ – постоянный коэффициент;

биполярная сигмоидальная (рис.2 f):

, (9)

радиально-симметричная (рис.2 g):

, (10)

К- значная бинарная (рис.2 h):

(11)

К- значная биполярная (рис.2 i):

(12)

Приведенные модели искусственных нейронов игнорируют многие известные свойства биологических прототипов. Например, они не учитывают временные задержки нейронов, эффекты частотной модуляции, локального возбуждения и связанные с ними явления подпороговой временной и пространственной суммации, когда клетка возбуждается не одновременно пришедшими импульсами, а последовательностями возбуждающих сигналов, поступающих через короткие промежутки времени. Не учитываются также периоды абсолютной рефрактерности, во время которых нервные клетки не могут быть возбуждены, т.е. как бы обладают бесконечно большим порогом возбуждения, который затем за несколько миллисекунд после прохождения сигнала снижается до нормального уровня. Этот список отличий, которые многие биологи считают решающими, легко продолжить, однако искусственные нейронные сети все же обнаруживают ряд интересных свойств, характерных для биологических прототипов.