Программы моделирования искусственных нейронных сетей

В настоящее время известно более 200 нейропакетов [17, 25], выпускаемых рядом фирм и отдельными исследователями и позволяющих конструировать, обучать и использовать нейронные сети для решения практических задач. Трудоемкость разработки НЭС сокращается в случае применения готовых нейросетевых программ.

Наиболее известные и популярные нейросистемы и их производители следующие [7, 8, 10, 14, 15, 17, 21, 25, 26].

Пакет Neural 10, разработанный в 1992 году, использует одну нейросетевую парадигму – двухслойную сеть прямого распространения с алгоритмом обучения (обратного распространения ошибки). Активационная функция нейронов скрытого слоя – сигмоид [6, 7], а выходных нейронов – линейная.

Программа Neuro Pro (версия 0.25) является свободно распространяемой альфа-версией нейросетевого программного продукта для работы с искусственными нейронными сетями и извлечения знаний из таблиц данных с помощью нейронных сетей в среде Windows.Возможности программы следующие [2]:

· работа с файлами в форматах *.dbf и *.db;

· создание слоистых нейронных сетей с числом слоев до 10 и нейронов в слое до 100;

· использование нелинейной сигмоидной функции f(A)= A/(|A| +c);

· применение методов контрастирования (упрощения) нейронной сети;

· обучение нейронной сети по алгоритму обратного распространения ошибки с применением одного из методов оптимизации (градиентный спуск, модифицированный ParTan, метод сопряженных градиентов [8, 17]);

· генерация вербального описания нейронной сети.

Нейропакет QwikNet32 (версия 2.1) предназначен для работы в среде Windows и реализует один тип нейронной сети – многослойную сеть прямого распространения с числом скрытых слоев до пяти и с набором из шести алгоритмов обучения.

Возможности нейропакета QwikNet32 следующие [8]:

· применение четырех видов функций активации (сигмоидная, гиперболический тангенс, линейная, функция Гаусса);

· использование одного из шести алгоритмов обучения;

· обучение с перекрестным пересечением (обучающая выборка делится автоматически на два набора: 90% - для обучения и 10% - для тестирования и проверки качества обучения);

· рандомизация значений весов синапсов перед обучением;

· установка коэффициента скорости обучения;

· графическое представление результатов обучения;

· вывод сообщения о корректности обучения для всех выходов сети.

Нейропакет Neural Planner [8] представляет собой программную оболочку, позволяющую моделировать нейронные сети различной конфигурации.

Возможности нейропакета Neural Planner следующие:

· добавление и удаление входного и выходного нейронов, синапса, соединение и разъединение двух слоев нейронов;

· установка параметров активационной функции и количества циклов обучения;

· выбор вида графика изменения средней ошибки при обучении сети;

· отображение информации о любом выбранном в сети нейроне;

· отображение средней и целевой ошибки;

· редактирование файлов обучающей выборки при помощи электронных таблиц MS Excel.

Пакет программ NeuralWorks Professional II Plus является одним из последних версий программного продукта NeuralWorks, разработаного фирмой NeuralWare [8]. Пакет содержит программные модели десятков архитектур нейронных сетей.

Пакет программ ExploreNet 3000 является разработкой фирмы HNC, основанной профессором Робертом Хехт-Нильсеном [8]. Пакет предоставляет широкие возможности по моделированию и управлению данными. В качестве ускорителя используется аппаратные разработки фирмы HNC - нейропроцессоры ANZA и ANZA+, являющиеся одними из первых аппаратных решений. Фирма предложила также средство для разработки прикладных программ - специализированный язык программирования AXON, основанный на языке C.

Оболочка NeuroShell 2.0. Достоинством этой программы является совместимость с популярным пакетом управления данными MicroSoft Excel, что делает продукт удобным для массового использования.

Пакет Neuro Оffice предназначен для проектирования интеллектуальных программных модулей, построенных на основе нейронных сетей с ядерной организацией. Результатом проектирования является обученная нейронная сеть с программным интерфейсом, соответствующим модели многокомпанентных объектов.

Нейропакет NeuralWorks Professional является мощным средством для моделирования нейронных сетей. В нем реализованы 28 нейронных парадигм, а также большое количество алгоритмов обучения. Имеется хорошая система визуализации данных: структуры нейронной сети, изменения ошибки обучения, изменения весов и их корреляции в процессе обучения.

Пакет NeuroShell 2 (фирма Neuron Data) использует порождающие правила для предварительной обработки информации, которая затем передаётся в нейронную сеть. Полученная на выходе нейронной сети информация также может быть обработана с помощью системы правил.

Нейропакет BrainMaker Pro является простым нейропакетом для моделирования многослойных нейронных сетей, обучаемых с помощью алгоритма обратного распространения ошибки. Основным его достоинством является большое число параметров настройки алгоритма обучения.

Пакет CubiCalc RTC фирмы HyperLogic, разработанный в 1990 году, представляет собой первый полнофункциональный программный пакет для разработки приложений на основе нечеткой логики. Пакет CubiCalc - первый профессиональный пакет, реализующий методы нечеткой логики. Фактически пакет CubiCalc представляет собой своего рода экспертную систему, в которой пользователь задает набор правил типа "Если-То", а система пытается на основе этих правил адекватно реагировать на параметры текущей ситуации.

Недавно вышедшая на рынок вторая версия пакета CubiCalc фирмы HyperLogic является одной из наиболее мощных экспертных систем на основе нечеткой логики. Пакет содержит интерактивную оболочку для разработки нечетких экспертных систем и систем управления, а также run-time модуль, позволяющий оформлять созданные пользователем системы в виде отдельных программ. От других пакетов CubiCalc отличает также наличие весьма мощной утилиты Rule Maker, позволяющей решать одну из основных проблем в работе с нечеткой логикой - автоматическое построение нечетких правил. Сегодня CubiCalc применяется при решении десятков различных задач - от адаптивного управления оптовыми складами до моделирования рынка фьючерсных контрактов. Большинство пользователей CubiCalc - это финансовые и политические аналитики.

Достоинством вышеперечисленных систем является простота создания и понятность процесса вывода, отсутствие проблем при внесении изменений. В качестве недостатка можно отметить высокую стоимость программного продукта.

Нейропакеты, перечисленные выше, являются относительно дорогими и предназначены для профессионального использования.