Статические и динамические многослойные нейронные сети

По первому признаку ИНС делятся на статические, динамические и fuzzy-структуры (нечеткие структуры, изменяемые в процессе функционирования ИНС).

Структура таких статических многослойных нейронных сетей (МНС) пред-ставлена на рис. 3, б и рис. 6.

МНС формируется из базовых элементов, схема которых рассматривалась уже ранее и отражена на рис. 7. В ней лишь будут использованы другие обозначения для входов и выходов.

Рис. 7. Модель искусственного нейрона (базового процессорного элемента)

Если такая МНС является так называемой полносвязной гомогенной, то выходы базовых элементов МНС (рис. 6) каждого слоя поступают на входы всех базовых элементов следующего слоя, а функция активации обычно принимается одинаковой для всех используемых в МНС базовых элементов.

Выходной слой в МНС реализуется как модалина. Входной её слой является буферным для входного сигнала . Число слоев в такой сети может быть произвольным (в зависимости от назначения МНС и реализуемого ею алгоритма преобразования входа в выход .

В символьной форме многослойную нейронную сеть обычно определяют как , где – число слоев в МНС, – число входов в сети; – число базовых элементов (БЭ) в м промежуточном («скрытом») слое; – число базовых элементов в выходном -м слое и одновременно число выходов описываемой многослойной нейронной сети. У промежуточного -го слоя будем полагать число базовых элементов равным . Полагаем также, что связи в каждом промежуточной слое между БЭ отсутствуют. Выходы каждого предыдущего слоя поступают только на входы БЭ следующего -го слоя.

Выход любого го элемента в -м слое МНС может быть определен в виде

. (2)

В векторной форме выход -го слоя сети равен

, (3)

где – вектор весовых коэффициентов сигнала инициализации в слое , который для всех принимается равным +1;

, – векторы

выходов базовых элементов слоя и выходов предыдущего слоя , поступающих на входы базовых элементов слоя .

Для выходного -го слоя имеем

; (4)

. (5)

Формулы (2) – (5) описывают многослойные нейронные сети с нелинейными функциями активации послойно. Функцию на -ых выходах сумматоров базовых элементов слоя называют дискриминантной. Соотношение (2) соответствует дискриминантной функции первого порядка. Это наиболее простой её вариант. В МНС используются и дискриминантнные функции более высоких порядков, что дает возможность воспроизводить более сложные нелинейные вход-выходные связи в таких МНС, но существенно затрудняет их параметрическую настройку.