Устройство нейронных сетей

1.2.1. Элементы нейронных сетей

Для описания алгоритмов и устройств нейроинных сетей выработана специальная "схемотехника", в которой элементарные устройства – сумматоры, синапсы, нейроны и т.п. объединяются в сети, предназначенные для решения задач.

Наиболее важный элемент нейросистем – это адаптивный сумматор. Адаптивный сумматор вычисляет скалярное произведение вектора входного сигнала x на вектор параметров w (рис. 1.1). Адаптивным он называется из-за наличия вектора настраиваемых параметров w. Для многих задач полезно иметь линейную неоднородную функцию выходных сигналов. Ее вычисление также можно представить с помощью адаптивного сумматора, имеющего n +1 вход и получающего на 0-й вход постоянный единичный сигнал (рис. 1.2).

Рис. 1.2. Неоднородный адаптивный сумматор

Рис. 1.1. Адаптивный сумматор

Рис. 1.5. Формальный нейрон

Рис. 1.3. Нелинейный преобразователь сигнала

Рис. 1.4. Точка ветвления

Нелинейный преобразователь (рис. 1.3) сигнала скалярный входной сигнал x переводит в значение функции j(x). Точка ветвления служит для рассылки одного сигнала по нескольким адресам (рис. 1.4). Она получает скалярный входной сигнал x и передает его всем своим выходам. Стандартный формальный нейрон составлен из входного сумматора, нелинейного преобразователя и точки ветвления на выходе (рис. 1.5).

Линейная связь – синапс – отдельно от сумматоров не встречается, однако для некоторых рассуждений бывает удобно выделить этот элемент (рис. 1.6). Он умножает входной сигнал x на «вес синапса» w.

Рис. 1.6. Синапс

Также бывает полезно «присоединить» связи не ко входному сумматору, а к точке ветвления. В результате получаем элемент, двойственный адаптивному сумматору и называемый «выходная звезда». Его выходные связи производят умножение сигнала на свои веса.

Итак, дано описание основных элементов, из которых составляются нейронные сети.