Рекуррентные и рециркуляционные сети

Под рекуррентной сетью понимается такая сеть, в которой значения выходных сигналов сети в момент времени t зависят от значений этих сигналов в предыдущий момент времени.

Рециркуляционные сети характеризуются распространением сигнала как в прямом (feed forward), так и в обратном (back forward) направлениях.

К рекуррентным сетям (сетям с обратной связью) можно отнести следующие:

· сеть Хопфилда

· машина Больцмана

· сеть Хемминга

Впервые нейронную сеть с обратной связью предложил Джордан в 1986 году.

НС Джордана имела следующий вид:

Первый слой выполняет распределительную функцию.

В промежуточном слое в качестве функции активации используется гиперболический тангенс th (s), в выходном – линейная функция активации.

Помимо входных нейронов в первом слое находятся контекстные нейроны, количество которых равно числу выходов НС. Через контекстные нейроны осуществляется вязь входа с выходом.

весовой коэффициент связи нейронов входного и промежуточного слоев;

весовой коэффициент связи нейронов промежуточного и выходного слоев.

Взвешенная сумма входов i -ого нейрона промежуточного слоя:

,

где весовой коэффициент связи между j -тым нейроном входного слоя и i -тым нейроном промежуточного слоя; порог i -того нейрона промежуточного слоя.

.

Сеть Джордана используется для решения задач прогнозирования и управления.

Сеть Элмана (Elman, 1991).

В данной сети обратный сигнал берется как с промежуточного, так и с выходного слоев: .

НС, в которой обратные сигналы берутся как с промежуточного, так и с выходного слоев, называется рекурсивной.

Дата добавления: 2014-01-15