Сети встречного распространения были разработаны Р. Хехт-Нильсеном в 1986 г

Объединение разнотипных нейроструктур способствует возникновению свойств, отсутствующих у этих структур по отдельности.

Достоинства и недостатки аналогичны входной звезде.

Используется в сетях распознавания образов.

Предложены Гроссбергом. Доказано, что являются моделями отдельных участков биологического мозга.

Шаг 6. Возврат к шагу 2.

Звезды Гроссберга

Входная звезда (Instar)

Входная звезда реагирует на определенный входной вектор, которому она обучена. В процессе обучения модификация весовых коэффициентов производится по формуле:

w_i(t+1) = w_i(t) + η (x_i-w_i(t))

η – коэффициент скорости обучения (в начальный момент равен 0.1, в процессе обучения сокращается до 0). Обучение по такой формуле приближает весовой вектор к усредненному вектору обучающих образов. При этом звезда обучается реагировать на любой вектор этого определенного класса.

Достоинство и недостаток – простота.

Выходная звезда (Outstar)

Как и входная звезда, используется как набор весовых коэффициентов. Решает обратную задачу: при наличии возбуждающего сигнала выставляет вектор весов на свои выходы.

Обучение производится итеративной настройкой на требуемой вектор весов по формуле:

w_i (t +1) = w_i (t) + η (y_i – w_i (t))

Нейронные сети встречного распространения

Сети встречного распространения состоят из входного слоя простых нейронов, слоя нейронов Кохонена и слоя нейронов Гроссберга (входная звезда). Время обучения сети встречного распространения задачам распознавания и кластеризации более чем в сто раз меньше времени обучения этим задачам сети обратного распространения.

Правила работы сети встречного распространения:

-Нейрон слоя Кохонена с максимальным значением взвешенной суммы является победителем. На его выходе формируется уровень логической «1», на остальных – логический «0».

-Нейроны слоя Гроссберга в результате выдают величины весов v_ij, которые связывают их с нейроном-победителем.

Правила обучения сети:

-слой Кохонена обучается без учителя, то есть на входы сети просто подаются входные образы

-Реакция слоя Гроссберга на случайный вектор выходов слоя Кохонена задается учителем: настраивается тот вход каждого нейрона Гроссберга, который подключен к активному нейрону слоя Кохонена:

v_ij (t +1) = v_ij (t) + η (y_j – v_ij (t)) K_i,

где Ki – выход i -го нейрона Кохонена.

Назначение сетей встречного распространения: сеть встречного распространения предназначена для построения отображений, т.е. производит отображение одного вектора в другой. При этом группа близких векторов на входе будет давать один и тот же вектор на выходе. Основное применение сетей встречного распространения – быстрая неточная начальная аппроксимация. Они не предназначены для точной аппроксимации.

Гауссов классификатор (реализованный на персептроне, 1987г)

Персептрон используется для реализации классификации по максимуму вероятности по Гауссу (Gaussian Maximum Likehood Classifier).

В основе построения гауссова классификатора лежат представления о распределениях входных сигналов. Считается, что эти распределения известны и соответствуют закону Гаусса.

Пусть M_Ai и S_Ai ² среднее значение и отклонение (математическое ожидание и дисперсия) i -го компонента входного сигнала, принадлежащего классу A, аналогично M_Bi и S_Bi ² – среднее значение и отклонение входного сигнала, принадлежащего классу B. Тогда оцениваются нормированные отклонения сигнала от средних:

Первые слагаемые идентичны, последние – константы, можно учесть в смещении активационной функции по оси абсцисс. Вторые слагаемые м.б. вычислены умножением входов на синаптические веса и суммированием. Синаптический вес вычисляется (для класса А):

Сигнал должен быть отнесен к классу, от среднего которого он имеет наименьшее отклонение.

Тип входных сигналов – бинарные или аналоговые.

Дата добавления: 2014-01-20