Обучение сети

Функционирование сети

Система работает по принципу соревнования [2] -- нейроны второго слоя соревнуются друг с другом, побеждает тот элемент-нейрон, чей вектор весов ближе всего к входному вектору сигналов. За меру близости двух векторов обычно берётся евклидово расстояние между ними. Таким образом, каждый входной вектор относится к некоторому кластерному элементу.

Прежде чем сеть начнет работать её необходимо обучить на множестве данных, которое будем кластеризировать.

Для обучения сети Кохонена используется соревновательный метод [1,2]. На каждом шаге обучения из исходного набора данных случайно выбирается один вектор. Затем производится поиск нейрона выходного слоя, для которого расстояние между его вектором весов и входным вектором - минимально.

По определённому правилу производится корректировка весов для нейрона-победителя и нейронов из его окрестности, которая задаётся соответствующей функцией окрестности h(t,j,m), где m - нейрон-победитель, j - нейрон выходного слоя для которого вычисляем значение функции окрестности, t - параметр времени. Радиус окрестности должен уменьшаться с увеличением параметра времени.

В данном случае в качестве функцией окрестности была использована функция Гаусса (1).

Рис.2: функция Гаусса

(1)

Алгоритм обучения сети Кохонена выглядит следующим образом:

1. Инициировать матрицу весов малыми случайными значениями (на отрезке [-1,1]).

2. Случайным образом выбрать вектор из входного множества.

3. Для каждого выходного нейрона j вычислить расстояние (2) между его вектором весов w_j и входным вектором x:

(2)

4. Найти выходной нейрон-победитель j_min с минимальным расстоянием (2)

min(d_j)

5. Для выходного нейрона-победителя j_min и для его соседей из окрестности (1) обновляются векторы весов по правилу (3).

wij(t+1)=wij(t) + e(t) ^. h(t,j,m) ^. (xi-wij(t))

(3)

Здесь:

· w_ij(t) - значение весового коэффициента связи входного нейрона i и выходного нейрона j в момент времени t

· h(t,j,m) - значение функции окрестности с центральным нейроном выходного слоя m для нейрона выходного слоя j в момент времени t

· e(t) - коэффициент скорости обучения в момент времени t

· x_i - выход нейрона первого слоя номер i.

6. Повторить с п.2 для всех элементов входного множества.

Цикл обучения продолжается до достижения системой нужного состояния. В качестве критериев останова процесса обучения можно использовать следующие:

• Топологическая упорядоченность карты признаков (матрицы весов).
• Изменения весов становятся незначительными.
• Выход сети стабилизируется, т.е. входные вектора не переходят между кластерными элементами.

В данном случае количество циклов обучения было просто ограничено константой N = 50 ^. P, где P - количество элементов во входном множестве.

Дата добавления: 2014-01-04