Алгоритм навчання перцептронна

Перцептрон є прикладом ШН прямого поширення сигнала,тому для його навчання використовується алгоритм навчання з учителем, для цього має бути навчальна множина із деякої кількості К навчальних карт. Кожна карта поєднує n, компонентний вхідний обраp, та відповідний йому еталонний очікуваний вихід T_i

=(x₁,x₂,…,x_n); T_i={0;1}

Незменшуючи загальності розгляду моделі перцептронна з бінарними виходами {о або 1}

Навчання перцептронна здійснюється за таким алгоритмом:

1.Із емпіричних міркувань обирається поріг активації нейрона р, у випадку 0 чи 1, р може бути бране 0.5

2.Задається початкове значення вагового коефіцієнту вхідних каналів W_j, j=

Вибір із діапазону що є околом значення

+ )

Головне щоб вагові коефіцієнти були різні.

3.Уточнення вагових коефіцієнтів виконується шляхом повторюваного аналізу усіх навчальних карт

а) якщо для деякої карти очікується на виході значення Т=0, і дійсно отримано значення out=0, то корекція ваг непотрібна

б) якщо для деякої карти на виході очікується значення Т=0, а потримаємо значення out=1,то нейрон перезбуджений і проводиться корекція ваг, у напрямку зменшення тих вагових коефіцієнтів що відповідають одиночним вхідним сигналам

в)якщо для деякої карти очікується на виході Т=1 і дійсно отримано значення out=1 то корекція ваг непотрібна

г)якщо для деякої карти очікується на виході значення Т=1 а отримано значення out=0,то нейрон занадто пасивний і проводиться корекція ваг, у напрямку збільшення,тих вагових коефіцієнтів що відповідають одиночним вхідним сигналам.

4.Процес корекції ваг продовжується для 1 карти до тих пір доки недосягнень очікуваних результатів, далі здійснюється перехід до наступної карти множин.

5.Процес навчання для 1 повного набору карту називають епохою навчання,навчання проводиться до тих пір поки для однієї повної епохи відпаде потреба корекції ваг для кожної з карт.

Виникає питання на яку величину здійснюється корекція ваг.

Відповідь: Вибір величини корекції може бути довільним однак слід враховувати:

-якщо зміна ваги здійснена на малу величину то процес навчання буди успішним але тривалим

-якщо зміна ваги здійснена на значну величину то процес навчання може бути швидким але можливі випадки витрати (ШН)

-природньо що змінна ваги має бути пропорційна до поточного значення ваги і пропорційною до величини похибки результату

При корекції ваг часто вводиться коефіцієнт що називається коефіцієнтом швидкості навчання

Таким чином процес корекції ваг можна описати наступним співвідношенням

= +ɣ (T _i -out _i)·X _j

j= - це номер каналу передачі сигналу

i = – номер навчальноъ карти

γ –коефіцієнт швидкості навчання

Обирається емпірично а часто є виличиною γ ≈0,1

W ^K – попереднє значення ваги

W ^{K+ 1} – нове значення ваги

Дата добавления: 2015-08-31