Методи навчання нейронних мереж

4.1. Навчання нейронних мереж і еталонні дані

Для того, щоб ШНМ могла успішно представляти дані або функ-

ціональну залежність, її потрібно спершу навчити.

Навчання – це процес адаптації мережі до пред’явлених еталон-

них зразків модифікацією (відповідно до того чи іншого алгоритму)

вагових коефіцієнтів зв’язків між нейронами.

Зауважимо, що цей процесс – результат алгоритму функціонування

мережі, а не попередньо закладених у неї знань людини, як це часто бу-

ває в системах штучного інтелекту. Процес навчання повторюється іте-

ративно доти, доки мережа не набуде потрібних властивостей.

Якщо навчання ШНМ відбувається із використанням еталонних

даних, то такий підхід називають «навчанням з учителем» (supervised

training). Еталонні дані складаються з шаблонів. Кожен шаблон, в

свою чергу, складається із вектора відомих входів мережі

і вектора відповідних їм бажаних виходів

. Коли на вхід ненавченої мережі подається еталон-

ний вектор X, вихідний вектор Y = y ₁, y ₂,…, y_m буде відрізнятися

від вектора бажаних вихідних значень D. У цьому разі функцію по-

хибки роботи ШНМ можна задати у вигляді, що відповідає методу

найменших квадратів:

(4.1)

де індекс p означає номер шаблона із еталонних даних. Таким чином похиб-

ка обчислюється як сума похибок за всіма шаблонами еталонних даних.

Слід зазначити, що розроблення адекватних еталонних даних для

навчання – завдання трудомістке і не завжди здійсненне.

4.2. Метод випадкового пошуку (random search)

Під час навчання ШНМ методом випадкового пошуку відбува-

ється динамічне підстроювання вагових коефіцієнтів синапсів, під час

якого вибираються здебільшого найслабкіші зв’язки і змінюються на

малу величину в той чи інший бік. Після цього обчислюють функцію

похибки (4.1) і зберігають тільки ті зміни, які зумовили зменшення

похибки на виході мережі порівняно з попереднім станом.

Очевидно, що цей підхід, попри свою уявну простоту, потребує

значної кількості ітерацій доки буде досягнуто прийнятних похибок

на виході мережі.

Дата добавления: 2014-11-16