Персептрон

Глав 3. Модели нейронных сетей

1) Персептроны

2) Многослойная сеть с обратным распространением ошибки

3) Модель Хопфилда

4) Машина Больцмана

5) Сеть Кохонена (карты Кохонена)

6) Модель Хэмминга

7) Модель ART (Сеть Гросберга)

8) Двунаправленная ассоциативная память (ДАП)

9) Когнитрон и неокогнитрон.

Первое систематическое изучение искусственных нейронных сетей было предпринято Маккалокком и Питтсом в 1943 г. Простая нейронная модель, показанная на рисунке 2.1, использовалась в большей части их работы.

2.Многослойная сеть с обратным распространением ошибки

Метод обратного распространения ошибки (англ. backpropagation)— метод обучения многослойного перцептрона. Впервые метод был описан в 1974 г. А.И. Галушкиным^[1], а также независимо и одновременно Полом Дж. Вербосом^[2]. Далее существенно развит в 1986 г. Дэвидом И. Румельхартом, Дж. Е. Хинтоном и Рональдом Дж. Вильямсом^[3] и независимо и одновременно С.И. Барцевым и В.А. Охониным (Красноярская группа)^[4].. Это итеративный градиентный алгоритм, который используется с целью минимизации ошибки работы многослойного перцептрона и получения желаемого выхода.

Основная идея этого метода состоит в распространении сигналов ошибки от выходов сети к её входам, в направлении, обратном прямому распространению сигналов в обычном режиме работы. Барцев и Охонин предложили сразу общий метод («принцип двойственности»), приложимый к более широкому классу систем, включая системы с запаздыванием,распределённые системы, и т. п.

Дата добавления: 2015-06-04