Обучение с учителем

Дифференциация НС на слои не производится. Все входные сигналы подаются всем нейронам. Выходной сигнал каждого нейрона передается всем нейронам. Выходными сигналами НС могут быть выходные сигналы всех или некоторых нейронов.

Нейроны слоистой НС расположены слоями. Число нейронов в каждом слое никак не связано с количеством слоев. Нейроны каждого слоя подают сигналы на входы нейронов следующего слоя и снимают сигналы с выходов нейронов предыдущего слоя. Возможны также слоистые сети с обратными связями. В них выходы каждого нейрона подаются на входы нейронов его слоя. Такая НС обладает свойствами автомата с памятью.

Основные топологии нейронных сетей

Типы активационных функций

Слоистые сети

Полносвязные сети

4.1.4. Обучение нейронной сети

Если выбрано множество обучающих примеров и способ вычисления функции ошибки E, обучение нейросети сводится к решению задачи многомерной оптимизации. Группы методов решения этой задачи:

•Методы локальной оптимизации с вычислением частных производных 1-го порядка:

•Методы локальной оптимизации вычислением частных производных 1-го и 2-го порядков:

•Методы стохастической оптимизации:

•Методы глобальной оптимизации (переборные).

Для сравнения методов используют:

•количество шагов алгоритма;

•количество дополнительных переменных.

Оптимальными по этим критериям являются методы одномерной оптимизации с вычислением частных производных 1-го порядка. Они предназначены для нахождения локальных экстремумов, но могут использоваться для нахождения глобальных. Для этого:

•После нахождения локального минимума сеть пытаются вывести из него.

•Если это не дает результатов, увеличивают число нейронов во всех слоях с первого по предпоследний и настраивают их случайным образом.

Дата добавления: 2014-01-20