Обучение с учителем

Лекция №5

При обучении нейронных сетей с учителем важную роль играет выбор меры ошибки, которая соответствует сути задачи.

Удачный выбор меры погрешности упрощает задачу обучения нейронной сети, так как обычно приводит к более гладкой поверхности невязки. Часта, в качестве меры погрешности берётся средняя квадратичная ошибка. Она определяется как сумма квадратов разности между желаемой величиной выхода “dk” и реально полученными на нейронной сети значениями “yk” для каждого примера K.

Где N- количество примеров в обучаемом множестве.

В качестве меры погрешности также широко используется расстояние Кульбака –Лейблера, которое связанно с критерием максимального правдоподобия.

Дата добавления: 2014-01-06