Пример 4.24

Пример 4.23

С помощью программы Evolver найти оптимальный набор ве­сов нейронной сети, изображенной на рис. 4.2 (пример 4.3), если зна­чения весов лежат в интервале от -5 до 5.

Решение этой задачи заключается в подборе такого комплекса значений весов ил,.,, w^₂, w₂i, w^, w₃i, w₃₂, а также w_K, w₂₀, w₃₀, кото­рый минимизирует значение погрешности Q, заданной в примере 4.3. Это средняя сумма квадратов разностей между ожидаемым и расчет­ным значением на выходе системы XOR для каждой из четырех пар входов, указанных в табл. 2.1. Задача сводится к минимизации функ­ции

Q

■Ј>i

относительно определенных выше девяти весов, где е; = &, - у, для / = 1, 2. 3. 4. а у, рассчитывается по формуле

у, = 1 / (1 +exp((-0Xw₃i(1 / (1 + exp((~p)(w^u_v + м_Л2и₂-, + w_w)))) + + u/₃₂(1 / (1 +exp(H3)(u/₂₁u_1|/ + w₂₂u_v + w₂₀)))) + м/30))).

Примем, что /3=1.

Задача моделировалась в табличном процессоре Excel, а оп­тимизация выполнялась при помощи генетического алгоритма про­граммы Evolver. Для популяции с размерностью, равной 50, при зна­чениях показателя скрещивания равного 0,5 и показателя мутации равного 0,06 после примерно 30000 «тактов» получено «наилучшее решение» в виде набора весов, показанного на рис. 4.81. Минималь­ное значение абсолютной погрешности Q для этих весов составляет 0,015171.

Необходимо отметить, что полученное «наилучшее решение» близко набору весов ил,., = -5, w₁₂ = 5, w₂₁ = 5, w₂₂ = -5, w₃₁ = 5, w₃₂ = 5, Wi_O = -3, w₂₀ = -3, w₃₀ = -2,5, для которого Q = 0,015167. Нейронная сеть (см. рис. 4.2) с такими весами демонстрирует симметрию, харак­терную для системы XOR. Очевидно, что найден не единственный оп­тимальный набор весов для сети этого типа [31]. При повторном запу­ске программы с той же самой размерностью популяции и такими же показателями скрещивания и мутации, скорее всего, будет найдено «наилучшее решение», содержащее иной «оптимальный» набор ве­сов. На рис. 4.82 приведен пример альтернативного «наилучшего» на­бора весов, полученного при повторном выполнении генетического алгоритма программы Evolver и проведении вычислений на протяже­нии 6000 «тактов». При известных допустимых комбинациях весов

для системы XOR [31], легко предсказать оптимальный набор весов, к которому стремится решение при продолжении выполнения этого алгоритма.

Следующие примеры относятся к той же задаче, однако при расширенном диапазоне изменения весов.

С помощью программы Evolver найти оптимальный набор ве­сов нейронной сети, изображенной на рис. 4.2 (пример 4.3), если зна­чения весов лежат в интервале от -10 до 10.

При начальных значениях, совпадающих с приведенными в примере 4.23, было проведено три сеанса вычислений. Через 30000 «тактов» в первом, втором и третьем сеансах получены «наилучшие» решения, показанные на рис. 4.83, 4.84 и 4.86 соответственно. На рис. 4.85 изображены графики изменения «наилучшего» (нижняя кри­вая) и среднего (верхняя кривая) значения функции приспособленно­сти для этого примера после 505 «тактов». Функция приспособленно­сти для системы XOR задается формулой расчета погрешности Q (см. пример 4.23) и изменяется в пределах от 0 до 1. На рис. 4.85 за­метно стремительное уменьшение наилучшего значения функции приспособленности до «наилучшего на данный момент» значения, равного 0,13159. Единица на временной оси этого графика соответст­вует 20 «тактам». Набор весов, к которому стремится «наилучшее ре­шение», характеризуется тем, что w^ = w₁₂ и w_2i = w^, что типично для логической системы XOR [31]. Результаты, представленные на рис. 4.83 и 4.84, можно сравнить с показанными на рис. 4.81 для при­мера 4.23, а информацию на рис. 4.86 - сопоставить с рис. 4.82.

Заметим, что минимальная погрешность во всех трех случаях (рис. 4.83, 4.84 и 4.86) оказывается значительно меньше, чем для ин­тервала изменения от -5 до 5, рассмотренного в примере 4.23 (рис. 4.81 и 4.82).

Дата добавления: 2015-06-04