Лекция №3. Здесь n - это размерность пространства входных символов

N

N

V = ∑ Wi xi = * ; (1)

i = 1

Здесь n - это размерность пространства входных символов.

Затем полученная сумма сравнивается с пороговой величиной W 0 (называемой смещение, сдвигом или порогом), после чего вступает в действие не линейная функция активации F в результате получается выходной сигнал нейрона. Коэффициенты {W i} в сумме (1) обычно называют синоптическими коэффициентами или весами. Выходной сигнал нейрона «y», есть функция его состояния (F(V)). Величину порогового барьера можно рассматривать как ещё один коэффициент при постоянном входном сигнале, эта величина отражает увеличение или уменьшение входного сигнала подаваемового на функцию активации. В этом случае говорят о расширенном входном пространстве: нейрон с n-мерным входом имеет n+1 весовой коэффициент.

При этом соотношение (1) для потенциала нейрона имеет вид:

V = ∑ Wi xi + W0 = * ; (2)

i = 1

Здесь V называется потенциалом активации или индуцированным локальным полем. В зависимости от способа преобразования сигнала и характере функции активации возникают различные виды нейронных структур.

Рассматривают детерминированные нейроны и вероятностные нейроны. Состояние которых в момент времени t, есть случайная функция потенциала и состояния в момент t -1. Различают статические нейроны, такие в которых сигнал передаётся без задержки и динамические нейроны, где учитывается возможность таких задержек(Синапсы с запаздыванием).

В случае, когда функция активации одна и та же для всех нейронов, нейронная сеть называется однородной или гомогенной, если же функция активации зависит ещё от одного или нескольких параметров, значение которых меняется от нейронов к нейрону, то нейронная сеть называется не однородной или гетерогенной.

Функции активации f(V) могут быть различных видов:

1. Функция единичного скачка или пороговой функции. Функция Хевисайда. Порог смешение или сдвиг.

;

2. Знаковая, сигнатурная функция.

;

3. Линейная функция.

;

4. Полулинейная функция.

;

5.Полулинейная функция с насыщением.

;

6. Треугольная функция

???????????

7.Сигмаидальная функция. Функция S-образного вида. Примерами служат логистическая функция, или сигмоидальная.

; где b-параметр наклона сигмаидальной функции, e- выходное значение в промежутке от 0 до 1.

8. Гиперболический тангенс.

9. Софт МАХ. Для учета особенностей конкретной задачи могут быть выбраны другие функции активации. Например: Гаусова функция

Получив набор чисел на входе, нейрон выдает некоторое число “y” на выходе, т.е. нейрон реализует скалярную функцию некоторого аргумента.

Дата добавления: 2014-01-06