Нейронные сети

Нейронная сеть (НС) – это распределенный параллельный процессор, состоящий из элементарных единиц обработки информации, накапливающих экспериментальные знания и предоставляющих их для последующей обработки. Она представляет собой действующую модель нервной системы и сходна с мозгом с двух точек зрения:

Знания поступают в нейронную сеть из окружающей среды и используются в процессе обучения. Для накопления знаний применяются связи между нейронами, называемые синаптическими весами.

Структурная схема единичного нейрона представлена на рис. 3

Рис.3. Структурная схема нейрона

Сигналы Xi, поступающие на вход нейрона, умножаются на соответствующие весовые коэффициенты wi, после чего суммируются. Результат суммирования поступает на нелинейный преобразователь, реализующий некоторую нелинейную функцию, называемую функцией активации или передаточной функцией нейрона: результат ее действия поступает на выход нейрона. Существует множество способов построения нейронных сетей из отдельных нейронов. Наиболее распространенной является слоистая архитектура НС, обобщенная схема которой представлена на рис.4. Сигналы входного слоя поступают на входы нейронов первого слоя, после прохождения которого распространяются дальше, пока не достигнут выходов нейронной сети. Для обучения нейронных сетей такого типа используется, как правило, т.н. алгоритм обратного распространения ошибки, позволяющий рассчитать изменения весовых коэффициентов, необходимые для того, чтобы согласовать выходные значения НС с выборкой образцов.

Использование нейронных сетей обеспечивает следующие полезные свойства систем:

• Нелинейность. Это качество нейронной сети особенно важно в том случае, если сам физический механизм, отвечающий за формирование входного сигнала, сам является нелинейным (например, человеческая речь).

• Адаптивность. Нейронные сети обладают способностью адаптировать свои синаптические веса к изменениям окружающей среды. Для работы в нестационарной среде могут быть созданы нейронные сети, изменяющие синаптические веса в реальном времени.

Рис. 4. Структура слоистой нейронной сети

• Контекстная информация. Знания представляются в самой структуре нейронной сети. Каждый нейрон сети потенциально может быть подвержен влиянию всех остальных ее нейронов.

• Отказоустойчивость. Аппаратно реализованные нейронные сети потенциально отказоустойчивы. Это значит, что при неблагоприятных условиях их производительность падает незначительно. Например, если поврежден какой-то нейрон или его связи, извлечение запомненной информации затрудняется. Однако, принимая в расчет распределенный характер хранения информации в нейронной сети, можно утверждать, что только серьезные повреждения структуры нейронной сети существенно повлияют на ее работоспособность.

Представим некоторые проблемы, решаемые применением нейронных сетей:

• Классификация образов. Задача состоит в указании принадлежности входного образа, представленного набором признаков, одному или нескольким предварительно определенным классам. К известным приложениям относятся распознавание букв, распознавание речи, классификация сигнала электрокардиограммы и т.п.

• Кластеризация/категоризация. Кластеризация основана на подобии образов: НС размещает близкие образы в один кластер. Известны случаи применения кластеризации для извлечения знаний, сжатия данных и исследования свойств данных.

• Аппроксимация функций. Задача аппроксимации состоит в нахождении оценки некоторой искаженной шумом функции, генерирующей обучающую выборку.

• Предсказание/прогноз. Задача прогнозирования состоит в предсказании некоторого значения для заданного момента времени на основании ряда значений, соответствующим другим моментам времени.

• Оптимизация. Задачей оптимизации является нахождение решения, которое удовлетворяет системе ограничений и максимизирует или минимизирует целевую функцию.

• Ассоциативная память. Данная сфера применения НС состоит в организации памяти, адресуемой по содержанию, позволяющей извлекать содержимое по частичному или искаженному образцу.

Дальнейшее повышение производительности компьютеров все в большей степени связывают с НС, в частности, с нейрокомпьютерами, основу которых также составляют аппаратно реализованные нейронные сети.

Дата добавления: 2014-01-03