Реализация ИНС аппаратными средствами

Лекции 13. Проблемы реализации ИНС. Нейрокомпьютеры. Основные направления реализации нейросетей. Оценка производительности нейрокомпьютеров.

Характеристики (теоремы) сети АРТ

1. Быстрый доступ к предварительно запомненным образам, обусловленный тем, что после стабилизации процесса обучения предъявление одного из обучающих векторов (или вектора с существенными характеристиками категории) будет активизировать требуемый нейрон слоя распознавания без поиска.

2. Устойчивость процесса поиска, так как после определения выигравшего нейрона в сети не будет возбуждений других нейронов в распознающем слое без сигнала сброса.

3. Конечность процесса обучения, обусловленная стабильным набором весов; повторяющиеся последовательности обучающих векторов не будут приводить к циклическому изменению весов.

Сети APT являются интересным и важным видом систем. Они способны решить дилемму стабильности-пластичности и хорошо работают с других точек зрения. Архитектура APT сконструирована по принципу биологического подобия; это означает, что ее механизмы во многом соответствуют механизмам мозга (как мы их понимаем). Однако они могут оказаться не в состоянии моделировать распределенную память, которую многие рассматривают как важную характеристику функций мозга.

Нейрокомпьютер - совокупность аппаратных и программных средств для реализации нейронных сетей.

Сравнение аппаратных средств, интерпретирующих нейросетевые алгоритмы, затруднено в связи с большим разнообразием параметров:

· числом интерпретируемых нейронов;

· числом интерпретируемых связей;

· точностью представления входов, выходов и весовых коэффициентов;

· точностью схем умножения и сложения (особенно при аналоговой реализации).

Принятой в нейрокомпьютерном мире единицей измерения производительности является «соединение в секунду» (CPS – connections per second). Под соединением понимается умножение входа на вес и сложение с накопленной суммой.

Другим показателем, оценивающим скорость обучения, служит число измененных значений весов в секунду (CUPS – connections upgrading per second).

Аппаратные средства реализации нейросетей делятся на:

1. Нейрочипы;

2. Нейроускорители;

3. Нейрокомпьютеры.

В свою очередь нейрочипы могут быть:

· цифровые,

· аналоговые

· гибридные.

Цифровые нейрочипы делятся на несколько групп:

· нейрочипы с нейросетевой архитектурой;

· кристаллы для систолических систем;

· классифицирующие нейросети.

Нейрочипы с нейросетевой архитектурой специализированы на выполнение нейровычислений, поэтому наибольшую проблему при их создании представляют схемы умножения, так как именно они лимитируют скорость вычислений.

Кристаллы для систолических систем – это кристаллы с меньшей степенью специализации для нейровычислений и представляют собой близкие к обычным RISC –процессорам обычно 16 или 32-разрядные процессоры. Систолическая система – сеть процессоров, ритмично обрабатывающих и передающих данные по каналам сети. «Систола» - ритмичное сжатие сердца и артерий. В систолической системе процессоры играют роль, аналогичную сердцу,- каждый процессор регулярно прокачивает через себя данные, выполняя на каждом такте некоторые короткие вычисления так, что в сети поддерживается стационарный поток данных.

Классифицирующие нейросети манипулируют с расстояниями между входным вектором и запомненными прототипными векторами. Если расстояние от протипного вектора не превышает пороговой величины, то входной вектор относится к этому прототипу. Если расстояние между входным вектором и любым прототипным вектором больше пороговой величины, то входной вектор запоминается как прототипный. Если расстояние между входным вектором и несколькими прототипными не превышает пороговой величины, то величина порога этих прототипных векторов уменьшается. Многомерное входное пространство, таким образом, сегментируется на совокупность областей, заданных прототипными векторами.

В аналоговых нейрочипах используются простые физические эффекты для выполнения нейросетевых преобразований. Аналоговые элементы обычно меньше и проще цифровых. С другой стороны, обеспечение необходимой точности требует тщательного проектирования и изготовления.

Гибридные нейрочипы используют комбинацию аналогового и цифрового подходов. Например, входы могут быть аналоговыми, веса загружаться как цифровые, выходы тоже могут быть цифровыми.

Дата добавления: 2014-01-11