The recognition ability of the brain

THINKING IN GENERAL

Распознавательная способность мозга

МЫШЛЕНИЕ В ЦЕЛОМ

Противоречия между концепцией „ассоциативной сети” и реальными свойствами мозга заставили группу американских исследователей отбросить попытки „... обнаружить систему обработки информации человеческим мозгом, сперва исчерпывающе изучив поведение нейронов, а затем – стараясь сконструировать компьютерную систему из таких нейронов...”

„Этот подход так же бесплоден, как попытки южноафриканских бушменов выяснить, как работает автомобиль, начав с полного исследования свойств электронных оболочек /атомов/ металла в одном из его поршней... Системная информация о том, как различные металлические компоненты взаимодействуют, чтобы привести в движение автомобиль, не содержится в полном объёме знаний о поведении электронных оболочек /атомов/ металла в поршнях... Подобно этому... системная информация о том, как работает человеческий мозг, отсутствует в полном объёме знаний о функциях нейронов. ” [Routh et al., 1986]

Отказавшись от идеологии „ассоциативной сети”, эти авторы не пришли к идеям нейроголографии (вспомним, что концепция нейрокорреляторов была опубликована годом ранее [Барбараш, 1985б]), но сделали точные выводы о главных математических операциях мозга. Применив вместо „образа” аналогичный термин „ гештальт ” (нем. – обобщённый образ), они указали на двумерность гештальтов независимо от их сенсорной природы, на их сравнение мозгом с ранее запомненными гештальтами для выявления и количественной оценки „ассоциаций”, а также на то, что конкретной вычислительной процедурой при этом является двумерное преобразование Фурье.

The authors of this paper are skeptical of the approach taken by past and present attempts to discover the information processing architecture of the human brain by first exhaustively investigating neuron behavior, and then attempting to construct a computing architecture from these neurons.

It is our opinion that such an approach is likely to be as unfruitful as an attempt by South African Bushmen to discover how a car works by first undertacing a thorough investigation of the electron shell properties of the metal in one of the pistons. Not only are they ill-equipped to investigate electron shell behavior, but the systems information about how the various metal components interact to propel the automobile is not contained in the complete knowledge of the electron shell behavior of the metal in the pistons. This investigative approach tends to ignore the systems information which is needed to describe the purpose and function of a piston in an engine. Likewise, it is our opinion that the systems information about how the human brain processes information is not contained in the complete knowledge of the function of neurons. [Routh et al., 1986]

Having rejected the idea of “associative network”, these authors didn’t come to the ideas of neuroholography (remembering that the concept of neurocorrelators was published a year before [Barbarash, 1985б]), however they made the exact conclusions about the main mathematical operations of the brain. By having applied a similar term “ gestalt ” (German: Gestalt – “a generalized image”) instead of “a pattern”, they pointed to bidimensionality of gestalts regardless of their sensory nature, as well as to their being compared by the brain with formerly memorized gestalts for revealing and quantitative estimation of “ associations ”, and also to the fact that the 2D Fourier transform is a certain computational procedure in this case.

Если отвлечься от физиологической реализации и попытаться описать только результат работы нейрокорреляторов мозга, это прозвучало бы именно так, как изложили американские авторы. Но существуют ли доказательства того, что в мозге реализованы анатомические структуры, составляющие схему рис. 3.4 или, точнее, рис. 3.5? Да, такие доказательства есть.

Для случая передачи изображений, в теории информации развито представление об идеальном приёмнике сигналов, который способен с наименьшими среднеквадратическими ошибками выделять сообщение на фоне шумов (здесь используется критерий минимума среднего риска). Такой наилучший приёмник назван приёмником Зигерта – Котельникова. Сходный подход заключён в идее корреляционного приёмника, работа которого основана на вычислении интеграла функции корреляции входного и эталонного изображений и сравнении его с порогом. Разработано также теоретическое представление об оптимальном или согласованном фильтре или иначе – о фильтровом приёмнике. В этом случае оказалось, что наилучший результат имеет место, когда частотная характеристика фильтра комплексно сопряжена со спектром входного изображения.

Исследования показали [Красильников, 1976], что все три приёмника (Зигерта – Котельникова, корреляционный и фильтровой) при выделении изображений на фоне шумов дают принципиально одни и те же результаты, так как реализуют, в конце концов, одно и то же правило принятия решений.

Свойства идеальных приёмников изображений были сопоставлены со свойствами всех потенциально применимых типов технических устройств. Выяснилось, что если сигналом является топологически упорядоченный двумерный массив информации (изображение или образ), то может быть назван только один класс устройств, позволяющий, в принципе, достичь идеала.

Таким устройством оказался голографический коррелятор, когда его частотная характеристика комплексно сопряжена со спектром принимаемого изображения. Именно такую частотную характеристику

If we digress from physiology and try to describe only the work result of brain neurocorrelators it would sound just as the American authors have stated it. But are there any proofs of the fact that anatomic structures comprising the scheme of Fig. 3.4 or, more exactly, Fig. 3.5 exist in the brain? Yes, there are such proofs.

For image transfer the information theory contains a concept of ideal signal receiver capable of extracting a message against the background of noise (here, the minimum average risk criterion is used) with the least mean-square errors. The best receiver of that sort is called Zigert – Kotelnikov receiver. A similar approach lies in the idea of correlation receiver that functions basing on computing the integral of correlation function of the input and reference images and comparing it with a threshold. Also, a theoretical concept about optimal or matched filter or, in other words, filter receiver, has been developed. At that, the best result occurs when the frequency response of the filter is complexly mated with the spectrum of the input image.

The investigations have shown [Krasilnikov, 1976] that by extracting the images against the background of noise all three receivers (Zigert – Kotelnikov, correlation and filter receivers) give one and the same result, as they eventually fulfill one and the same rule of problem-solving.

The properties of ideal image receivers were compared with those of all potentially applicable types of engineering devices. It has been found that if a topologically ordered 2D information array (image or pattern) is taken as a signal, then only one class of devices can be mentioned, which basically allows for reaching the ideal.

A holographic correlator has appeared to be such device, when its frequency response is complexly mated with the spectrum of received image. It is precisely this frequency response that the device acquires after direct Fourier

приобретает прибор в результате прямого Фурье-преобразования входного изображения, перемножения полученного Фурье-образа на Фурье-образ эталонного массива и обратного Фурье-преобразования, с учётом фазовых соотношений. Другими словами, при передаче образов оптимальным фильтром, корреляционным приёмником или приёмником Зигерта – Котельникова теоретически наилучшим является устройство, схема которого изображена на рис. 3.4. Превысить его – невозможно.

А какие свойства проявляет мозг человека? Специалисты по распознаванию образов исследовали человека так, как если бы он был автоматическим распознающим устройством. Результат оказался потрясающим! Опыты показали, что человек-наблюдатель проявляет свойства оптимального фильтра и полностью реализуетпараметры идеальной распознающей системы. С точностью до погрешности эксперимента, свойства человека совпали с параметрами единственной в своём роде, теоретически наилучшей распознающей системы, какой способен быть только голографический коррелятор!

„При белом шуме человек-наблюдатель обеспечивает вероятности правильного опознавания зашумленных изображений, близкие к тем, которые обеспечивает приёмник Зигерта – Котельникова... Человек-наблюдатель практически полностью реализует потенциальную разрешающую способность системы...” [Красильников, 1986]

Какое-то время между специалистами не было единодушия в вопросе о том, какую роль в оптимальной фильтрации играет сетчатка глаза и какую – более высокие отделы мозга. Чтобы ответить на этот вопрос, было исследовано восприятие изображений разного масштаба, построенных из небольшого числа дискретных элементов. Шум вводился путём хаотической замены некоторого числа чёрных элементов белыми и наоборот.

При постоянных размерах зон суммации в сетчатке глаза (что обеспечивалось стабильностью освещения, расстояния до изображения и т.п.), вопреки изменению масштаба в 15 раз, неизменно наблюдалось усреднение шума по поверхности изображения (т.е. фильтрация помех), что указывало на

transform of the input image, multiplication of the produced Fourier pattern by that of the reference array and inverse Fourier transform, having regard to phase relationships. In other words, the device schematically presented in Fig. 3.4 is theoretically the best one for transferring the patterns using optimal filter, correlation receiver or Zigert-Kotelnikov receiver. One cannot make a better device.

And what properties does the human brain exhibit? The image recognition specialists have investigated a human being as if he is an automatic recognition device. A result has appeared striking! It has been shown experimentally that a human observer exhibits the features of the optimal filter and completely implements the parameters of ideal recognition system. Accurate to experimental error, the human properties have coincided with parameters of such a unique and theoretically the best recognition system as holographic correlator!

“With white noise, a human observer ensures the probabilities of correct recognition of noisy images, which are similar to those ensured by Zigert – Kotelnikov receiver …The human observer practically totally fulfills the potential resolution of the system …” [Krasilnikov, 1986].

For some time the specialists have not been in agreement about what role is played by retina in the optimal filtration and what role by higher brain segments. To answer this question, the perception of differently scaled images that were made up of a small number of discrete elements was investigated. The noise was introduced by chaotic replacement of some number of black elements with the white ones and vice versa.

The sizes of retina summation zones being constant (that was ensured by stable illumination and the distance to image, etc.), despite the scale variation by a factors of 15, averaging of the noise on the image surface (i.e. noise filtration) was always observed. It pointed to the fact that filtration was performed not by retina but

фильтрацию не сетчаткой глаза, а более высокими отделами зрительной системы мозга. Об этом же говорила хорошая различимость шумовых пятен как на крупномасштабных, так и на мелкомасштабных изображениях, откуда следовало, что в данном эксперименте сетчаткой глаза шумовые пятна не усреднялись.

Эти опыты дали ещё один важный результат. Оказалось, что в зрительной системе человека компенсаторно происходит обмен [4] между уровнем шума и площадью изображения [Красильников, 1986]. Это важно потому, что такой обмен возможен только в системах, осуществляющих оптимальную фильтрацию!

Все эти данные могут интерпретироваться лишь одним способом – в мозге существует по крайней мере одна система, выполняющая преобразование Фурье, перемножающая Фурье-образ входного изображения на Фурье-образ эталонного сигнала и производящая обратное Фурье-преобразование с учётом фазовых соотношений. Сразу оговоримся, что из-за хаотичности нейронной структуры мозга невозможно представить себе вычисление двумерных преобразований Фурье по принципу „ассоциативной сети”.

С другой стороны, очень сложные для дискретного вычисления двумерные преобразования Фурье предельно просто (одной сферической поверхностью) выполняются в оптической системе, использующей когерентные волны, а свойства таких систем можно увидеть в ядрах мозга. Кора мозга, как отмечалось в главе 3.3.2., чётко проявляет свойства голографической памяти. Пучки волокон, неискажённо переносящие образы от ядер к коре и от коры к ядрам, замыкают цепочку совпадений между ожидаемой вычислительной структурой и реальностью. Так мы снова приходим к нейрокорреляторам, типовая схема которых изображена на рис. 3.5.

by higher segments of the brain visual system. The same was proved by good distinguishability of noise spots both on large- and small-scale images whence it followed that in the given experiment the noise spots were not averaged by retina.

Those experiments yielded one more important thing. It has been found out that in the human visual system the compensatory exchange [5] between the noise level and the image area takes place [Krasilnikov, 1986]. It is of great importance, since such exchange can occur only in the systems that perform the optimal filtration!

All these data can be interpreted only in one way that suggests that there is at least one system in the brain, which performs Fourier transform, multiplies the Fourier-pattern of the input image by that of a reference signal, and fulfills the inverse Fourier transform with regard to phase relationships. Let us specify that chaotic character of the brain neural structure makes it impossible to imagine computation of 2D Fourier transforms basing on “associative network” principle.

At the same time, being highly complicated for discreet computation, the 2D Fourier transforms can be easily (using one spherical surface) implemented in the optical system that employs coherent waves. The features of such systems can be found in the brain nuclei. The cortex, as mentioned in 3.3.2., clearly exhibits the properties of the holographic memory. The fiber bundles that without distortion transfer the patterns from nuclei to the cortex and back close a series of matches between the expected computational structure and reality. Thus, we again come to neurocorrelators the standard scheme of which is given in Fig. 3.5.

Определение функции корреляции при помощи нейрокорреляторов является главной, базовой, но, конечно, не единственной математической операцией, выполняемой мозгом. Мы не задерживаем на этом внимание потому, что задачей данной работы является не рассмотрение многочисленных подробностей, а выяснение главных принципов работы мозга. Подробностей же и нюансов здесь очень много. Так, нельзя забывать различные варианты сравнения с порогом, нельзя игнорировать часто используемое латеральное торможение и проч.

Например, эксперименты показали, что “алгоритм обработки зашумленных изображений в зрительной системе наблюдателя можно моделировать алгоритмом, в соответствии с которым работает приёмник Зигерта – Котельникова, дополнив его „логическим ограничением уровня яркости” на выходе этого приёмника” [Красильников, 1986, с. 106]. Но все эти важные подробности, к сожалению, не умещаются в рамках данной работы.

Теперь становятся понятными вечные проигрыши электронных распознающих устройств в соревновании с человеком, о чём писалось во Введении (гл. 3.1.1.). Ни в одной из практических распознающих систем, в разработке которых участвовал или с которыми знакомился автор, голографические корреляторы не применялись. Дело в том, что голографический коррелятор, использующий лучи видимой части спектра, является очень деликатным прибором, которое трудно перенести из лаборатории в практику, а его электронно-вычислительные имитации работали медленно. Поэтому реальные устройства распознавания зрительных образов строились по иным схемам. Оттого-то они и были обречены на постоянный проигрыш перед человеком, в мозге которого реализована теоретически наилучшая, предельная по возможностям схема приёмника Зигерта – Котельникова.

В условиях эксплуатации, работа голографических корреляторов нарушается при толчках и вибрациях, в связи с изменением фазовых соотношений (например, между предметным и опорным световыми пучками) при малейших

Determining the correlation function using neurocorrelators is the base but not the only mathematical operation performed by the brain. We will not dwell on this issue because the objective of the present work is not to consider numerous details but to specify the key principles of the brain functioning. However, there are a lot of details and nuances. Thus, one must not forget about different variants of comparing with the threshold or ignore the frequently used lateral inhibition, etc.

For example, it has been shown experimentally that “the algorithm of noisy image processing in observer’s visual system can be modeled by the agorithm in compliance with which the Zigert – Kotelnikov receiver functions, by supplementing it with “logical limitation of the brightness level” at the output of this receiver” [Krasilnikov, 1986, p. 106]. Unfortunately, all these important details cannot be covered in the present work.

Now the disadvantages of electronic recognition devices when compared to a human being, as written in the Introduction (see 3.1.1.), become clear. None of the practical recognition systems, in the development of which the author took part or was familiarized with, employed holographic correlators. The fact is that the holographic correlator that uses the rays of the visible part of spectrum is a very delicate device being difficult to turn from laboartory into practice, and its electronic-computation simulations work slowly. Therefore, the real visual image recognition devices are built based on other schemes. That is why they were doomed to constant failure to a human in whose brain a theoretically the best and the utmost in its capabilities scheme of Zigert – Kotelnikov receiver is implemented.

Under operating conditions, the work of holographic correlators is disturbed at shocks and vibrations due to variation of phase relationships (for examle, between the object and reference light spots) during the slightest shifts of the optical elements (see 3.3.7.).

сдвигах оптических элементов (см. гл. 3.3.7.).

Дата добавления: 2015-06-04