Бихевиоризм, или распознать разум по поведению

О значении

О тесте Тьюринга

Восстание машин

Лем скептически относится к идее восстания роботов. Он говорит, что разум, в точности подобный человеческому, никто создавать не будет, ибо это, скорее всего, невероятно трудно, и уж точно никому не нужно. Реальный же искусственный интеллект будет столь же мало походить на человеческий, «сколь человеческое тело – на атомный реактор». Эрго, заключает Лем, приписывать ИИ жажду власти или освобождения совершенно бессмысленно – скорее опасность для нас могут представлять какие-то неожиданные, не предсказанные свойства создаваемых ИИ. Что не мешает, впрочем, самому Лему в пункте «верующие автоматы» рассуждать об экзистенциальных потребностях роботов. Вообще, надо понимать, что все разговоры на эту тему спекулятивны и все мнения имеют право на существование. Пока нам известен только человеческий разум, мы не может знать, что в нем является свойством разума как такового, а что – исключительно человеческого разума – Авт.

Рассуждая о тесте Тьюринга, Лем отмечает непродуктивность обычного задавания вопросов (ибо всегда можно запрограммировать достаточно большое число ответов). В качестве более эффективного теста на понимание он предлагает пересказ текста своими словами, а также отождествление вопросов, различных по форме, но одинаковых по смыслу («Все в порядке?» и «Ничего не случилось?»). Здесь, однако, всплывает вопрос, насколько в предложенном Лемом тесте умение понимать контекст может быть заменено достаточно обширным словарем синонимов – Авт.

Лем указывает, что значение слова или фразы существует не в самом слове (фразе), а в мозгу воспринимающего. Одно и то же слово можно употреблять в разных – по сути, произвольных – значениях (это особенно очевидно, если взять не слово, где нас гипнотизирует его общепринятый смысл, а произвольный знак; любой знак может быть соотнесен абсолютно с любым значением). Таким образом, одно и то же слово может иметь разные значения для разных людей, а для кого-то вообще быть бессмысленным. Следовательно, в поисках значения бесполезно препарировать язык. Нужно изучать мышление.

Касаясь вопроса, какие свойства должен демонстрировать субъект, чтобы мы признали его разумным, Лем приводит очень любопытное наблюдение. Этот отрывок стоит того, чтобы воспроизвести его дословно.

«Каждый, кто достаточно терпеливо наблюдал за амебой, отправляющейся на охоту в капле воды, не мог не изумиться сходству действий этой капельки протоплазмы с рациональным, если не сказать человеческим, поведением. В отличной книге Йеннингса "Поведение низших организмов" (старой [1910], но достойной внимания) можно увидеть и прочитать описания такой охоты.
Двигаясь в своей капле воды, амеба сталкивается с другой, меньшей амебой и начинает ее окружать, выдвигая ложноножки (псевдоподии). Меньшая делает попытки вырваться, но агрессор крепко держит схваченную часть. Тело жертвы начинает удлиняться, пока не произойдет разрыв на две части. Остаток спасшейся амебы удаляется с разумным ускорением, а агрессор заливает плазмой то, что поглотил, и отправляется восвояси. Тем временем та часть жертвы, которая оказалась "съеденной", начинает быстро двигаться. Плавая внутри протоплазмы "хищника", она вдруг достигает наружной оболочки, прорывает ее и выбирается наружу. "Застигнутый врасплох" агрессор сперва позволяет трофею ускользнуть, но затем бросается в погоню. И тут мы становимся свидетелями ряда прямо-таки гротескных ситуаций. Агрессор несколько раз настигает жертву, но та каждый раз ускользает от него. После многих напрасных попыток "отчаявшаяся" амеба прекращает погоню и медленно удаляется в надежде на более удачную охоту.
Самым удивительным в приведенном примере является то, в какой степени нам удается его антропоморфизировать. Мотивы действий капельки протоплазмы понятны нам: погоня, поглощение жертвы, первоначальное упорство в преследовании и, наконец, отчаяние при "осознании" того, что игра не стоит свеч».

Дата добавления: 2014-12-07