Наши наиболее могущественные технологии 21-го века - робототехника, генная инженерия и нанотехнология[2] - угрожают подвергнуть человеческий род опасности. 2 страница

Генная инженерия обещает произвести коренной переворот в сельском хозяйстве за счёт повышения урожайности с одновременным сокращением использования пестицидов; обещает создать десятки тысяч новых видов бактерий, растений, вирусов и животных; заменить или дополнить воспроизводство клонированием; создать лекарства от многих болезней, продлить нашу жизнь и улучшить её качество; и многое, многое другое. Мы теперь со всей определённостью знаем, что эти глубокие изменения в биологических науках уже близки и что они бросят вызов всем нашим представлениям о том, что такое жизнь.

Такие технологии, как клонирование человека, вызвали, в частности, осознание глубоких этических и моральных проблем, с которыми мы столкнёмся. Если, к примеру, мы должны были бы перепроектировать самих себя в несколько отдельных и неравноценных видов с помощью генной инженерии, то мы угрожали бы понятию равенства, которое является настоящим краеугольным камнем нашей демократии.

Учитывая невероятную мощь генной инженерии, нет ничего удивительного в том, что в её применении имеются значительные проблемы безопасности. Недавно мой друг Эймори Ловинс вместе с Хантер Ловинс[23] написали передовую статью, которая даёт экологический обзор некоторых из этих опасностей. Кроме прочего, они обеспокоены тем, что "новая ботаника придерживается совершенствования растений с точки зрения их экономической, а не эволюционной, состоятельности". (См. "Повесть двух ботаник", стр. 247[24]) В течение своей длительной профессиональной деятельности Эймори сосредотачивался на энергетической и ресурсной эффективности путём целостного системного взгляда на системы, созданные человеком; такой целостный системный подход часто находит простые и остроумные решения трудных на вид проблем; этот подход он с успехом и применяет в своей статье.

После прочтения статьи Ловинсов, я увидел критическую заметку Грегга Истербрука[25] в "Нью-Йорк Таймс" (за 19-е ноября 1999-го года) про генетически модифицированные культуры, под заголовком: "Пища для будущего: когда-нибудь рис будет иметь встроенный витамин "A". Если не победят луддиты."

Являются ли Эймори и Хантер Ловинс луддитами? Конечно нет. Я полагаю, что все мы согласились бы с тем, что золотой рис со встроенным витамином "A" является, вероятно, вещью хорошей, если он усовершенствован с должной тщательностью и с учётом вероятных опасностей в перемещении генов через границы видов.

Осознание опасностей, присущих генной инженерии, начинает расти, что нашло своё отражение в передовой статье Ловинсов. Общественность эти опасности сознаёт, беспокоится о генетически модифицированных продуктах питания и, кажется, отвергает мнение о том, что следует разрешить не ставить специальную пометку на таких продуктах.

Но генно-инженерная технология продвинулась уже очень далеко. Как отмечают Ловинсы, министерство сельского хозяйства США уже одобрило приблизительно 50 генетически модифицированных культур к неограниченной продаже; свыше половины соевых бобов мира и треть мировых культур содержат теперь в себе встроенные гены, взятые от других форм жизни.

Хотя здесь много значительных проблем, моё главное беспокойство по поводу генной инженерии узко ограничено: что она даёт возможность - в военных ли целях, случайно ли или же в качестве умышленного террористического акта - создать Белую Чуму.

Многие чудеса нанотехнологии впервые были представлены физиком, лауреатом Нобелевской премии, Ричардом Фейнманом[26](26) в речи, с которой он выступил в 1959-м году. Впоследствии эта речь была опубликована под заголовком "На дне много места". Книгой, которая в середине 80-х годов произвела на меня большое впечатление, была книга Эрика Дрекслера "Машины созидания"[27](27). В ней он красиво описал, как манипуляция материей на атомном уровне может создать утопический мир изобилия, где чуть ли не всё может быть создано дёшево и почти все мыслимые болезни или физические проблемы могут быть решены с помощью нанотехнологии и искусственного интеллекта.

Последующая книга, "Освобождение будущего: нанотехнологическая революция"[28], соавтором которой является Дрекслер, представляет некоторые из изменений, которые могут случиться в мире, где мы будем иметь молекулярных "сборщиков"[29]. Сборщики могут сделать возможным невероятно дешёвую солнечную энергию; лекарства от рака и от обыкновенной простуды путём наращивания иммунной системы человека; по существу полную очистку окружающей среды; невероятно дешёвые карманные суперкомпьютеры - по сути, любое изделие могло бы быть изготовлено сборщиками по цене, не превосходящей стоимости древесины - космические полёты, более доступные по цене, чем трансокеанические путешествия сегодня и восстановление вымерших видов.

Помнится, после прочтения "Машин созидания" я испытывал добрые чувства к нанотехнологии. Как технологу, эта книга дала мне ощущение спокойствия, то есть нанотехнология показывает нам, что неслыханный прогресс возможен, а похоже, что даже и неизбежен. Если нанотехнология является нашим будущим, то я не чувствую настоятельной необходимости решать так много задач в настоящем. Я достиг бы дрекслеровского утопического будущего в должное время; к тому же, я мог бы полнее наслаждаться жизнью здесь и сейчас. Учитывая его видение, не было смысла не спать всю ночь, всё время.

Дрекслеровское видение приводило также к множеству хороших шуток. Я порой начинал описывать чудеса нанотехнологии людям, которые о ней не слышали. После их раздразнивания всеми теми вещами, которые описывает Дрекслер, я, бывало, давал моё собственное домашнее задание: "Используйте нанотехнологию для создания вампира-вымогателя[30]; чтобы сделать противоядие от висящих долгов".

Вместе с этими чудесами пришли ясные угрозы, которые я остро сознавал. Как я сказал на нанотехнологической конференции в 1989 году, "мы не можем просто делать нашу науку и не беспокоиться об этих этических проблемах"[31]. Однако мои последующие беседы с физиками убедили меня, что нанотехнология может даже и не заработать, или, по крайней мере, она не заработает слишком уж скоро. Вскоре после этого я переехал в Колорадо, к скунсовым работам[32], которые я основал, и центр моей работы переместился на программное обеспечение для Интернета, а именно, на идеи, которые превратились в "Java" и "Jini".

Потом, прошлым летом, Бросль Хэсслэчер (Brosl Hasslacher) сказал мне, что наноразмерная молекулярная электроника является теперь реальностью. Это была новая новость, по крайней мере, для меня и, я думаю, для многих других людей - и она коренным образом изменила мой взгляд на нанотехнологию. Я снова взял в руки книгу Дрекслера "Машины созидания". Заново перечитав её после более чем 10-и лет, я ужаснулся, поняв, как мало я запомнил из её очень длинного раздела, называющегося "Опасности и надежды", включающего обсуждение того, как нанотехнологии могут стать "машинами разрушения". В самом деле, прочитав этот предупреждающий материал сегодня, я был поражён, до чего наивными выглядели некоторые из предложенных Дрекслером мер предосторожности, и насколько лучше я оцениваю эти опасности сейчас, чем даже он их себе представлял в то время. (Предвосхитив и описав многие технические и политические проблемы с нанотехнологией, Дрекслер в конце 1980-х основал "Институт предвидения"[33], "чтобы помочь обществу подготовиться к ожидаемым передовым технологиям" - главным образом, к нанотехнологии.)

Представляется вполне вероятным, что крупные достижения в разработке сборщиков могут произойти в течение ближайших 20-и лет. Молекулярная электроника - новый подраздел нанотехнологии, где отдельные молекулы являются схемными элементами - должна быстро созреть и стать чрезвычайно прибыльной в течение этого десятилетия, вызвав большой приток инвестиций во все нанотехнологии.

К сожалению, подобно тому, как это имеет место для ядерной технологии, гораздо легче применять нанотехнологию для разрушения, чем для созидания. Нанотехнология имеет ясное военное и террористическое употребление, и вовсе не нужно быть самоубийцей для того, чтобы в большом количестве выпустить на волю разрушающие нанотехнологические устройства - такие устройства могут быть сделаны так, что они будут разрушать избирательно, затрагивая, например, только определённые географические зоны или только генетически определённые группы людей.

Непосредственным следствием Фаустовской сделки для получения огромной силы нанотехнологии является то, что мы подвергнемся серьёзному риску - риску, что мы можем разрушить биосферу, от которой зависит вся жизнь.

Как объяснял Дрекслер:

«"Растения" с "листьями", которые нисколько не эффективнее сегодняшних солнечных батарей, могут в процессе конкуренции вытеснить настоящие растения, битком набивая биосферу несъедобной листвой. Стойкие всеядные "бактерии" могут вытеснить в процессе конкуренции настоящие бактерии; они могут распространяться подобно развевающейся пыльце, размножаться быстро и превратить биосферу в прах за считанные дни. Опасные репликаторы легко могут оказаться слишком стойкими, мелкими и быстро распространяющимися для того, чтобы их можно было остановить - по крайней мере, если мы никак не подготовились. Мы имеем довольно хлопот, контролируя вирусы и плодовых вредителей.»

Среди знатоков нанотехнологии эта угроза стала известна как "проблема серой слизи"[34]. Хотя массы неуправляемых репликаторов не обязательно должны быть серыми или липкими, термин "серая слизь" подчёркивает, что репликаторы способны уничтожить жизнь, при это будучи ещё менее вдохновляющими, чем какой-нибудь вид ползучего сорняка. Они могут превосходить в эволюционном смысле, но это не обязательно делает их полезными.

Угроза серой слизи делает совершенно ясным одно: мы не можем позволять себе определённого рода случайностей с размножающимися сборщиками.

Серая слизь была бы, конечно, унылым окончанием наших человеческих приключений на Земле; окончанием, гораздо более худшим, чем просто огонь или лёд. И это может произойти от простой лабораторной случайности[35].

Прежде всего именно из-за силы разрушительного саморазмножения в генетике, нанотехнологии и робототехнике (ГНР) мы должны призадуматься. Саморазмножение является образом действия в генной инженерии, которая использует клеточные механизмы для тиражирования своих конструкций, но главная опасность, лежащая в основе серой слизи, заключается в нанотехнологии. В наших научно-фантастических книгах и кино широко укоренились истории о неистовствующих роботах, вроде Борга, которые воспроизводятся или видоизменяются, чтобы отделаться от нравственной скованности, наложенной на них их создателями. Возможно даже, что процесс самовоспроизведения более фундаментален, чем мы думали и, следовательно, его труднее - или даже невозможно - контролировать. Недавняя статья Стюарта Коффмана в журнале "Природа" ("Nature"), озаглавленная "Самовоспроизводство: даже пептиды это делают"[36](36) обсуждает открытие того, что 32-аминокислотный пептид может "автокатализировать свой собственный синтез". Мы не знаем, как широко распространена эта способность, но Коффман замечает, что это может подсказать "путь к самовоспроизводящимся молекулярным системам на базе, гораздо более широкой, чем спаривание оснований по Уотсону и Крику[37]".

Поистине, мы получили на годы вперёд ясные предостережения об опасностях, присущих широкому распространению знаний о ГНР-технологиях - о способности одних лишь знаний создать возможность массового уничтожения. Но эти предостережения не были широко оглашены; публичные дискуссии были явно недостаточными. В оповещении об опасностях нет никакой выгоды.

Ядерная, биологическая и химическая (ЯБХ) технологии, применяемые в оружии массового уничтожения 20-го века, были и есть в значительной степени технологии военные, развиваемые в правительственных лабораториях. ГНР-технологии 21-го века в этом плане резко отличаются: они имеют ясные коммерческие применения и развиваются почти исключительно корпоративным предпринимательством. В этот век торжествующего торгашеского духа технология - с наукой в качестве своей служанки - поставляет ряд почти волшебных изобретений, которые по своей прибыльности превосходят всё виденное раньше. Мы настойчиво гонимся за перспективами этих новых технологий в рамках неоспариваемой сейчас системы мирового капитализма с его многочисленными денежными стимулами и давлением конкуренции.

Это первый момент в истории нашей планеты, когда какой-либо биологический вид, по своему произволению, стал опасностью для самого себя, а заодно и для обширного множества других видов.

Это может быть обычной последовательностью, случающейся во многих мирах - планета, недавно образовавшаяся, безмятежно вращается вокруг своей звезды; жизнь медленно формируется; эволюционирует калейдоскопическая вереница живых существ; появляется разум, который, по крайней мере, до какого-то момента, даёт огромный потенциал выживания, а затем изобретается техника. Им становится ясным, что существуют такие вещи, как законы природы, что эти законы можно открыть с помощью эксперимента и что знание этих законов можно направить как на спасение, так и на отнятие жизней, причём в беспрецедентном масштабе. Они обнаруживают, что наука даёт необъятную силу. В очень короткий отрезок времени они изобретают нечто, способное переделать мир. Одни планетные цивилизации осознают последствия, полагают пределы тому, что можно и что нельзя делать, и благополучно минуют время опасностей. Другие, не столь удачные или не такие благоразумные, погибают.

Это написал в 1994-м году Карл Саган в своей книге "Бледно-голубое пятнышко"[38], где он изложил своё видение человеческого будущего в космосе. Только теперь я понимаю, как глубока была его проницательность, и как тяжко, что я не слышу и не услышу его голос. Несмотря на всё своё красноречие, статья Сагана не лишена простого здравого смысла - свойства, которого, вместе со скромностью, многим из ведущих сторонников этих технологий 21-го века, похоже, недостаёт.

Из своего детства я помню, что моя бабушка была строго против чрезмерного употребления антибиотиков. Она ещё до Первой Мировой Войны работала медицинской сестрой и на основании здравого смысла считала, что принятие антибиотиков, если только они не были абсолютно необходимы, было вредно для вас.

Это не значит, что она была врагом прогресса. Она видела много достижений на протяжении почти 70-летней медицинской карьеры; мой дедушка, диабетик, извлёк большую пользу из усовершенствованных методов лечения, которые стали доступны во время его жизни. Но она, как и многие уравновешенные люди, вероятно, думала бы, что сконструировать сейчас робототехнический "замещающий вид" было бы очень самонадеянным для нас. Ведь даже заставляя работать относительно простые вещи, мы прилагаем, очевидно, так много усилий. И так же много усилий мы прилагаем к управлению - или даже пониманию - самих себя.

Я ясно понимаю теперь, что она сознавала сущность порядка жизни и понимала необходимость жить с этим порядком и уважать его. С этим уважением приходит необходимая скромность, в которой мы, с нашей гордыней начала 21-го века, нуждаемся при нашей опасности. Взгляд с точки зрения здравого смысла, основанный на этом уважении, часто бывает правильным, предшествуя научной очевидности. Явная слабость и неэффективность построенных нами искусственных систем должна заставить всех нас призадуматься; слабость систем, над которыми я работал, несомненно, смиряет меня.

Нам следовало бы извлечь урок из создания первой атомной бомбы и последующей гонки вооружений. Мы не извлекли его тогда должным образом, и параллели с нашей текущей ситуацией тревожат.

Работа по созданию первой атомной бомбы возглавлялась выдающимся физиком Робертом Оппенгеймером[39]. Оппенгеймер, естественно, не интересовался политикой, но он мучительно осознал серьёзную угрозу западной цивилизации от Третьего Рейха. Эта угроза была, без сомнения, серьёзной, из-за возможности того, что Гитлер мог заполучить ядерное оружие. Побуждаемый этим беспокойством, он привёз свой крепкий ум, страсть к физике и гениальное мастерство руководителя в Лос-Аламос и возглавил потрясающую коллекцию великих умов, чтобы быстро изобрести бомбу.

Что поражает, так это то, как эта работа продолжалась столь свободно даже после устранения первоначального стимула. На встрече физиков, состоявшейся вскоре после дня победы в Европе, некоторые полагали, что работу, возможно, следует прекратить, но Оппенгеймер доказывал, что надо продолжать. Сформулированный им довод выглядел немного странно: продолжать надо не из-за возможности крупных потерь от вторжения Японии, а потому, что Организация Объединённых Наций, которая вскоре должна была сформироваться, должна быть осведомлена об атомном оружии. Более вероятной причиной, почему проект продолжался, была накопленная движущая сила - первое атомное испытание, "Тринити", было уже на носу.

Мы знаем, что в подготовке первого атомного испытания физики действовали, невзирая на большое количество возможных опасностей. Вначале они беспокоились, основываясь на расчёте Эдварда Теллера[40], что атомный взрыв может воспламенить атмосферу. Исправленный расчёт уменьшил опасность разрушения мира к трём шансам на миллион. (Теллер говорит, что позже он был способен полностью отбросить перспективу воспламенения атмосферы.) Оппенгеймер, тем не менее, был достаточно обеспокоен результатом "Тринити", так, что он принимал меры для возможной эвакуации юго-западной части штата Нью-Мексико. И, конечно, была очевидная угроза начала гонки ядерных вооружений.

Не прошло и месяца после первого успешного испытания, как две атомные бомбы уничтожили Хиросиму и Нагасаки. Некоторые учёные предполагали, что бомба предназначалась просто для демонстрации, а не для сброса на японские города - говоря, что это значительно улучшило бы возможности военного контроля после войны - но это ничего не дало. Поскольку трагедия Пёрл-Харбора[41] была всё ещё свежа в умах американцев, президенту Трумену было бы очень затруднительно ограничиться демонстрацией этого оружия, а не применить его, что он и сделал - желание быстро окончить войну и сохранить жизни, которые были бы потеряны при любом вторжении Японии, было очень сильно. Всё же основная истина была, вероятно, очень простой: как позже сказал физик Фриман Дайсон[42], "причиной, по которой бомба была сброшена, было просто то, что ни у кого не нашлось мужества или предусмотрительности сказать "нет"".

Важно себе представить, как были потрясены физики последствиями бомбёжки Хиросимы 6-го августа 1945-го года. Они описывают ряд волн эмоций: сначала чувство удовлетворения, что бомба работала, потом ужас при мысли об убитых людях и затем убедительное чувство, что ни в коем случае не следует сбрасывать ещё одну бомбу. Но, конечно, ещё одна бомба сброшена была, на Нагасаки, всего лишь через три дня после бомбёжки Хиросимы.

В ноябре 1945-го года, через три месяца после атомных бомбардировок, Оппенгеймер решительно встал за научную позицию, сказав: "Невозможно быть учёным, если вы не верите в то, что знания и сила, которую они дают, представляют внутреннюю ценность для человечества, а также в то, что вы их используете для помощи в распространении знаний и вы хотите нести ответственность за последствия".

Оппенгеймер, вместе с другими, упорно продолжал работать над докладом Ачесона-Лилиенталя, который, как говорит Ричард Родес в своей недавней книге "Видение технологии"[43], "нашёл путь предотвратить тайную гонку ядерных вооружений без обращения за помощью к вооруженному мировому правительству"; их предложение было формой отказа государств-наций от права работ в области ядерного оружия в пользу международного органа.

Это предложение привело к плану Баруха, который был представлен на рассмотрение Соединённым Штатам в июне 1946-го года, но так и не был принят (возможно, потому, что, как намекает Родес, Бернард Барух "настойчиво потребовал обременить этот план обусловленными санкциями", тем самым неизбежно обрекая его, даже несмотря на то, что "в любом случае он был бы почти наверняка отвергнут сталинской Россией"). Другие попытки осуществления ощутимых шагов к тому, чтобы поставить ядерную силу под контроль различных стран с целью предотвратить гонку вооружений, проваливались либо из-за политики Соединённых Штатов и внутреннего недоверия, либо из-за недоверия Советов. Удобный случай избежать гонки вооружений был упущен, и очень быстро.

Двумя годами позже, в 1948-м, Оппенгеймер, кажется, достиг ещё одной стадии в своих размышлениях, заявив: "В некотором роде грубого смысла, который ни вульгарность, ни юмор, ни преувеличение не могут полностью затмить, физики познали грех; и это знание они не могут потерять".

В 1949-м году Советы взорвали атомную бомбу. В 1955-м как США, так и Советский Союз испытали водородные бомбы, пригодные для доставки самолётом.

Так началась гонка ядерных вооружений.

Около 20-и лет назад, в документальном фильме "День после Троицы", Фриман Дайсон подытожил научные положения, которые привели нас к ядерной пропасти:

"Я сам это почувствовал. Блеск ядерного оружия. Он неотразим, если вы подходите к этому оружию как учёный. Почувствовать, что оно в ваших руках, освободить энергию, питающую звёзды, позволить ей исполнять ваши приказания. Совершить эти чудеса, поднять миллион тонн булыжника в небо. Это даёт людям иллюзию беспредельной силы и до некоторой степени является причиной всех наших тревог. Это то, что можно назвать технической надменностью. Она овладевает людьми тогда, когда они видят, что они могут делать силой своего разума"[44].

Теперь, как и тогда, мы являемся создателями новых технологий и судеб воображаемого будущего. В данное время нас побуждают крупные денежные вознаграждения и мировая конкуренция. Мы не взираем на явные опасности, едва ли оцениваем, на что это может быть похоже - попробовать жить в мире, являющемся практическим результатом того, что мы сейчас создаём и воображаем.

В 1947-м году "Бюллетень учёных-атомщиков" начал помещать на своей обложке "Часы конца света"[45]. В течение более чем 50-и лет они показывали оценку относительной ядерной угрозы, к которой мы стоим лицом, отражая изменения международной обстановки. Стрелки на этих часах двигались 15 раз и сегодня, показывая без девяти минут полночь, отражают сохраняющуюся и реальную угрозу от ядерного оружия. Недавнее добавление в список ядерных держав Индии и Пакистана увеличило опасность провала задачи нераспространения ядерного оружия, и эта опасность в 1998-м году была отражена движением стрелок ближе к полуночи.

С насколько большей опасностью мы стоим лицом к лицу в наше время, не просто от ядерного оружия, а от всех этих технологий? Насколько высок риск вымирания?

Философ Джон Лесли изучил этот вопрос и пришёл к выводу, что риск человеческого вымирания составляет, как минимум, 30 процентов[46], в то время как Рэй Курзвейл верит, что у нас есть "больше, чем даже шанс, это преодолеть", с предостережением, что его "всегда обвиняют в том, что он оптимист". Эти оценки не только не ободряют, но они и не включают возможности многих ужасных исходов, которые лежат не доезжая до вымирания.

Некоторые серьёзные люди, столкнувшиеся с такими оценками, уже внушают, что мы просто как можно быстрее переселимся за пределы Земли. Мы, дескать, будем заселять Галактику, применяя космические зонды фон-Неймана, которые перепрыгивают от одной звёздной системы к другой и размножаются при этом. Этот шаг станет необходим через 5 миллиардов лет (или раньше, если наша солнечная система погибнет от предстоящего столкновения нашей галактики с галактикой Андромеды в течение ближайших 3-х миллиардов лет), но если мы поймаем Курзвейла и Моравека на слове, то такой шаг может стать необходимым к середине этого столетия.

Что отсюда в нравственном плане следует? Если мы обязаны быстро переселиться за пределы Земли для сохранения нашего вида, то кто возьмёт на себя ответственность за судьбу тех (большинства из нас, в конце концов), которые останутся позади? Но даже если мы рассеемся к звёздам, то не является ли вероятным, что мы можем взять наши проблемы с собой или же обнаружить позднее, что они за нами последовали? Удел человеческого рода на Земле и наш удел в Галактике представляются неразрывно связанными.

Другая идея состоит в том, чтобы соорудить ряд щитов для обороны от каждой из этих опасных технологий. Стратегическая оборонная инициатива, предложенная администрацией Рейгана, была попыткой сконструировать такой щит против угрозы ядерного нападения Советского Союза. Но как замечает Артур Кларк[47](47), который был заинтересованным лицом в обсуждениях этого проекта, "Хотя это и возможно, при больших издержках, построить местную систему обороны, пропускающую "только" небольшой процент баллистических ракет, пышно разрекламированная идея национального зонтика являлась чушью. Луис Алварез, быть может, величайший физик-экспериментатор этого столетия, заметил мне, что сторонники таких проектов являются "очень весёлыми малыми без капли здравого смысла"."

Кларк продолжает: "Заглядывая в мой часто затуманенный магический кристалл, я предполагаю, что абсолютная защита в самом деле может стать возможной в течение столетия или около того. Но вовлечённая технология создала бы, в качестве побочного продукта, оружия настолько страшные, что никто не стал бы возиться с чем-либо таким примитивным, как баллистические ракеты."[48]

Эрик Дрекслер в "Машинах созидания" предлагает нам соорудить активный нанотехнологический щит - своего рода иммунную систему для биосферы - чтобы обороняться от опасных репликаторов всех родов, которые могут ускользнуть из лабораторий или быть злоумышленно созданы иным способом. Но щит, который он предлагает, сам был бы чрезвычайно опасным - ничто не могло бы предотвратить его от развития аутоиммунных реакций и от поражения самой биосферы[49].

Подобные трудности относятся и к построению защиты от робототехники и генной инженерии. Эти технологии слишком могущественны для того, чтобы от них можно было бы защититься в интересующий срок; даже если бы это и было возможным - сделать оборонительные щиты - то побочные эффекты их разработки были бы, как минимум, такими же опасными, как и сами технологии, от которых мы пробуем защититься.

Таким образом, все эти возможности либо нежелательны, либо недостижимы, либо и то и другое. Единственной практической альтернативой, которую я вижу, является отказ: ограничить развитие слишком опасных технологий путём ограничения нашего стремления к определённым родам знаний.

Да, я знаю, знания хороши, как хороши и поиски новых истин. Мы ищем знаний с древних времён. Аристотель начал свою "Метафизику" с простого утверждения: "Все люди от рождения хотят знать". Мы в качестве основополагающей ценности нашего общества долгое время соглашались с ценностью открытого доступа к информации, и мы признаём проблемы, которые возникают при попытках ограничить доступ к знаниям и ограничить их развитие. В современную эпоху мы пришли к уважению научного знания.

Но невзирая на сильные исторические прецеденты, если свободный доступ к знанию и неограниченное развитие знания подвергает всех нас с этого времени ясной опасности вымирания, то здравый смысл требует, чтобы мы пересмотрели даже эти основные, долго удерживаемые убеждения.

Именно Ницше[50] в конце 19-го века предупреждал нас, что не только Бог мёртв, но и что "вера в науку, которая, в конце концов, бесспорно существует, не может быть обязана своим происхождением исчислению общественной полезности; она должна происходить назло тому обстоятельству, что бесполезность и опасность принципов "воля к истине", "истина любой ценой" то и дело подтверждает это". Это и есть та дальнейшая опасность, с которой мы сейчас сталкиваемся в полной мере - последствия нашего искания истины. Истина, которую ищет наука, несомненно может считаться опасной подменой Бога, если она, вероятно, должна привести к нашему вымиранию.

Если бы мы могли, как биологический вид, договориться о том, чего мы хотим, куда мы держим курс и почему, то мы бы сделали наше будущее гораздо менее опасным - мы могли бы тогда понять, от чего мы можем и должны отказаться. В противном случае мы легко можем представить себе гонку вооружений, развивающуюся над ГНР-технологиями, как это было с ЯБХ-технологиями в 20-м веке. Это, возможно, представляет наибольший риск, ибо если однажды такая гонка началась, окончить её будет очень трудно. В настоящее время – в отличие от времени Манхэттенского проекта – мы не воюем, смело встречая непримиримого врага, который угрожает нашей цивилизации; нами вместо этого движут наши привычки, наши желания, наше экономическое устройство и наша соревнующаяся потребность знать.

Я верю в то, что все мы желаем, чтобы наш курс определялся бы нашими совместными ценностями, нравственностью и этикой. Если бы мы извлекли больше совместной мудрости из нескольких прошедших тысячелетий, то диалог к этой цели был бы более практическим, а неслыханная сила, которую мы собираемся высвободить, тревожила бы в несравненно меньшей степени.

Можно было бы подумать, что к такому диалогу нас может подталкивать наш инстинкт самосохранения. Отдельные лица, несомненно, имеют такое желание, но поведение рода человеческого оставляет желать лучшего. Имея дело с ядерной угрозой, мы часто говорили самим себе и друг другу нечестно, тем самым сильно увеличивая риск. Было ли это мотивировано с политической точки зрения, или потому, что мы решили не задумываться, или потому, что когда мы сталкивались с такими мрачными угрозами, мы, будучи вне себя от страха, действовали нелогично, я не знаю, но такой образ действия не сулит ничего хорошего.

Дата добавления: 2015-05-26