Процессы с положительной обратной связью как универсальный механизм глобальных катастроф 2 страница

21. Кризис, связанный со стремлением избавиться от кризисов. (Например, чем сильнее израильтяне хотят избавиться от палестинцев, тем сильнее палестинцы хотят уничтожить израильтян.) Особенность этого кризиса связана как раз с пониманием кризисности ситуации, в отличие от предыдущих кризисов. Однако часто это не приводит к улучшению ситуации. В связи с этим можно вспомнить закон Мерфи: если долго исследовать некую проблему, то, в конце концов, обнаруживаешь, что сам являешься её частью.

Структурные кризисы малопонятны людям, ибо их ум приучен мыслить в категориях объектов и субъектов действий. В силу этого, чем больше они думают о таком кризисе и пытаются справиться с ним, например, истребив одну из сторон конфликта, тем больше кризис разрастается. Структурные кризисы вызывают ощущение недоумения и поиски скрытого врага (который бы и стал тем объектом, который порождает кризис). Например, поэтому удобнее думать, что СССР развалило ЦРУ. Примерами системного кризиса в человеческом организме является старение и ожирение. Далее возможны более сложные структурные кризисы, которые пока неочевидны.

19.4 Кризис кризисов

В современном мире присутствуют все названные виды кризисов, но в целом система остаётся стабильной, потому что силы эти «тянут в разные стороны». (Например, свойственная авторитаризму тенденция к расколам – СССР и Китай, сунниты и шииты, Сталин и Троцкий – которая создаёт кризис типа трещины и уравновешивает однополярную кристаллизацию.) То есть отдельные процессы уравновешивают друг друга: авторитаризм – дезорганизацию и т д. Кроме того, действует гомеостаз в духе принципа Ле Шателье-Брауна. (Этот принцип устанавливает, что внешнее воздействие, выводящее систему из состояния термодинамического равновесия, в котором она находится, вызывает в системе процессы, стремящиеся ослабить эффект воздействия.)

Опасно, однако, если все эти отдельные кризисы самоорганизуются и возникнет некий «кризис кризисов». Системы стремятся удерживаться в равновесии, но при достаточно сильном точке переходят в равновесное состояние движения, иначе говоря, в новую систему процесса разрушения, которая тоже обладает своей устойчивостью. Пример из обычной жизни: для того, чтобы выйти из дома, надо приложить иногда некое усилие, чтобы «раскачаться», однако когда процесс путешествия пошёл, он уже обладает собственной динамикой, инерцией и структурой.

В настоящий момент все кризисные проявления в человеческом развитии сорганизованы так, чтобы удерживать человечество в русле постепенного экономического, научно-технического и популяционного роста. В случае кризиса кризисов все те же факторы могут сорганизоваться так, чтобы непрерывно работать на уничтожение человеческой цивилизации.

Свойства «кризиса кризисов»: его невозможно понять, потому что, начав о нём думать, втягиваешься в него и усиливаешь его (так работает, скажем, арабо-израильский конфликт). И потому что его понимание не имеет никакой ценности из-за плотного информационного шума. Потому что, на самом деле, он сложнее, чем может понять один человек, но имеет ряд очевидных неверных упрощённых пониманий. (Закон Мёрфи: «любая сложная проблема имеет простое, очевидное и неверное решение».)

Элементами кризиса кризисов являются не события и взаимодействия в мире, а кризисы более низкого порядка, которые структурируются не без помощи человеческого интеллекта. И особенно важную роль здесь играет понимание того, что сейчас происходит кризис. Понимание, которое ведёт, по крайней мере, к двум моделям поведения – или к стремлению поскорее избавиться от кризиса, или к стремлению кризисом воспользоваться. Обе эти модели поведения могут только усиливать кризис. Хотя бы потому, что у разных сторон в конфликте – разные идеи о том, как закончить кризис и как получить выгоду от него.

Поскольку понимание кризиса отдельными игроками – часть кризиса, то этот кризис будет сложнее любого понимания его. Даже когда он закончится, понимания того, что же с нами произошло, – не будет. Именно поэтому так много разных мнений и дискуссий о том, что же произошло в 1941 году или «почему распался СССР».

Ещё одной метафорой «кризиса кризисов» является следующее рассуждение, которое я слышал относительно финансовых рынков. Есть большая разница между кризисом на рынке и кризисом рынка. В первом случае наблюдаются резкие скачки цен и изменение торговой ситуации. Во втором – прекращается сама торговля. В этом смысле глобальная катастрофа не есть очередной кризис на пути развития, где новое побеждает старое. Она есть прекращение самого развития.

19.5 Технологическая Сингулярность

Одно из глубоких наблюдений в духе идеи «кризиса кризисов» изложено в статье А. Д. Панова «Кризис планетарного цикла Универсальной истории и возможная роль программы SETI в посткризисном развитии» [Панов 2004]. Рассматривая периодичность различных ключевых моментов с возникновения жизни на земле, он обнаруживает закономерность, которая говорит о том, что плотность этих переходных эпох непрерывно возрастает по гиперболическому закону, а следовательно, имеет «сингулярную точку», в которой она обращается в бесконечность. Это означает, что происходит не просто очередной кризис, а кризис всей модели, которая описывает процесс эволюции от зарождения жизни до наших дней. И если раньше каждый кризис сопровождался разрушением старого и появлением нового, то теперь модель развития через кризисы подходит к концу. И эта модель ничего не говорит о том, что будет после сингулярной точки.

Согласно расчетам Панова, эта точка находится в районе 2027 года. Интересно, что несколько принципиально разных прогностических моделей указывают на окрестности 2030 года как на точку «Сингулярности», где их прогностические кривые обращаются в бесконечность. (Например, M. Esfandiary взял себе имя FM -2030 в ознаменование будущих переходных процессов ещё в середине XX века, на 2030 год указывают прогнозы по созданию ИИ и по исчерпанию ресурсов.) Очевидно, что глобальные риски группируются вокруг этой точки, так как она является классическим «режимом с обострением». Однако они могут произойти и гораздо раньше этой точки, поскольку будут кризисы и до неё.

В модели Панова каждый следующий кризис отделён от предыдущего промежутком времени, в 2,42 раза меньшим по протяженности. Если последний кризис приходится на начало 1990-х, а предпоследний – на вторую мировую войну, то следующий кризис (момент выхода из него) по модели Панова будет в районе 2014 год, а последующие – на 2022, 2025, 2026 годы, а дальше их плотность будет непрерывно нарастать. Конечно, точные значения этих цифр неверны, но общая закономерность в этом есть. При этом последний кризис – распад старого и появление нового – был в начале 90-х годов и состоял в распаде СССР и возникновении Интернета.

Это значит, что в период с настоящего момента до 2014 года мы должны пережить ещё один кризис сопоставимого масштаба. Если это верно, то мы можем наблюдать его зарождение уже сейчас внутри пятилетнего горизонта предсказаний. Однако этот кризис вовсе не будет той окончательной глобальной катастрофой, о которой мы говорим, и между ним и кризисом самой модели в 2020-е годы возможен «островок стабильности» в несколько лет.

Несколько независимых исследователей пришли к мысли о возможности технологической сингулярности в районе 2030 года, экстраполируя различные тенденции – от уровня миниатюризации устройств до мощностей компьютеров, необходимых, чтобы симулировать человеческий мозг. Первым ввёл термин Технологическая Сингулярность Вернор Виндж в статье 1993 года [Vinge 1993]. Сингулярность не отличается математически от режима с обострением, то есть катастрофы, и как завершение огромной исторической эпохи она, безусловно, будет катастрофой. Однако сингулярность может быть позитивной, если она сохранит людей и значительно расширит их потенциал, и соответственно, негативной, если в результате этого процесса люди погибнут или лишатся того большого будущего, которое у них могло бы быть. С точки зрения нашего исследования мы будем считать позитивным любой исход Сингулярности, после которого люди продолжают жить.

Наиболее быстрым, сложным и непредсказуемым процессом, который часто отождествляется с Технологической Сингулярностью, является возникновение универсального, способного к самосовершенствованию ИИ и его гиперболический рост. (Можно показать, что само ускорение развития, которое имело место в прошлом, связано именно с ускорением и улучшением способов решения задач – от простого перебора и естественного отбора к половому отбору, появлению человека, языка, письменности, науки, компьютеров, венчурного инвестирования – каждый следующий шаг был шагом в развитии интеллекта, и возможный в будущем самосовершенствующийся ИИ только продолжит эту тенденцию.)

В отношении Технологической сингулярности можно сформулировать несколько кажущихся достоверными высказываний.

Во-первых, сингулярность формирует абсолютный горизонт прогноза. Мы точно не можем сказать, что будет после сингулярности, поскольку речь идёт о бесконечно сложном процессе. Более того, мы не можем сказать ничего ни о самом моменте сингулярности, ни об определённом промежутке времени перед ней. Мы можем высказывать только определённые предположения о том, когда будет Сингулярность, однако и здесь есть большой разброс. На самом деле, ничего не мешает наступить Сингулярности прямо завтра в случае неожиданного прорыва в исследовании ИИ.

Во-вторых, с точки зрения наших современных воззрений, актуальная бесконечность не может быть достигнута. В силу этого абсолютная сингулярность не достижима. Это можно интерпретировать так, что по мере приближения к Сингулярности в системе усиливаются различные колебательные процессы, которые разрушают её раньше достижения точки бесконечности. Если это так, то перед сингулярностью плотность вероятности глобальных катастроф неограниченно возрастает. (Ср. с концепцией Г. Г. Малинецкого об увеличении частоты и амплитуды колебаний в системе перед катастрофой, которые являются признаками её приближения.) Или это может означать бесконечное уплотнение исторического времени, в силу которого сингулярность никогда не будет достигнута, как это имеет место в случае падения объектов в чёрную дыру.

В-третьих, к Сингулярности вся система подходит целиком. Это значит, что не следует ожидать того, что сингулярность не затронет кого-либо, или что будет несколько разных Сингулярностей. Хотя начаться она может в одной точке на Земле, скажем, в лаборатории по созданию ИИ, но по мере развития процесса он охватит всю Землю.

С точки зрения нашего исследования важно отметить, что глобальная катастрофа – это не обязательно и есть сама Технологическая Сингулярность. Глобальная катастрофа может быть масштабным, но, в конечном счёте, простым процессом, вроде столкновения с астероидом. В такой глобальной катастрофе есть признаки режима с обострением, как например, резкое ускорение плотности событий в момент касания астероидом Земли (длится 1 секунду), но нет сверхинтеллекта, который по определению непостижим.

Из сказанного следует, что если принять концепцию Технологической Сингулярности, то мы ничего не можем сделать, чтобы измерить или предотвратить риски после момента Сингулярности, но должны предотвращать эти риски до её наступления (особенно в период повышенной уязвимости перед ней) и стремиться к позитивной Сингулярности.

Концепция Технологической сингулярности как гипотетической точки обращения в бесконечность прогностических кривых в районе 2030 года была несколько раз независимо открыта (причём на экстраполяции разных кривых – от численности населения у Капицы до миниатюризации технологических устройств), и в настоящий момент сформировалась группа людей, призывающих стремиться к этому событию. Подробнее о Технологической сингулярности можно почитать в статьях: Вернор Виндж «Технологическая Сингулярность» [Vinge 1993], Юдковски «Вглядываясь в сингулярность»[119], Дэвид Брин «Сингулярность и кошмары» [Brin 2003], Майкл Диринг «Рассвет Сингулярности»[120].

19.6 Перепотребление приводит к одновременному исчерпанию всех ресурсов

Некоторые ресурсы могут не просто закончиться, но быть исчерпаны, так сказать, в минус. Например, сверхэксплуатация почв приводит к их быстрой и полной эрозии. Этот вопрос исследовался Медоузом в его «Пределах роста». Исследуя математические модели, он показал, что перепотребление некого ресурса неизбежно приводит систему на край гибели. Например, избыток хищников приводит к такому снижению числа жертв, что затем все жертвы до единой погибают, а сами хищники обречены на голод. Другой пример – когда загрязнение окружающей среды настолько велико, что оказывается поражена способность среды к самовосстановлению.

Кредитный цикл Мински определённым образом относится не только к деньгам, но и к истощающему перепотреблению любого природного ресурса. При этом человечеству свойственно сверхисчерпывать любой ресурс, который ему стал доступен. В этом смысле неудивительно, что перепотребление многих ресурсов происходит практически одновременно – ведь перерасходование одного ресурса можно скрыть, расходуя другой. Например, исчерпание денег на выплату ипотеки можно скрыть, оплачивая её через кредитную карточку; точно также исчерпание на 30 процентов пригодных для сельского хозяйства земель со времени Второй мировой войны можно скрыть, вкладывая больше ресурсов (то есть энергии) в культивацию оставшихся земель; или исчерпание водоносных горизонтов можно скрыть, затрачивая больше энергии на добычу воды из более глубоких горизонтов. Проблемы сверхисчерпания людям всякий раз удавалось преодолеть, совершив технологический скачок, как это было в неолитическую революцию. Однако это не всегда происходило плавно, то есть иногда решение находилось, только когда полномасштабный кризис уже разверзался. Например, неолитическая революция – переход от собирательства к оседлому сельскому хозяйству – произошла только после того, как население значительно сократилось в результате сверхисчерпания ресурсов в обществе охотников-собирателей.

В XXI веке нам угрожает одновременное исчерпание многих важных ресурсов вследствие уже сейчас происходящего перепотребления. Перечислим разные предположения об исчерпании, не обсуждая истинность или ложность каждого в отдельности. С экономической точки зрения окончательное исчерпание какого-либо ресурса невозможно, вопрос в том, сколько будет стоить получение этого ресурса и хватит ли его на всех. В связи с этим выделяют не момент исчерпания, а момент максимума добычи (пик) и затем период быстрого спада производства ресурса. Период спада может быть даже опаснее периода полного отсутствия, поскольку именно в этот момент начинается отчаянная борьба за ресурс, то есть может начаться война. Назову несколько будущих или уже пройденных пиков ресурсов.

· Пик мировой добычи рыбы – пройден в 1989 году.

· Исчерпание пригодных для земледелия земель.

· Пик производства пищи в целом.

· Пик добычи нефти – возможно, в настоящий момент.

· Пик добычи газа – позже, но после него более резкий спад.

· Выведение из эксплуатации ядерных реакторов.

· Исчерпание питьевой воды и воды для орошения.

· Исчерпания ряда цветных и редких металлов (к 2050 г.).

Ещё раз подчеркну: в данной работе проблема исчерпания ресурсов рассматривается только с точки зрения того, может ли она привести к окончательному вымиранию человечества. Полагаю, что само по себе – не может, но обострение этих проблем способно запустить обострение международных конфликтов и привести к серьёзной войне.

Интересно изучить следующий вопрос. Если некий хозяйствующий субъект терпит банкротство, то это означает, что у него кончаются одновременно все источники поступления денег, а если исчерпываются ресурсы технологической цивилизации, то это значит, что у неё одновременно заканчиваются все ресурсы, поскольку энергия в современных условиях выполняет функцию денег в технологической системе и позволяет добывать любой ресурс, пока энергия есть (например, качать воду из глубинных пластов). Следует ли из этого эквивалентность денег и энергии, а значит, будет ли энергетический кризис также и финансовым, и наоборот? Думаю, что да. Грубо говоря, потому что реальные деньги означают возможность купить товары. Если же экономика перейдёт в дефицитный режим, то возможность приобрести что-нибудь реально ценное за деньги исчезнет.

Есть разные датировки возможного пика в добыче нефти и других ресурсов, но они все принадлежат промежутку от 2006 до 2050 года. За счёт того, что одни ресурсы можно заменять другими, разные пики максимальной добычи разных ресурсов будут иметь тенденцию стягиваться к одному общему пику, точно так же, как благодаря NBIC конвергенции стягиваются пики развития разных технологий. Интересно также, что пик добычи ресурсов приходится на тот же временной отрезок, на котором ожидается Технологическая Сингулярность. Если Сингулярность случится раньше, то современные ресурсы не будут иметь большого значения, поскольку будут доступны неизмеримо большие ресурсы космоса. Наоборот, если спад в общемировой добыче всех ресурсов произойдёт до Сингулярности, это может препятствовать её наступлению. Реальный процесс видимо, будет более сложен, так как не только пики развития технологий и пики добычи ресурсов стягиваются друг к другу внутри своих групп, но и пики принципиально других групп также стягиваются в районе 2030 года плюс минус 20 лет. А именно, пик числа людей по Капице, пик возможного числа жертв от войн, пик предсказаний о рисках гибели цивилизации, о чём мы говорили выше. Есть несколько интересных гипотез о причинах такого схождения, которые мы здесь обсуждать не будем.

19.7 Системный кризис и технологические риски

Можно рассматривать системный кризис всего современного общества без учёта тех новых возможностей и опасностей, которые создают новые технологии. Тогда этот кризис будет описываться в терминах экономического, политического или экологического кризиса. Можно назвать такой кризис социально-экономическим системным кризисом. С другой стороны, можно рассматривать пространство возможностей, создаваемое появлением и взаимодействием друг с другом многих разных новых технологий. Например, исследовать, как повлияет прогресс в биотехнологиях на наши возможности по созданию ИИ и взаимодействию с ним. Можно назвать такой процесс технологическим системным событием. То и другое направление активно исследуются, однако так, как будто речь идёт о двух разных пространствах. Например, те, кто изучает и прогнозирует Peak Oil до 2030 года, совершенно не интересуются и даже не упоминают в своих исследованиях проблематику, связанную с разработкой ИИ. И наоборот, те, кто уверен в разработке мощного ИИ к 2030 году, не упоминают тематику исчерпания нефти, как незначительную. Очевидно, что интересно рассмотреть систему более высокого порядка, где социально-экономическая и технологическая системы являются только подсистемами – и в которой возможен кризис более высокого уровня. Иначе можно сказать так:

· Малый системный кризис – вовлекает только политику, ресурсы и экономику.

· Малый системный технологический кризис – вовлекает развитие одних технологий из других и сложные технологические катастрофы.

· Большой системный кризис – в нём оба малых кризиса являются только его частями, плюс взаимодействие составляющих элементов друг с другом. Пример такого кризиса: Вторая мировая война.

Примером рассмотрения системного кризиса являются «Пределы роста» Медоуза. Вопреки распространённым представлениям о том, что эта модель предсказывала исчерпание ресурсов и голод в 80 и 90-е годы XX века (даже Бостром пишет об этом – и тут можно вспомнить о роли когнитивных искажений в оценки больших проблем), она предсказывает резкий спад численности населения и продуктивности экономики в середине XXI века. Самый худший прогноз этой модели – начало снижения продуктивности в 2015 году. Недавно была опубликована статья Г. Тёрнера «Сравнение Пределов роста с реальностью: 30 лет спустя»[121]. В ней показано, что модель в период с 1970 по 2000 год показывает плавный устойчивый рост, точно коррелирующий с тем ростом, который был в реальной экономике. Спад в экономике, начавшийся в 2008 году, можно рассматривать как результат не столько финансового кризиса, сколько высоких цен на нефть, обусловленный ее нехваткой – и как предвестник будущего глобального снижения продуктивности мировой экономики – то, что в модели Медоуза называется «стандартный результат».

19.8 Системный технологический кризис – наиболее вероятный сценарий глобальной катастрофы

Это утверждение опирается на следующие посылки, которые мы по отдельности обсудили в предыдущих главах.

· Большинство крупных технологических катастроф, начиная с катастрофы «Титаника», носили системный характер, то есть не имели какой-то одной причины, а возникали как проявления сложности системы в виде маловероятного непредсказуемого стечения обстоятельств с разных планов: проектирования, управления, систематических нарушений инструкций, интеллектуальной слепоты и сверхуверенности, технических отказов и маловероятных стечений обстоятельств.

· За счёт NBIC -конвергенции и за счёт одновременности исчерпания взаимозаменяемых ресурсов мы получаем тот эффект, что все критические обстоятельства подтягиваются к одной дате, и дата эта – в районе 2030 года.

· Обвал технологической цивилизации, начавшись даже с небольшой катастрофы, может принять форму устойчивого процесса, где одна катастрофа запускает другую, при этом в каждый момент времени силы разрушения превосходят сохранившиеся силы созидания. Это происходит по причине того, что раньше огромное количество сил разрушения сдерживалось, а затем они все одновременно высвободятся (исчерпание ресурсов, заражение среды опасными биоагентами, глобальное потепление). Эта способность одной катастрофы запускать другую связана с высокой концентрацией разных потенциально смертельных для человечества технологий – подобно тому, как где бы ни начался пожар на корабле, на котором очень много пороха, в конечном счёте взорвётся весь корабль. Другая метафора – если человек убегает от лавины, он должен бежать со всё большей скоростью, и всё меньшая задержка требуется, чтобы он попал под лавину большей силы. Третья метафора – перекристаллизация некого вещества с несколькими фазовыми состояниями в районе фазового перехода. Эта метафора означает быструю и принципиальную перестройку всей цивилизации, связанную с возникновением мощного ИИ.

· По мере нарастания сложности нашей цивилизации нарастает вероятность внезапных непредсказуемых переходов в иное состояние (в духе «теории хаоса»), и одновременно нарастает наша неспособность предсказывать своё будущее и предвидеть последствия своих действий.

· Чем выше уровень развития технологий, тем меньший сбой в их работе может привести к откату цивилизации.

19.9 Криптовойна

Важным фактором будущих глобальных рисков является появление возможности «криптовойн» – то есть внезапных анонимных ударов, когда неизвестно, кто нападающий, а иногда даже неочевиден сам факт нападения (термин С. Лема [Лем 1990]). Когда в мировой гонке вооружений появляется больше двух противников, возникает соблазн нанесения анонимного (то есть безнаказанного) удара, призванного или ослабить одну из сторон, или нарушить равновесие. Очевидно, что сверхтехнологии дают новые возможности для организации таких атак. Если раньше это мог быть завоз радиоактивного вещества или запуск ракеты из нейтральных вод, то биологическая атака может быть гораздо более анонимной. Криптовойна не является сама по себе риском существованию человечества первого рода, но она изменит ситуацию в мире.

Недоверие стран по отношению друг к другу возрастёт, гонка вооружений усилится, моральный запрет на анонимный и подлый удар исчезнет. В результате может разгореться мировая война всех против всех (то есть такая война, где нет двух противоборствующих сторон, а каждый старается навредить каждому) и одновременный скачок в опасных технологиях.

Криптовойна будет во многом террористической – то есть информационное воздействие от удара будет превышать непосредственный ущерб. Но смысл этого будет не столько в возникновении страха – террора, а скорее, во всеобщем недоверии всех ко всем, которым можно манипулировать, подбрасывая разные «гипотезы». Многие политические убийства современности уже являются актами «криптовойны», например, убийство Литвиненко. В отличие от теракта, за который многие хотят взять ответственность, за криптоудар никто её не берёт, но каждый хочет использовать его в свою пользу, спихнув вину на другого.

19.10 Уязвимость к сверхмалым воздействиям

Следующим сценарным фактором является уязвимость сверхсложных систем к бесконечно малым воздействиям – что можно использовать для организации диверсий. (За счёт нелинейного сложения несколько очень слабых событий могут иметь значительно больший эффект, чем каждое из них в отдельности, что уменьшает требования к точности выбора и реализации каждого отдельного события.) Конечно, чтобы правильно рассчитать такое воздействие, нужен сверхинтеллект, способный смоделировать сверхсложную систему. А значит, этот интеллект должен быть сложнее этой системы, и эта система не должна содержать других таких интеллектов. Такая ситуация может возникнуть на первых фазах развития искусственного интеллекта. Удар с помощью малых событий будет высшим проявлением криптовойны.

Пример: аварии с отключением электричества в США и РФ при относительно небольших замыканиях. Такие точки уязвимости можно вычислить заранее. Более сложную уязвимость я не могу предложить, ибо не обладаю сверхинтеллектом. Однако ещё одним фактором может быть воздействие на родственников и друзей лиц, принимающих ключевые решения. так нельзя уничтожить мир, но спровоцировать гигантский беспорядок можно – то есть перевести систему на более низкий уровень организации. В состоянии хаоса вероятность непреднамеренного применения оружия массового поражения увеличивается, а способность к разработке принципиально новых технологий уменьшается. Соответственно, если средства всемирного уничтожения уже созданы, это повышает шанс глобальной катастрофы, а если ещё нет – то, возможно, снижает. (Но это не так, если уцелели другие технологически полноценные страны, – для них такое событие станет спусковым крючком опасной гонки вооружений.)

Примеры гипотетической точки в системе, бесконечно малое воздействие на которую приводит к бесконечно большим последствиям. Чаще всего речь идёт о принятии решения человеком, а точнее, о неком факторе, который перевешивает критический порог принятия решения. Скорее всего, речь может идти о:

· решении о начале войны (выстрел в Сараево),

· начале техногенной аварии (Чернобыль),

· биржевой панике или другом опасном слухе,

· отклонении астероида,

· убийстве правителя.

Как вариант, возможно малое воздействие на несколько удалённых точек, дающее синергетический эффект. Среди особо опасных террористических сценариев таких воздействий, доступных уже сейчас:

· Влияние на родственников лиц, принимающих решения. Использование авиамоделей как своего рода телеуправляемых ракет, которые могут принести маленькую бомбу куда угодно.

· Убийство правителей и других выдающихся людей. По мере развития технологий всё легче будет убить не только очень много людей, но и любого заранее избранного человека. Например, с помощью небольших высокоточных изделий (типа роботов-«шмелей») или вирусов, нацеленных на генетическую систему конкретного человека.

· Сложные атаки с использованием Интернета и компьютеров. Например, создание закладки в компьютере, которая выдаёт неправильные данные только одному брокеру, заставляя его принимать неправильные решения.

· Информационная атака (дезинформация): например, пустить слух (качественно сфабрикованный), что президент враждебной страны сошёл с ума и готовит превентивный удар по «нам» – это вызывает у «нас» желание ударить первыми. Что, очевидно, запускает «параноидальную» положительную обратную связь.

19.11 Гонка вооружений

Гонка вооружений опасна не только тем, что она может привести к созданию оружия судного дня. В условиях скоростной гонки вооружений придётся ставить опасные эксперименты с пониженными требованиями безопасности и с более высокой вероятностью утечек опасных веществ. Кроме того, сверхоружие всеобщего уничтожения может оказаться побочным результатом или частным случаем применения обычного оружия. Например, идея кобальтовой бомбы возникла после того, как необходимая для неё обычная атомная бомба была придумана и создана. Развитие технологии производства в военных целях особо опасных ядовитых насекомых позволит создать такой их вид, который может заполонить всю Землю. Наконец, применение в больших количествах какого-то одного оружия также может привести человечество к падению на более низкую стадию развития, на которой вымирание человеческой популяции представляется более вероятным.

19.12 Моральная деградация

Часто говорят, что моральная деградация может погубить человечество. Понятно, что моральная деградация не может быть глобальным риском первого рода, так как сама по себе она никого не убивает, да и разговоры о моральном упадке идут со времён Древней Греции. Тем не менее, моральная деградация правящей элиты считается существенным фактором падения Римской империи.

В понятие «моральная деградация» я не вкладываю оценки собственно моральную оценку, а имею в виду те психологические установки и модели поведения, которые делают общество менее устойчивым и более подверженным разного рода кризисам. В первую очередь, это предпочтение сугубо личных и краткосрочных целей над общественными и долгосрочными. Отметим, что если раньше культура была нацелена на пропаганду целей, способствовавших повышенной устойчивости общества, то теперь – наоборот. Однако от этого все не стали убийцами. Примером современной «моральной деградации» являются слова президента Клинтона о том, что он «брал сигарету с травкой, но не затягивался». Этот тип деградации угрожает в первую очередь «властным элитам» и в смысле глобальных рисков может проявиться в неспособности этих элит адекватно реагировать на возникающие угрозы. То есть реакция возможна, но ложь, недоверие друг к другу и отмывание денег могут подорвать любые действенные и масштабные инициативы в области глобальных рисков.

Дата добавления: 2015-07-13