Там, где затрагивается ядерное оружие, можно доказывать ценность многостороннего разоружения и ненасильственного (или по крайней мере безъядерного) сопротивления. Ядерные вооружения можно использовать, чтобы снести сооружения военного назначения и навести ужас, но они не могут использоваться, чтобы оккупировать территорию и править людьми - не могут прямо. Ядерные вооружения не могли подавить партизанскую войну и социальные беспорядки, поэтому стратегии разоружения и сопротивления имеют определенную долю смысла.

Многостороннее подавление нанотехнологии и ИИ, в отличие от этого, равнялось бы многостороннему разоружению в ситуации, где сопротивление не может работать. Агрессивное государство могло бы использовать эти технологии, чтобы захватывать и властвовать (или истреблять) даже нацию Ганди, или вооруженных и преданных борцов за свободу.

Это заслуживает акцента. Без некоторых новых путей реформирования деспотических государств в мире, простые движения за подавление исследований не могут иметь полного успеха. Без полного успеха, большой успех означал бы несчастья для демократий. Даже если они бы они ни к чему не привели, усилия этого сорта могли бы занять работу и страсть активистов, расточающих редкие человеческие ресурсы на бесплодную стратегию. Более того, усилия по подавлению настроили бы враждебно имеющих отношение к делу исследователей, вызывая столкновения между потенциальными союзниками и растрачивая еще больше человеческих ресурсов. Эта бесплодность и разделенность заставляет избегать этой стратегии.

Тем не менее подавление имеет привлекательность, которую невозможно отрицать. Оно простое и прямое; "Впереди опасность? Давайте ее остановим!" Затем успехи в усилиях по локальному лоббированию обещают краткосрочное вознаграждение: "Впереди опасность? Мы можем ее остановить здесь и сейчас, для начала!" Это начало оказалось бы фальстартом, но никто этого бы не заметил. Идея простого подавления кажется вероятным, что совратит многие умы. В конце концов локальное подавление локальной опасности имеет долгую успешную традицию; если остановить тех, кто загрязняет окружающую среду в конкретно взятом месте, например, это сокращает локальное загрязнение. Усилия по локальному подавлению глобальных опасностей кажется аналогичным, однако могут быть другие последствия. Нам будут нужны локальные организации и политическое давление, но они должны быть построены вокруг работоспособной стратегии.

Во-первых, эти технологии менее хорошо определенные, нежели ядерные вооружения: поскольку данная ядерная технология требует определенные изотопы редких металлов, она имеет отличие от других видов деятельности. Она может быть определена и (в принципе) запрещена. Но современная биохимия ведет малыми шажками к нанотехнологии, а современная компьютерная технология ведет малыми шажками к ИИ. Нет никакой определенной линии, которая определяет естественную линию, где нужно остановиться. И поскольку каждое маленькое продвижение будет приносить медицинские, военные и экономические выгоды, как можем мы проводить переговоры по поводу мирового соглашения о том, где остановиться?

Во-вторых, эти технологии более могущественные, чем ядерное оружие: поскольку реакторы и системы вооружения достаточно большие, инспекция могла бы ограничить размеры секретных сил и таким образом ограничить их мощность. Но опасные репликаторы будут микроскопическими, а программы ИИ - нематериальными. Как может кто-то быть уверен, что какая-то лаборатория где-то не находится на краю стратегического прорыва? В долгосрочной перспективе, как может кто-то быть даже уверен, что какой-то хакер в подвале не находится на краю стратегического прорыва? Обычные методы проверки не будут работать, а это делает переговоры и давление по поводу международного запрета просто невозможными.

Давление правильного рода насчет международных соглашений будут делать наш путь более безопасным, но соглашения просто запрещать опасный прогресс очевидно работать не будет. Снова, локальное давление должно быть частью работоспособной стратегии.

Военная сила в демократических странах имеет большие выгоды, но военная сила сама по себе не может разрешить нашу проблему. Мы не можем выиграть безопасность с помощью стратегии завоевания и подавления исследований.

Эти стратегии остановки исследования - будь то через личное бездействие, локальное бездействие, договорные соглашения или завоевание мира - все это выглядит обреченным на провал. Однако противодействие прогрессу будет иметь свою роль, потому что нам будет нужно выборочная, умно нацеленная задержка, чтобы отсрочить угрозы до того, как мы к ним подготовимся. Давление со стороны бдительных активистов будет важным, но чтобы помочь управлять прогрессом, а не остановить его.

В поиске серединного пути, мы могли бы пытаться найти баланс сил, основанный на балансе технологий. Это по-видимому расширило бы ситуацию, которая сохраняла определенную меру мирного сосуществования на протяжении четырех десятилетий. Но ключевое слово здесь - "по-видимому": грядущие прорывы будут столь стремительными и дестабилизирующими, чтобы старый баланс продолжал существование. в прошлом, страна могла испытывать технологическое отставание на несколько лет и все же поддерживать приблизительный военный баланс. Однако, со стремительными репликаторами и продвинутым ИИ, задержка на единственный день могла бы быть фатальной. Стабильный баланс значит слишком много, чтобы на него полагаться.

Возможно ли договорить о кооперации? Провалившиеся попытки заключить договоры об эффективном контроле на вооружениями приходят на ум, и кооперация могла бы казаться еще более сложной и трудной для воплощения. Но действительно ли это так? В контроле над вооружениями каждая сторона пытается предотвратить действия другой; это укрепляет их враждебные отношения. Далее, это возбуждает конфликты внутри каждого лагеря между группами, которые за ограничение вооружений и группами, которые существуют, чтобы производить вооружения. Хуже всего, что переговоры вращаются вокруг слов и их значений, но каждая сторона имеет собственный язык и мотив повернуть значения так, как ей нужно.

Кооперация, напротив, включает работу обеих сторон, над общей целью; это имеет свойство стирать враждебную природу отношений. Далее, это может уменьшить конфликты в пределах каждого лагеря, поскольку совместные усилия создавали бы проекты, а не уничтожали бы их. Наконец, обе стороны обсуждают свои усилия на общем языке - языке математики и диаграмм, используемом в науке и конструировании. Также кооперация имеет четкие видимые результаты. В середине 1970-х, США и СССР запустили совместный космический полет, и до тех пор пока политические трения не увеличились, они закладывали предварительные планы на совместную космическую станцию. Это были не отдельные случаи, в космосе и на земле; совместные проекты и технический обмен происходил на протяжении лет. При всех ее проблемах, технологическая кооперация доказал по крайней мере, что она не более сложна, чем контроль над вооружениями - возможно даже более проста, учитывая огромные усилия, прикладываемые к последнему.

Любопытно, что там, где затрагивается нанотехнология и ИИ, кооперация и эффективный контроль над вооружениями имели бы базовое сходство. Проверка соглашения по контролю над вооружениями потребовала бы постоянных и детальных инспекций лабораторий с каждой стороны экспертами с другой стороны - отношения, такие же близкие как при самой тесной вообразимой кооперации.

Но чего бы достигла кооперация? Она могла бы гарантировать баланс, но баланс не гарантирует стабильности. Если два вооруженных человека встречают друг друга лицом к лицу с готовым к бою оружием и большим страхом, их силы сбалансированы, но тот, кто выстрелит первым, может убрать угрозу другого. Совместные усилия в развитии технологии, если их тщательно не планировать и не контролировать, дали бы каждой стороне грозное оружие, в то время как обеспечивали бы другой стороне щит. Кто мог бы быть уверен, что ни одна сторона не найдет способ сделать обезоруживающий удар безнаказанно?

Даже если это можно было бы гарантировать, как насчет проблемы других сил, а также любителей и случайностей?

В предыдущей главе я описал решение этих проблем: разработка, тестирование и создание активных щитов. Они предлагают новое средство для лечения старой проблемы, и никто еще не предложил ему возможной альтернативы. Пока кто-нибудь не предложит, кажется мудрым рассмотреть, как их можно было бы построить и могли ли бы они создать возможную стратегию, которая способна работать.

Рассмотрим нашу сегодняшнюю ситуацию. Демократические страны на протяжении десятилетий были ведущими в мире в большинстве областей науки и технологии; мы лидируем сегодня в компьютерных программах и биотехнологии. Вместе мы - ведущая сила. Не видно причин, почему мы не можем поддерживать это лидерство и его использовать.

Как обсуждалось в предыдущей главе, ведущая сила будет способна использовать несколько тактик для управления ассемблерным прорывом. Они включают использование запечатанных ассемблерных лабораторий и ограниченных ассемблеров, и поддержание секретности относительно деталей и начальной разработки ассемблеров. В то время, когда мы будем применять эти (и другие) виды стратегии, мы можем работать, чтобы разработать активные щиты, способные дать нам постоянную защиту против новых опасностей. Это определяет цель. Чтобы ее достичь, наилучшей кажется стратегия, состоящая из двух частей.

Первая часть включает деятельность внутри сотрудничающих демократий. Нам нужно поддерживать лидерство, которое для нас достаточно, чтобы спокойно действовать с осторожностью; если мы чувствуем, что нам можем проиграть гонку, мы вполне можем удариться в панику. Продвижение с осторожностью означает разработку надежных институтов для управления и начальными прорывами и разработкой активных щитов. Те щиты, которые мы разрабатываем, в свою очередь должны разрабатываться так, чтобы помочь нам обеспечить будущее, в котором стоит жить, будущее с местом для разнообразия.

Вторая часть этой стратегии включает стратегии по отношению к сегодняшним враждебным державам. Здесь наша цель должна быть - сохранить инициативу в то время как минимизировать угрозу, которую мы представляем. Технологический баланс не будет работать и мы не сможем себе позволить упустить наше лидерство. Это оставляет силу и лидерство как наш единственный реальный выбор, делая не угрожающую позицию вдвойне сложной, чтобы ее достичь. Здесь снова нам нужны стабильные, надежные институты: если мы можем дать им большую встроенную инерцию относительно их целей, то возможно даже наши оппоненты будут иметь в них меру уверенности.

Чтобы убедить наших оппонентов (и нас самих!), эти институты должны быть настолько открытыми, насколько это возможно, в соответствии с их миссией. Мы можем также суметь построить институты, которые предлагают роль для сотрудничества с Советским Союзом. Предлагая им участие, даже если они откажутся идти на условия, которые мы предложим, мы могли бы предложить какие-то меры для подтверждения наших намерений. Если Советский Союз должен был бы принять, они бы получили общественную ставку в нашем совместном успехе.

Все же, если демократии будут сильными, когда прорывы подойдут, и если мы будем избегать угроз по отношению к контролю любых государств над своей собственной территорией, то наши оппоненты предположительно не будут видеть никаких преимуществ в атаке. Таким образом мы вероятно можем обойтись без кооперации, если необходимо.

Должна ли оборона и нападение быть так близко неразрывными? История заставляет казаться, что это так. Стены только задерживают захватчиков, когда их защищают воины, но воины сами могут выйти, чтобы захватить другие земли. Когда мы представляем оружие, мы естественно представляем человеческие руки, которые его нацеливают и человеческую прихоть, решающую, когда стрелять - и история учит нас бояться самого худшего.

Однако сегодня, первый раз в истории, мы научились, как строить защитные системы, которые принципиально отличаются от оружия как такового. Рассмотрим пример базирования в космосе. Мы сейчас можем разработать устройства, которые чувствуют (выглядит так, как будто тысяча ракет запущена только что), оценивать (выглядит так, как попытка удара первыми), и действовать (пытаться разрушить эти ракеты!). Если система будет стрелять только по большим скопищам летящих ракет, то она не может использоваться для нападения или для космической блокады. Еще лучше, что ее можно было бы сделать так, чтобы она была неспособна различать атакующие стороны. Служа стратегическим интересам своих создателей, она не подчинялась бы каждодневному командованию со стороны чьих бы то ни было генералов. Она бы просто делала космос опасным окружением для ракет любой атакующей стороны. Также как море или гряда гор в предыдущих войнах, она бы не угрожала ни одной из сторон, в то время как обеспечивала бы каждую сторону некоторой защитой против другой стороны.

Хотя она бы использовала военные технологии (сенсоры, отслеживающие устройства, лазеры, наводящиеся снаряды и т.п.) оборона не была бы системой оружия, почему ее роль была принципиально другой. Системам этого типа нужно было бы отличительное имя: они, в действительности, род активного щита - термин, которые может описать любую автоматическую или полуавтоматическую систему, разработанную для защиты без угрозы. Но защищая обе стороны, не угрожая ни одной, активные щиты могли бы ослабить цикл гонки вооружений.

Технические, экономические и стратегические вопросы, поднимаемые активными щитами сложны, и они могут быть, а могут не быть практическими в предассемблерную эру. Если они практические, то будет несколько возможных подходов к их построению. В одном подходе, сотрудничающие демократии построили бы щиты в одностороннем порядке. Чтобы дать возможность другим нациям удостовериться, что система будет и (что более важно) не будет делать, мы могли бы позволить многосторонние инспекции ключевых конструкций, компонентов, и шагов производства. Нам не нужно выдавать все участвующие технологии, почему "знаю что" не то же самое, что "знаю как". В другом подходе, мы бы строили щиты совместно, ограничивая передачу технологии до минимума, необходимого для кооперации и верификации (используя принципы, обсуждаемые в Примечаниях).

У нас больше шанса запретить космические вооружения, чем нанотехнологию, и это могло бы даже быть лучшим способом минимизировать наши краткосрочные риски. В выборе долгосрочной стратегии контроля гонки вооружений, однако мы должны рассматривать больше, чем следующий шаг. Анализ, который я обрисовал в этой главе подсказывает, что традиционные подходы к контролю вооружений, основанные на переговорах о проверяемых ограничениях, не могут справиться с нанотехнологией. Если это так, то нам нужно разработать альтернативные подходы. Активные щиты - что кажется существенным, в конченом счете могут предложить новую стабилизирующую альтернативу гонке вооружений в космосе. Исследуя эту альтернативу, мы можем исследовать основные вопросы, общие для всех активных щитов. Если мы в этом случае их разработаем, мы получим опыт и построим институциональные механизмы, которые могут позже оказаться существенными для нашего выживания.

Активные щиты - новый выбор, основанный на новых технологиях. Чтобы заставить их работать, потребуется творческий, междисциплинарный синтез идей в проектировании, стратегии и международных отношениях. Они предложат новые возможности, которые могут позволить нам избежать старых тупиков. Они очевидно предложат ответ на старый вопрос защиты без угрозы - но не простой ответ.

Нам понадобится подходящая система институтов. Чтобы безопасно управлять сложными технологиями, эта система должна иметь способы оценивать относящиеся к делу факты. Чтобы управлять безопасно большой мощью, она должна включать эффективные способы контроля и балансы, а ее цели и методы должны сохраняться открытыми для тщательного общественного контроля. Наконец, поскольку это поможет нам заложить основы нового мира, лучше, чтобы оно направлялось нашими общими интересами, в рамках надежных принципов.

Мы не начинаем с нуля; мы будем строить на основе тех институтов, которые у нас есть. Они различны. Не все из наших институтов - государственные чиновники в массивных серых зданиях; они включают такие расплывчатые и живые образования, как свободная пресса, исследовательское сообщество и сеть активистов. Эти децентрализованные институты помогают нам контролировать серые бюрократические машины.

Отчасти мы встречаемся с новой версией древней и общей проблемы ограничения злоупотребления властью. Это не представляет никакой значительной, фундаментальной новизны, и принципы и институты либеральной демократии, которым много сотен лет, подсказывают, как это может быть решено. Демократические правительства уже имеют физическую власть, чтобы взорвать континенты и захватить, посадить в тюрьму и убить их жителей. Но мы можем жить с этими возможностями, потому что эти правительства достаточно покорные и стабильные.

Грядущие годы возложат большую ношу на наши институты. Принципы представительного правительства, свободы слова, процесса сбора налогов, правила законов и защита прав человека будут оставаться решающими. Чтобы подготовиться к новым видам бремени, нам понадобится расширить и вдохнуть новую жизнь в эти принципы и институты, которые их поддерживают; защита свободы слова относительно технических вопросов может быть решающей. Хотя мы сталкиваемся с серьезным вызовом, есть повод надеяться, что мы сможем на него достойно ответить.

Есть также, конечно, очевидные причины для сомнения, что мы сможем на него достойно ответить. Но отчаяние заразно и противно, и оставляет людей в подавленном состоянии. Кроме того отчаяние кажется неоправданным, вопреки знакомым проблемам: зло - слишком ли мы злы, чтобы делать правильные вещи? Некомпетентность - слишком ли мы глупы, чтобы делать правильные вещи? Лень - слишком ли мы ленивы, чтобы подготовиться?

Хотя это был бы слишком поспешным предсказывать радужное будущее, эти проблемы не кажутся непреодолимыми.

Демократические правительства - большие, небрежные и иногда безответственные за жестокости, однако они не кажутся злом, в целом, хотя они могут включать людей, которые заслуживают этого ярлыка. В действительности их лидеры получают власть во многом выказывая поддержку общепризнанным идеям добра. Наша главная опасность в том, что стратегии, которые кажутся хорошими, могут вести к несчастью, или что действительно хорошие стратегии не будут найдены, опубликованы и воплощены во время, чтобы возыметь действие. Демократии страдают больше от лени и некомпетентности, чем от зла.

Некомпетентность будет кончено неизбежна, но должна ли она быть фатальной? Мы, человеческие существа, по своей природе глупы и невежественны, однако мы иногда ухитряемся объединить наши кусочки компетентности и знания, чтобы достигать великих вещей. Никто не знает, как долететь до Луны и никто никогда не узнает, однако дюжина людей прошлась по ее поверхности. Мы преуспели в технических вопросах, потому что научились строить институты, которые собирают многих людей вместе, чтобы генерировать и проверять идеи. Эти институты добиваются надежности путем избыточности, и качество их результатов зависит от во многом от того, как сильно это нас заботит и как напряженно мы работаем. Когда мы концентрируем достаточно внимания и ресурсов на надежности, мы часто преуспеваем. Это - то, почему полеты на Луну закончились успешно без гибели в космосе и почему никакое ядерное оружие никогда не было запущено и не взорвалось по случайности. И это то, почему мы можем суметь управлять нанотехнологией и продвинутым ИИ с достаточной осторожностью, чтобы гарантировать компетентную работу. Неустойчивые люди с ограниченными способностями могут объединиться, чтобы образовать стабильные, компетентные институты.

Лень - интеллектуальная, моральная и физическая - кажется возможно нашей самой большой опасностью. Мы можем только отвечать на великие вызовы великими усилиями. Сделают ли достаточно людей достаточные усилия? Никто не может этого сказать, поскольку никто не может сказать за любого другого. Но успех не потребует неожиданного всеобщего прозрения и мобилизации. Он потребует только растущего сообщества людей, пытающихся разработать, опубликовать и воплотить работоспособные решения, и чтобы они имели хорошую и растущую меру успеха.

Это не так невероятно. Забота о технологии стала широко распространенной, также как идея ускоряющегося изменения потребует лучшего предвидения. Лень не поймает в западню каждого, и введенные в заблуждение мыслители не будут вести по ложному направлению усилия всех. Смертоносные псевдо-решения (такие как запрещение исследований) проиграют битву идей, если достаточно людей разоблачат их. И хотя мы сталкиваемся в большим вызовом, успех сделает возможным осуществление великих мечтаний. Великие надежды и страхи могут подвигнуть достаточно людей, чтобы дать возможность человеческой расе выиграть.

Страстное участие и действие не будут достаточны; мы также будем нуждаться в хорошо обоснованных стратегиях. Это потребует больше чем хороших намерений и четких целей: мы должны также отслеживать фактические связи в мире, которые будут связывать то, что мы делаем, с тем, что мы получаем. По мере того, как мы приближаемся к технологическому кризису беспрецедентной сложности, имеет смысл попытаться улучшить наши институты оценки важных технических фактов. Как еще мы можем направлять ведущую силу и минимизировать угрозу последней некомпетентности?

Институты эволюционируют. Чтобы вывести лучшие институты для нахождения фактов, мы можем копировать, адаптировать и расширять наши прошлые успехи. Они включают свободную прессу, научное сообщество, и суды. Все имеют свои достоинства, и некоторые из этих достоинств могут быть объединены.