ФРЭНСИС БЭКОН
Личные ограничения
Локальное подавление
Соглашения глобального подавления
Глобальное подавление силой
Односторонний прогресс
Баланс сил
Кооперативное развитие
Синтез стратегий
Активные щиты против космического оружия
Власть, зло, некомпетентность и лень
В ПРЕДЫДУЩИХ ГЛАВАХ я плотно придерживался основательной почвы технологической возможности. Здесь, однако, я должен пойти дальше в область политики и человеческих действий. Эта почва более неустойчивая, но технологические факты и эволюционные принципы всё же обеспечивают устойчивые моменты, на которые можно опираться и исследовать территорию.
Гонка технологий, подгоняемая давлением эволюции, несёт нас к беспрецедентным опасностям; нам нужно найти стратегии, чтобы как-то с ними иметь дело. Поскольку мы видим впереди такую огромную опасность, имеет смысл рассмотреть остановку в нашем стремительном движении вперёд. Но как мы это можем сделать?
Сдерживание себя
Как отдельные люди, мы могли бы воздерживаться от исследований, которые ведут по направлению к опасным возможностям. Действительно, большинство людей будет воздерживаться, поскольку большая часть из них - не исследователи в первую очередь. Но эта стратегия не остановит прогресс: в нашем разнообразном мире, другие будут двигать дело вперёд.
Локальное подавление
Стратегия личного сдерживания (по крайней мере в этом вопросе) отдаёт простым бездействием. Но как насчёт стратегии локального политического действия, лоббирования законов, запрещающих определённые виды исследования? Это было бы личное действие, направленное на оказание давления на коллективное бездействие. Хотя оно могло бы преуспеть в подавлении исследования в городе, районе, стране или даже союзе стран, эта стратегия не поможет нам получить лидерство, вместо этого она бы позволила какой-то силе вне нашего контроля получить это лидерство. Популярное движение этого сорта может остановить исследование только так, где люди имеют власть, и этот величайший возможный успех просто открыл бы дорогу более репрессивным государствам, чтобы стать лидирующей силой.
Там, где затрагивается ядерное оружие, можно доказывать ценность многостороннего разоружения и ненасильственного (или по крайней мере безъядерного) сопротивления. Ядерные вооружения можно использовать, чтобы снести сооружения военного назначения и навести ужас, но они не могут использоваться, чтобы оккупировать территорию и править людьми - не могут прямо. Ядерные вооружения не могли подавить партизанскую войну и социальные беспорядки, поэтому стратегии разоружения и сопротивления имеют определённую долю смысла.
Многостороннее подавление нанотехнологии и ИИ, в отличие от этого, равнялось бы многостороннему разоружению в ситуации, где сопротивление не может работать. Агрессивное государство могло бы использовать эти технологии, чтобы захватывать и властвовать (или истреблять) даже нацию Ганди, или вооружённых и преданных борцов за свободу.
Это заслуживает акцента. Без некоторых новых путей реформирования деспотических государств в мире, простые движения за подавление исследований не могут иметь полного успеха. Без полного успеха, большой успех означал бы несчастья для демократий. Даже если они бы они ни к чему не привели, усилия этого сорта могли бы занять работу и страсть активистов, расточающих редкие человеческие ресурсы на бесплодную стратегию. Более того, усилия по подавлению настроили бы враждебно имеющих отношение к делу исследователей, вызывая столкновения между потенциальными союзниками и растрачивая ещё больше человеческих ресурсов. Эта бесплодность и разделённость заставляет избегать этой стратегии.
Тем не менее подавление имеет привлекательность, которую невозможно отрицать. Оно простое и прямое; "Впереди опасность? Давайте её остановим!" Затем успехи в усилиях по локальному лоббированию обещают краткосрочное вознаграждение: "Впереди опасность? Мы можем её остановить здесь и сейчас, для начала!" Это начало оказалось бы фальстартом, но никто этого бы не заметил. Идея простого подавления кажется вероятным, что совратит многие умы. В конце концов локальное подавление локальной опасности имеет долгую успешную традицию; если остановить тех, кто загрязняет окружающую среду в конкретно взятом месте, например, это сокращает локальное загрязнение. Усилия по локальному подавлению глобальных опасностей кажется аналогичным, однако могут быть другие последствия. Нам будут нужны локальные организации и политическое давление, но они должны быть построены вокруг работоспособной стратегии.
Соглашения глобального подавления
В более многообещающем подходе, мы могли бы применить локальное давление для переговоров о поддающемся проверке запрету на международном уровне. Аналогичная стратегия могла бы иметь шанс контролировать ядерные вооружения. Остановка нанотехнологии и искусственного интеллекта поставило бы проблемы другого порядка, по крайней мере по двум причинам.
Во-первых, эти технологии менее хорошо определённые, нежели ядерные вооружения: поскольку данная ядерная технология требует определённые изотопы редких металлов, она имеет отличие от других видов деятельности. Она может быть определена и (в принципе) запрещена. Но современная биохимия ведёт малыми шажками к нанотехнологии, а современная компьютерная технология ведёт малыми шажками к ИИ. Нет никакой определённой линии, которая определяет естественную линию, где нужно остановиться. И поскольку каждое маленькое продвижение будет приносить медицинские, военные и экономические выгоды, как можем мы проводить переговоры по поводу мирового соглашения о том, где остановиться?
Во-вторых, эти технологии более могущественные, чем ядерное оружие: поскольку реакторы и системы вооружения достаточно большие, инспекция могла бы ограничить размеры секретных сил и таким образом ограничить их мощность. Но опасные репликаторы будут микроскопическими, а программы ИИ - нематериальными. Как может кто-то быть уверен, что какая-то лаборатория где-то не находится на краю стратегического прорыва? В долгосрочной перспективе, как может кто-то быть даже уверен, что какой-то хакер в подвале не находится на краю стратегического прорыва? Обычные методы проверки не будут работать, а это делает переговоры и давление по поводу международного запрета просто невозможными.
Давление правильного рода насчёт международных соглашений будут делать наш путь более безопасным, но соглашения просто запрещать опасный прогресс очевидно работать не будет. Снова, локальное давление должно быть частью работоспособной стратегии.
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95