Искусственный разум и новая эра человечества - Эрик Шмидт

Стратегов в правительстве и научных кругах беспокоило, что ставка делается на ядерные удары, а не на оборону. Они изучали, каким образом оборонительные системы могли бы расширить для политиков окно принятия решений, давая возможность вести дипломатическую работу – или хотя бы собирать больше информации – во время ядерного противостояния. Но стремление к созданию оборонительных систем лишь еще больше ускорило рост наступательных вооружений.

По мере роста арсеналов обеих сверхдержав возможность реального применения ядерного оружия для контрудара или возмездия стала казаться все более сюрреалистичной и невероятной, потенциально угрожая самой логике сдерживания. Признание этого ядерного тупика породило новую доктрину взаимного гарантированного уничтожения. Согласно этой доктрине, применение ядерного оружия любой стороной вызовет такое количество жертв и разрушений, что ни одна из сторон не может осмелиться нанести первый удар. Человечество разработало «абсолютное оружие» и сопровождающие его стратегические доктрины в поисках мира – результатом был глобальный страх ядерной войны. Концепцией, призванной разрешить эту дилемму, был контроль над вооружениями.

Если сдерживание стремилось предотвратить ядерную войну путем взаимных угроз, то контроль над вооружениями был нацелен на предотвращение ядерной войны путем ограничения или даже отмены самого ядерного оружия или отдельных его категорий. Этот подход сочетался с концепцией нераспространения ядерного оружия, подкрепленной сложным набором договоров, технических гарантий, регулирующих и других механизмов контроля. Согласно этой концепции ядерное оружие, а также знания и технологии, поддерживающие его создание, не должны распространяться за пределы тех стран, которые уже обладают им. Никогда в истории человечества не принимались такие меры контроля над вооружениями и нераспространения оружейных технологий. Пока ни одна из стратегий не увенчалась полным успехом. В отношении новых классов оружия, основанных на кибернетических технологиях и ИИ, подобные усилия пока не предпринимались. Сегодня становится все больше стран, обладающих ядерным, кибернетическим и ИИ-оружием, но некоторые уроки эпохи контроля над вооружениями не помешает вспомнить.

После Карибского кризиса (октябрь 1962 г.) сверхдержавы стремились ограничить ядерную гонку с помощью дипломатии. США и СССР с осторожностью пытались найти пределы количества и возможностей ядерного оружия, которые были бы совместимы с поддержанием стратегического равновесия. В конце концов обе стороны согласились ограничить не только свои наступательные арсеналы, но и – следуя парадоксальной логике сдерживания, в которой уязвимость считается гарантией мира, – свои оборонительные возможности. Результатом стали договоры об ограничении стратегических вооружений и противоракетной обороны 1970-х гг., а затем Договор о сокращении стратегических вооружений 1991 г. Достигнутые соглашения сохраняли способность сверхдержав уничтожить – и тем самым сдерживать – друг друга, в то же время ограничивая гонку вооружений.

Хотя Вашингтон и Москва оставались противниками и продолжали вести борьбу за стратегическое преимущество, благодаря переговорам по контролю над вооружениями у них появилась некая определенность для дальнейших шагов по предотвращению всеобщей войны. Информируя друг друга о своих стратегических возможностях и договариваясь об определенных ограничениях и механизмах контроля, обе стороны стремились снять опасность первого удара со стороны потенциального противника.

В итоге эти инициативы стали активно препятствовать дальнейшему распространению ядерных вооружений. США и Россия стали инициаторами режима многосторонних обязательств и многосторонних механизмов, который должен был запретить всем, кроме самых первых ядерных государств, приобретать ядерное оружие или обладать им – в обмен на обязательства помогать другим государствам в использовании ядерных технологий для получения возобновляемой энергии. В ходе различных кризисов и конфликтов того времени их участники не считали возможным применение ядерного оружия. В политике, культуре и в отношениях между политическими лидерами существовало характерное общее отношение к ядерному оружию – все признавали, что ядерная война между крупными державами повлечет за собой необратимые решения и беспрецедентные риски для всех сторон, включая сторонних наблюдателей.

Ядерное оружие поставило политиков перед двумя постоянными связанными между собой проблемами – превосходства и недостатка вооружений. Что означало превосходство в ситуации, когда две сверхдержавы обладали ядерными арсеналами, достаточными для многократного уничтожения всего мира? В этих условиях дополнительное наращивание вооружений уже не обеспечивало явных преимуществ. В то же время горстка стран обзавелась собственными небольшими запасами ядерного оружия, рассчитывая на то, что для сдерживания нападения им нужен арсенал, достаточный для причинения разрушений, а не для достижения полной победы. Таким образом, оказалось, что нет большой разницы между обладанием превосходящими или недостаточными арсеналами, – хоть это и противоречит интуиции.

Но ядерная безопасность не дана нам раз и навсегда. Ее должно обеспечивать каждое поколение политических лидеров – при том, что новые участники «ядерного клуба» стремятся развивать свой ядерный потенциал, имея различные стратегические доктрины и разное отношение к жертвам среди гражданского населения, а уравнения сдерживания становятся все более размытыми и неопределенными. И на фоне этих неразрешенных стратегических парадоксов появляются новые факторы и новые сложности. Во-первых, это кибероружие, которое повышает уязвимость и расширяет поле стратегий и разнообразие сценариев. Во-вторых, это ИИ, который способен изменить обычные, ядерные и кибернетические вооружения и стратегии. Появление новых технологий не положило конец дилеммам, связанным с ядерным оружием, – они стали новыми ограничивающими условиями ведения войн (по крайней мере для ядерных держав).

На протяжении всей истории человечества политическое влияние нации, как правило, примерно соотносилось с ее военной мощью и стратегическими возможностями – ее потенциальной способностью наносить ущерб другим странам. Проблема, однако, в том, что равновесие, основанное на расчете силы, непостоянно и не поддерживает само себя – оно опирается прежде всего на общее понимание того, что считать силой и каковы законные границы ее применения. Соответственно, поддержание этого равновесия требует общего для всех участников системы международных отношений – особенно противников – понимания относительных возможностей и намерений государств, а также последствий агрессии. Наконец, сохранение равновесия требует фактического и признанного паритета. Когда один из участников системы непропорционально усиливает свою мощь, система попытается приспособиться – либо организуя противоборствующую силу, либо подстраиваясь к новой реальности. Если равновесие неустойчиво или не признается участниками международных отношений, риск конфликта резко возрастает.

В наше время расчет равновесия стал еще более абстрактным. Причина тому – кибероружие, класс оружия с неясным статусом. В некоторых случаях кибероружие усиливает военную мощь страны тем, что эта страна не признает его использования и даже существования. Раньше, если начиналась война, сразу становилось известно, что произошло столкновение и какие стороны воюют. Противники оценивали силы участников и темп, в котором эти силы могли быть развернуты. С кибероружием все это не работает.