Более того, многие из неофициальных каналов связи, которые существовали с целью смягчения ядерной напряженности (например, неформальные встречи между американскими и советскими учеными во времена холодной войны), отныне больше не действуют, как в прежние времена. Официальные дипломатические каналы также приходят в негодность, блокируются или же прерываются в ходе современных конфликтов, например, во время войны между Израилем и Ираном, – здесь мы процитируем физика Карен Холлберг (Karen Hallberg) из аргентинского Института Балсейро в Сан-Карлос-де-Барилоче, которая является генеральным секретарем Пагуошского движения, основанного учеными с целью ликвидации ядерного и других видов оружия массового уничтожения. «На сегодняшний день самым тревожным фактом является стремление к соперничеству, а не к сотрудничеству в науке и в международных отношениях», — утверждает Карен Холлберг.

Некоторые нарекли многополярный мир третьим ядерным веком. Напомним, что первым ядерным веком была холодная война, длившаяся с момента окончания Второй мировой войны вплоть до распада Советского Союза в 1991 году; а вторым — в 1990-е и 2000-е годы, когда Соединенные Штаты и Россия сократили свои ядерные арсеналы.

Способность Интернета и социальных сетей распространять искаженную информацию (а порой даже ее близкую родственницу – откровенную дезинформацию, преднамеренное распространение ложных фактов) лишь усугубляет хрупкость новой ситуации. И намеренно, и ненамеренно искаженная информация способна затруднить требующие деликатного подхода дискуссии по вопросу о ядерном сдерживании; она также способна увеличить вероятность военной эскалации.

Возьмем, например, разразившийся в мае нынешнего года индо-пакистанский конфликт, который начался с того, что Индия после террористической атаки нанесла удары по Пакистану. В свою очередь, Пакистан ответил, и обе страны обстреляли друг друга ракетами и другим оружием, что привело к потерям с обеих сторон. Новостные каналы и социальные сети были переполнены ложными заявлениями о военных победах; кроме того, искусственный интеллект даже сгенерировал изображения якобы уничтоженных вражеских объектов. Специалисты по глобальной безопасности опасались, что дезинформация о масштабах разрушений может довести ситуацию до ядерной войны.

Но до этого не произошло: как известно, после четырех дней конфликта Индия и Пакистан под давлением Соединенных Штатов договорились о прекращении огня. Однако нетрудно себе представить, что дезинформация вполне способна подтолкнуть лидера какой-нибудь страны, обладающей ядерным оружием, к тому, чтобы это оружие применить, говорит аналитик в ядерной сфере Мэтт Корда (Matt Korda) из базирующаяся в Вашингтоне Федерации американских учёных (FAS), которая занимается минимизацией рисков глобальных угроз. Представим себе, например, что некий мошенник, желая создать большие проблемы, пустил в социальных сетях ложный слух, призванный убедить американских потребителей новостей в том, что Иран действительно создал ядерное оружие. Затем эта тревожная информация вдруг просачивается в СМИ, которые отслеживает президент США. В результате, эта информация вполне способна оказать влияние на действия американского президента. «Чтобы повлиять на политического деятеля такого ранга, нужно оказать влияние на американский электорат, что, как мы, собственно, знаем, сделать невероятно легко», — продолжает Корда.

Еще одна актуальная проблема — это роль ИИ в принятии решений о том, следует ли вообще применять ядерное оружие и каким образом. Министерство обороны США использует инструменты на базе ИИ для планирования и проведения боевых операций в обычных боевых действиях. Самое главное должностное лицо, отвечающее за ядерные силы, генерал ВВС Энтони Коттон (Anthony Cotton), в прошлом году заявил, что с помощью ИИ можно ускорить принятие решений для координации и контроля над операциями в области использования ядерного оружия.

К сотрудничеству с американскими военными подключились компании, занимающиеся разработкой ИИ. В июне компания Anthropic из Сан-Франциско, штат Калифорния, анонсировала набор секретных моделей Claude Gov, основанных на ее общедоступном помощнике Claude AI, который будет использоваться для нужд национальной безопасности США. В январе компания OpenAI, также расположенная в Сан-Франциско, объявила о партнерстве с национальными лабораториями США, которое включает в себя интеграцию моделей, созданных OpenAI, в сферу ядерных вооружений. Сообщается, что Китай и Россия также занимаются вопросом о применении инструментов на основе ИИ как в ходе обычных, так и в ядерных боевых действиях.

Разные страны уже давно используют алгоритмы на основе ИИ для оптимизации и ускорения выполнения некоторых задач, таких как обнаружение и отслеживание возможных приближающихся ядерных ракет. Новшеством является появление все большего количества моделей логического вывода на базе ИИ, говорит Элис Салтини (Alice Saltini), которая занимается исследовательской деятельностью в области ИИ и ядерной безопасности в Центр исследований проблем нераспространения имени Джеймса Мартина (James Martin Center for Nonproliferation Studies) в Монтерее, Калифорния. Эти модели, подобные генеративной модели o3, которая была разработана OpenAI, или же тем, которые лежат в основе семейства больших языковых моделей Claude, способны обобщать результаты разных задач и ускорять обработку огромных массивов данных. Когда-нибудь они, по словам Салтини, будут составной частью системы раннего оповещения и сбора разведданных многих стран.

Рассуждающие ИИ-системы смогут предлагать свой взгляд на то, что такое война, и свои варианты действий. «Представьте себе ИИ, который используется в качестве вспомогательного средства для принятия решений; при этом его мнение будет не просто учитываться – он будет предлагать различные варианты решений в военной сфере», — говорит научный сотрудник в области исследования киберполитики и безопасности Герберт Лин (Herbert Lin) из Стэнфордского университета в штате Калифорния. Такие модели могли бы на основе обработки входящих данных предлагать информацию, которая будет учитываться при принятии решений, например: сколько ожидается потерь в результате нанесения того или иного удара, или же какие действия нарушают принципы международного гуманитарного права.

По словам Лин, маловероятно, чтобы какая-то страна полностью доверила инструменту, работающему на основе ИИ, принимать решения. «Передавать такому инструменту, как ChatGPT, коды запуска ядерного оружия — это очень плохая идея», — говорит Лин. По словам Элис Салтини, многие ИИ-модели склонны ко всякого рода галлюцинациям (выдумыванию); к тому же, они склонны к тому, чтобы действия предпринимались немедленно — а все перечисленные факторы никак не помогают при принятии какого-нибудь судьбоносного решения в военной сфере.

Некоторые ядерные державы заявили, что будут держать людей в курсе любого решения о развертывании ядерного оружия. Другие страны вовсе не делали публичных заявлений об использовании ИИ при принятии решений в ядерной сфере.

Однако ИИ-технологии могут способствовать лишь, образно говоря, напусканию «тумана войны», внося путаницу относительно мотивации и боевого потенциала противника, тем самым подрывая ясно сформулированные принципы ядерного сдерживания. Кроме того, ИИ-технологии могут повысить риск ядерной эскалации другими, неявными, способами. Те самые ИИ-модели, с помощью которых страна получает возможность эффективнее обнаруживать ракеты и подводные лодки противника, вполне способны увеличить вероятность того, что эта страна вдруг нанесет первый удар для устранения эфемерной угрозы. Высокая скорость обработки данных ИИ может создать у тех, кто принимает решения, ложное чувство уверенности в получении точной информации, хотя на самом деле в ответах ИИ вполне могут проскальзывать ошибки, добавляет Лин. Например, данные радара могут быть интерпретированы не как ложная тревога, а как реальный ядерный удар.

Что же мы можем сделать для того, чтобы снизить риск непреднамеренного содействия искусственного интеллекта развязыванию ядерной войны? Александра Белл и Элис Салтини утверждают, что политикам необходимо как можно лучше ознакомиться с возможностями и ограничениями, характерными для ИИ-технологий. Главной глобальной площадкой для обсуждения ИИ и военной безопасности являются ежегодные саммиты «Ответственное применение ИИ в военной сфере» (Responsible AI in the Military Domain), которые стартовали в 2023 году, причем следующий запланирован на сентябрь нынешнего года. На прошлогоднем саммите было принято не имеющее обязательной силы заявление о том, что контролировать все аспекты развертывания ядерного оружия должен именно человек. Однако стремительные темпы развития ИИ «опережают нашу способность осознавать – я уж не говорю контролировать – последствия применения этих технологий», полагает Белл.

С рисками, которые подводят нас к возникновению ядерной войны — как новые риски, так и старые — необходимо разобраться, считает физик Дэниел Холц. При этом он надеется, что правительства теперь учтут рекомендации делегатов Чикагской конференции, в том числе обращение к странам мира о том, чтобы они подтвердили свои обязательства по мораторию на испытания ядерного оружия и поддержали усилия по разработке договора о сокращении вооружений. Это соглашение должно прийти на смену новому Договору СНВ между США и Россией, срок действия которого истекает в следующем году (имеется в виду СНВ-III, т.е. Договор между Россией и США о мерах по дальнейшему сокращению и ограничению стратегических наступательных вооружений. – Прим. ИноСМИ).

Физик Дэвид Гросс (David Gross) из Калифорнийского университета в Санта-Барбаре вдохновился идеей оказания помощи в организации Чикагской конференции после того, как на многих важных выборах в 2024 году ядерное оружие практически перестало быть предметом обсуждения. По словам Гросса, «на самом деле люди не осознают угрозы» возникновения ядерной войны. «Такая ситуация весьма опасна».