Нужно ли запретить искусственный интеллект в ядерном оружии?

В начале 2023 года основными темами новостей были чатботы и искусственный интеллект (ИИ), причем некоторые заголовки вызывали особую тревогу, а в конце года депутаты Конгресса США внесли законопроект, запрещающий системы ИИ в ядерном оружии, тогда как Президент США Байден подписал указ об этом. В ноябре вопрос даже обсуждался США и Китаем на форуме Азиатско-Тихоокеанского экономического сотрудничества в Сан-Франциско.

Судя по всему, быстрыми темпами идет работа над дипломатическими и регуляторными рамками, ограничивающими ИИ в системах ядерного оружия. Есть, как минимум, две причины для беспокойства в этой связи.

Политика США – страны НАТО, обладающей самым крупным ядерным арсеналом, – в отношении использования ИИ в ядерных средствах обороны, скорее всего, задаст тон для других государств-членов НАТО с ядерным потенциалом – Франции и Соединенного Королевства. Вот почему надо заняться заблуждениями насчет ИИ, особенно в США, а также во всем Североатлантическом союзе в более общем плане, и депутатов парламентов нужно призвать к большей осмотрительности при работе с законопроектами. С учетом потенциальной геополитической выгоды запрещать ИИ в ядерных средствах обороны – плохая идея.

В контексте ядерного оружия многим видится что-то вроде системы Скайнет из фильма «Терминатор-2: Судный день» 1991 года. В этом фильме Скайнет осознает свою силу и наносит глобальный массированный ядерный удар.

Может быть, вспоминается фильм «Военные игры» 1983 года и система искусственного интеллекта из этого фильма, известная как ВОРП, а, быть может, еще более нишевое кино, например фильм 1970 года «Колосс: проект Форбина». В этих фильмах, вышедших в последние три десятилетия холодной войны, представлены системы ИИ, способные самостоятельно мыслить, что иногда называют искусственным общим интеллектом. В фильмах показано, как опасно, если у систем, способных самостоятельно мыслить, будут независимые цели и тайный умысел. Конечно, если бы такие системы существовали, было бы, о чем беспокоиться. Но таких систем не существует, и хотя скептический консенсус не стал всеобщим, есть серьезные сомнения, по крайней мере у ряда ученых, насчет того, появятся ли такие системы вообще.

Плоды популярного вымысла не всегда точно соответствуют новой науке. В лучшем случае фантастика может стать отправной точкой для прений и стратегического мышления. Например, книга Г.Дж. Уэлса «Последняя война» (The Last War) стала одним из первых произведений фантастического жанра о ядерной войне. Причем это произведение было написано, когда атомная наука делала лишь первые шаги, и в книге много ошибочных представлений о таких понятиях, как мощность взрыва и полураспад. Тем не менее, в более позднем научно-популярном произведении Германа Кана «О термоядерной войне» (On Thermonuclear War) за отправную точку взяты сценарии, которые можно сразу узнать из сюжета «Последней войны». В своих трудах Кан доказал, что серьезный научный анализ может начинаться с рассмотрения вымышленных сценариев, даже если в научном плане в них есть неточности. Однако его более значительная и более поздняя работа основана на эмпирических доказательствах. Речь идет о повсеместно цитируемой книге «Об эскалации». Аналогичным образом научная точность и эмпирические доказательства должны занимать центральное место и в наших обсуждениях ИИ.

Сегодняшний искусственный интеллект – это не общий ИИ. Может, он и пройдет тест Тьюринга, то есть, когда он отвечает на вопросы пользователя, его не отличишь от человека, но он не способен к самостоятельному мышлению и самоанализу.

Существует множество функций для ИИ в наших ядерных средствах обороны, в частности, средствах целеуказания на основе ИИ. Если предположить, что благодаря целеуказанию на основе ИИ ядерное оружие будет более точным, то есть, в большей мере способным поразить то, что нужно, а не то, что не нужно, тогда каковы геополитические преимущества его разработки и внедрения? Полезно обратиться к истории за примерами того, как повышение точности ядерного оружия усилило оборону США и НАТО во время холодной войны.

В марте 1983 года в своем обращении из Овального кабинета Президент Рональд Рейган изложил доводы в пользу разработки системы противоракетной обороны. Один из главных доводов заключался в том, что у Советского Союза больше ядерного оружия, чем у США. В конце 70-х годов СССР в самом деле обошел США по количеству ЯО, но по большей части это произошло в результате развертывания более точных ракетных комплексов, таких как «Полярис», «Титан II» и «Першинг». Не было больше необходимости применять множество ракет для нанесения удара по городу или военному объекту, таким образом США могли по-прежнему эффективно сдерживать Советский Союз и достигать своих стратегических целей меньшим числом боеголовок. Благодаря экономии средств за счет меньшего количества более точного ядерного оружия США удалось высвободить ценные доллары из оборонного бюджета для разработки новых систем, например бомбардировщиков-невидимок и крылатых ракет.

Сокращение общего числа ядерного оружия США в заключительные десятилетия холодной войны, когда на оборонные расходы приходилась значительно большая доля ВВП, чем сейчас, говорит о том, что более точное оружие может означать меньше оружия.

Одно из подтверждений того, как создание более точного ядерного оружия могло повлиять на ядерную политику США, содержится в недавно рассекреченной президентской директиве номер 59, подписанной Джимми Картером в 1980 году. В ней нужно выделить два момента: запрос об увеличении разведданных о целях и работа над созданием потенциала, описываемого как «поиск-стрельба-анализ». Речь идет о способности обнаружить цель, нанести по ней удар, а потом проанализировать его. При таком подходе подразумевается, что ядерный удар наносится по намеченной цели, эта цель должна представлять стратегическую ценность, а своего рода ядерное ковровое бомбометание, при котором намеченная цель не поражена, в стратегическом отношении лишено смысла.

Параллельно с этими разработками в сфере ЯО также повышалась точность обычных вооружений. Война в Персидском заливе (1990–1991 гг.) стала важным поворотным моментом для систем обычных вооружений – точных боеприпасов, поражающих военные цели при относительно минимизированных потерях среди гражданского населения. Они были на первом плане в пресс-брифингах американского генерала Нормана Шварцкопфа. Сведение к минимуму потерь среди мирных граждан – существенное преимущество, и именно поэтому многие страны НАТО с тех пор запретили устаревшее и относительно неизбирательное оружие, такое как кассетные боеприпасы.

В настоящий момент сложно прогнозировать, какими будут более точные системы целеуказания, основанные на ИИ, в ядерном оружии, поскольку технология по большей части еще находится на этапе разработки. Можно вообразить гипотетический сценарий: наносится удар с применением ЯО по базе ВМС, но на подлете средства распознавания целей обнаруживают, что намеченные для поражения подлодки уже вышли в море, и поэтому ракета выбирает вариант скорректированного удара по подводной цели вместо взрыва в атмосфере. Это один из возможных сценариев, при которых может применяться ИИ.

Если прошлое – пролог, и в результате использования более точных систем целеуказания, основанных на ИИ, сокращается общее число ЯО, где можно добиться этих сокращений? Ответ на этот вопрос даст, конечно, стратегический обзор. Один из возможных вариантов – межконтинентальные баллистические ракеты (МБР) наземного базирования. Это еще не стало политикой США, но бывшие должностные лица, в частности министр обороны США Уильям Перри ратуют именно за это.

Потенциальные преимущества шире угроз, исходящих от государств. Благодаря сокращению количества ЯО будет проще обеспечить безопасность оставшегося арсенала и не допустить кошмарного сценария ядерного терроризма, когда плохо охраняемое оружие попадает не в те руки.

Разумеется, существует вероятность гонки вооружений применительно к системам целеуказания, основанным на ИИ, для ядерного оружия. Но вместе с тем важно отметить роль, которую могут играть в дипломатии в сфере ЯО и в сокращении вооружений постоянные научно-исследовательские и конструкторские разработки. Вернемся к историческому прецеденту: когда США развернули в Европе ракеты «Першинг» средней дальности, эти ракеты воспринимались как разменная монета в переговорах о сокращении стратегических вооружений, которые будут затем вестись. Аналогичным образом в восприятии СССР противоракетный щит Президента Рейгана был возможным предметом торга. Как Президент Рейган выяснил на саммите в Рейкьявике в 1986 году, советский лидер Михаил Горбачев был готов обменять большое количество ЯО на согласие США не разворачивать систему ПРО. За встречей на высшем уровне последовали переговоры о Договоре о ракетах средней и меньшей дальности, в результате чего ракеты «Першинг» убрали.

В настоящий момент есть ряд серьезных вопросов для дипломатии в ядерной сфере, которыми надо заняться. Россия отвергает инспекции ЯО и продолжает разработку гиперзвуковых баллистических ракет следующего поколения. Тем временем Китай всегда предпочитал самостоятельно ограничивать свой ядерный арсенал и редко прибегал к официальным соглашениям с США. Сегодня дипломаты, занимающиеся ЯО, надеются на многостороннее соглашение о сокращении вооружений с участием США, России и Китая. С учетом жестокой войны России в Украине и накаляющейся напряженности в Индийско-Тихоокеанском регионе, работа над таким договором сопряжена с огромными проблемами. Если все стороны наконец согласятся вести эти переговоры, системы ЯО с целеуказанием на основе ИИ могут стать для США и их союзников по НАТО разменной монетой на этих переговорах, если не будет ничего другого. Такая функция на будущих переговорах по контролю над вооружениями – это «наращивание для сворачивания» (хорошо отработанная стратегия на переговорах по ЯО); но при этом создается императив первым инвестировать в разработку наиболее эффективных систем, а не сдерживать их создание.

Если в итоге решат не внедрять системы ИИ в ядерные средства обороны, в предлагаемых законодательных формулировках нужно тщательно определить искусственный интеллект, что является сложной задачей для быстро развивающейся науки. В законопроекте, внесенном в Конгресс США, например, говорится, что нужно запретить системы, которые «выбирают или поражают цели для пуска ядерного оружия», а «автономные системы оружия» определены как «системы оружия, которые после приведения в действие могут выбирать или поражать цель без дальнейшего участия оператора». В данном случае нужно отметить, что с начала 70-х годов в ядерном арсенале США используются разделяющиеся головные части с индивидуальным наведением (РГЧ ИН). После пуска эта система перенаправляет каждую из доставляемых ей головных частей на новую траекторию без вмешательства оператора. При проведении юридической экспертизы нужно выяснить, не является ли такая формулировка в законопроекте настолько широкой, что может случайно привести к запрету РГЧ ИН. А ведь эта технология хорошо себя зарекомендовала и уже несколько десятилетий имеет центральное значение для ядерной обороны США.

С каждым новым десятилетием страх перед бомбой переплетается со страхом перед транзистором, микропроцессором, кремниевой пластиной, и это проявляется в нашей массовой культуре. Создатели ядерного арсенала, систем контроля над ним и теории сдерживания прекрасно отдавали себе в этом отчет и внимательно изучали надлежащую функцию автоматизированных систем. Сегодня эта проблема может показаться более «изощренной», однако потенциальный риск в результате сочетания автоматизированных систем и ядерного оружия – явно не «новая» проблема. Законная обеспокоенность в связи с быстрым развитием технологии оправдана, но обеспокоенность по причине возможностей средств ИИ должна быть основана на настоящей научной составляющей этих средств, а не просто на их описании в популярной литературе.

Системы ИИ дают возможность укрепить ядерное сдерживание, поскольку обеспечиваются более точные и эффективные оборонительные меры ядерного реагирования. Ядерное оружие делают более точным и мощным не для того, чтобы поощрять его применение. Напротив, с помощью таких средств сдерживание ядерной войны становится более внушительным, и эти средства соответствуют классической ядерной доктрине. ИИ – просто-напросто стратегический инструмент, как и само ядерное оружие.

Обеспокоенность в связи с ИИ не должна мешать использовать ИИ для укрепления ядерного сдерживания. В то же время внедрение ИИ в эти системы не должно быть самоцелью. Применение ИИ должно отвечать стратегической задаче. Добиться верного равновесия будет непросто, поскольку в этой области наука еще на раннем этапе. Нужно прислушаться к специалистам по обороне и ИИ, не только к руководству компаний, занимающихся ИИ, но и к инженерам, ученым, военным и юристам. В период, когда есть серьезные опасения в связи с глобальной безопасностью, а ядерная технология и технология ИИ развиваются быстрыми темпами, законодательным органам и политикам нужно осторожно подходить к любому предлагаемому законодательству.