На заседании на уровне министров обороны стран НАТО в октябре 2021 года была официально одобрена Стратегия НАТО в области искусственного интеллекта. Нынешние и бывшие сотрудники НАТО, непосредственно участвовавшие в разработке и осуществлении стратегии, описывают ее основные характеристики и задачи.

Введение

Не надо далеко ходить за примерами того, как искусственный интеллект (ИИ) – способность машин выполнять задачи, для которых, как правило, требуется человеческий разум, – преобразует условия международной безопасности, в которых действует НАТО. По причине всеохватного характера ИИ международной безопасности будет брошен целый ряд вызовов, что скажется как на традиционных военных силах и средствах, так и на гибридных угрозах, и вместе с тем откроются новые возможности для их преодоления. ИИ повлияет на все основные задачи НАТО: коллективную оборону, кризисное регулирование и обеспечение безопасности на основе сотрудничества.

ИИ повлияет на все основные задачи НАТО, определенные как таковые в Стратегической концепции Североатлантического союза, принятой в 2010 году: коллективную оборону, кризисное регулирование и обеспечение безопасности на основе сотрудничества.
© ITCILO

С учетом новых возможностей, риска и угроз процветанию и безопасности, перспективность и опасность, сопряженные с этой фундаментальной технологией, настолько велики, что одному эта работа не под силу. Поэтому требуется сотрудничество, чтобы в равной мере справиться с факторами риска для международной безопасности и максимально воспользоваться потенциалом технологии к преобразованию функционирования организации, обеспечения выполнения задач и проведения операций.

Сохранит ли Североатлантический союз свою способность к сдерживанию любого потенциального противника и обороне от него, а также к эффективному реагированию на новые кризисы будет зависеть от того, будет ли он способен сохранить свое технологическое преимущество. В военном плане будущее сравнительного преимущества войск (сил) Североатлантического союза будет зависеть от фундамента общей политики и цифрового стержня, с тем чтобы обеспечить оперативную совместимость и соответствие международному праву. Поскольку решающее преимущество в боевом пространстве все больше определяется слиянием человеческого фактора, информации и физических элементов, оперативная совместимость приобретает принципиальное значение. К тому же, по мере того, как конкуренты и потенциальные противники инвестируют в ИИ в военных целях, разработка общих ответных мер стран НАТО для обеспечения коллективной безопасности станет тем более безотлагательной задачей.

Официальное принятие Североатлантическим союзом Стратегии НАТО в области искусственного интеллекта означает, что страны НАТО обязались вести необходимое сотрудничество и взаимодействие, чтобы выполнить все эти трудные задачи по обороне и безопасности, а НАТО обозначена как основной трансатлантический форум. Цель Стратегии НАТО в области искусственного интеллекта – ускорить внедрение ИИ посредством усиления основных вспомогательных средств и принятия политики, в частности принятия принципов ответственного использования искусственного интеллекта (ИИ) и защиты от угроз злонамеренного использования ИИ государственными и негосударственными субъектами.

Благодаря коллективной работе по линии НАТО правительства государств-членов также сохраняют постоянный упор на оперативной совместимости и разработке общих стандартов. В целом, поскольку к новаторским экосистемам подключены различные структуры, а их технологический жизненный цикл быстрее, чем в традиционных системах разработки потенциалов, Стратегия НАТО в области искусственного интеллекта – это признание того факта, что для эксплуатации ИИ потребуются дополнительные усилия по содействию и усилению новаторского потенциала Североатлантического союза, в том числе с помощью новых партнерств и механизмов. Благодаря всем этим усилиям Североатлантический союз будет в большей мере способен к обеспечению безопасности на основе сотрудничества и взаимодействию с международными партнерами и другими международными организациями по вопросам международной безопасности.

Принципы ответственного использования

В контексте обороны и безопасности принятие ИИ также требует эффективного и ответственного управления, в соответствии с общими ценностями и международными обязательствами стран НАТО. С этой целью правительства стран НАТО выразили приверженность принципам ответственного использования как одной из важнейших составляющих Стратегии НАТО в области искусственного интеллекта.

Государства-члены и НАТО обязуются, что создаваемые ими и рассматриваемые на предмет развертывания прикладные технологии ИИ будут соответствовать следующим шести принципам:

  • Правомерность: прикладные технологии ИИ будут разрабатываться и применяться в соответствии с внутренним законодательством и международным правом, включая международное гуманитарное право и право в области прав человека, как целесообразно.

  • Ответственность и подотчетность: прикладные технологии ИИ будут разрабатываться и применяться с надлежащей степенью благоусмотрения и заботы; в целях обеспечения подотчетности устанавливается четкая ответственность человека.

  • Объясняемость и отслеживаемость: прикладные технологии ИИ будут должным образом понятны и прозрачны, в частности благодаря использованию методологий, источников и процедур обзора. Это предусматривает механизмы проверки, оценки и подтверждения соответствия на уровне НАТО и (или) страновом уровне.

  • Надежность: будет четко определено, в каких случаях применяются прикладные технологии ИИ. Технологическая и физическая безопасность, а также эксплуатационная надежность этих средств будут подвергаться проверке и гарантии качества, согласно заданным сценариям использования на протяжении всего жизненного цикла, в том числе в установленном порядке сертификации НАТО и (или) странами.

  • Управляемость: прикладные технологии ИИ будут разрабатываться и применяться в соответствии с предусмотренными функциями и при этом будет обеспечено: надлежащее взаимодействие человека с машиной; способность выявлять непреднамеренные последствия и избегать их; способность предпринимать шаги, такие как отключение систем в тех случаях, когда эти системы демонстрируют непредусмотренное поведение.

  • Снижение предвзятости: будут предприниматься активные шаги по сведению к минимуму непреднамеренной предвзятости при разработке и применении прикладных технологий ИИ, а также в массивах данных.

По достижении договоренности о принятии этих взаимно усиливающих принципов теперь речь идет о том, чтобы действовать на основании этих принципов. Роль НАТО во внедрении этих принципов подразумевает работу над различными аспектами жизненного цикла данной технологии. Важно заложить принципы ответственного использования уже на начальном этапе разработки ИИ, поскольку чем позднее это произойдет, тем сложнее будет гарантировать их соблюдение. Работа на протяжении всего жизненного цикла зависит также от взаимодействия с большим числом заинтересованных участников, потому что ответственность распределена между политиками, конструкторами, разработчиками, испытателями и конечными пользователями, которые участвуют в создании и применении ИИ. Для НАТО это актуально, поскольку различные структуры играют активную роль в интеграции ИИ, а Североатлантический союз может поощрять слаженность в разработке странами искусственного интеллекта.

Государства-члены и НАТО обязуются, что создаваемые ими и рассматриваемые на предмет развертывания прикладные технологии ИИ будут соответствовать изложенным выше шести принципам. На снимке: заседание министров обороны стран НАТО в штаб-квартире организации 21-22 октября 2021. © NATO

Общая приверженность этим принципам сопряжена с практическими преимуществами для НАТО: заложена слаженная общая основа для проектирования и создания прикладных технологий искусственного интеллекта государствами-членами и НАТО, и при этом обеспечивается оперативная совместимость. Таким образом, НАТО может способствовать необходимой взаимосвязи между технологической и физической безопасностью, ответственным использованием и оперативной совместимостью. Это просматривается во всех принципах. Например, важно сделать так, чтобы системы ИИ были должным образом прочны и надежны для их запланированного использования, не только с тем, чтобы они могли функционировать в соответствии с правовыми обязательствами, но и с тем, чтобы снизить риск того, что неисправностями систем или их ограничениями воспользуются злонамеренные субъекты.

Применение принципов на практике

Эти твердые принципы имеют основополагающее значение для обсуждения и внедрения более детализированных передовой практики и стандартов. Государства-члены и НАТО могут использовать механизмы консультаций, специалистов и возможности Североатлантического союза, чтобы активно работать над достижением этой цели. Подспорьем в работе НАТО в области стандартизации и сертификации может стать слаженность с соответствующими международными органами, определяющими стандарты, в частности для гражданских технологий ИИ.

Помимо передовой практики и стандартов другие механизмы могут способствовать претворению в жизнь этих принципов, в частности, методологии обзора, анализ риска и воздействия, требования к сертификации безопасности, например, рамки анализа угрозы и ревизии, помимо прочих. Более того, работа НАТО в области сотрудничества позволяет проводить испытания, давать оценку, подтверждать соответствие и проверять (TEVV) в различных контекстах средства, в которых используется ИИ. В более конкретном плане, благодаря опыту, приобретенному НАТО не только при проведении операций, но и в ходе испытаний, учений и экспериментальной работы, для стран НАТО и самой организации открывается ряд возможностей, позволяющих проверить принципы в каждом запланированном сценарии использования. Сюда нужно еще добавить работу, проделанную научно-техническими сообществами НАТО в таких областях, в частности, как доверие, взаимодействие человека с машиной и машины с машиной, интеграция человека и систем.

Помимо этих существующих видов деятельности при осуществлении стратегии в области ИИ будут полезны связи с предстоящим ускорителем оборонного новаторства НАТО в Северной Атлантике (DIANA). Испытательные центры стран НАТО, входящие в структуру DIANA, можно было бы использовать для выполнения задач, обозначенных в определениях и принципах. В будущем на базе этих испытательных центров можно проверять надежность и устойчивость внедрения и интеграции ИИ. Например, с тем чтобы ИИ были отслеживаемыми, надежными и снижающими предвзятость, можно было бы синтезировать в испытательных центрах информацию о работе систем ИИ в различной имитируемой обстановке и с различными тестовыми данными или провести независимое подтверждение и проверку, чтобы проанализировать соответствие стандартам, в которых делается упор на ответственном инженерном деле.

С принятием принципов ответственного использования НАТО и государства-члены направляют совершенно четкий сигнал населению стран, войскам (силам) НАТО и другим государствам, подтверждающий непреложные ценности Североатлантического союза и обязательства по международному праву. Эта демократическая приверженность больше, чем просто обязательство, – это тоже предварительное условие создания основы общей политики стран НАТО и партнерства с нетрадиционными новаторами в Североатлантическом союзе.

Ускорение оперативно совместимого внедрения на основе принципов

Принципы подчеркивают этические аспекты принятия технологии, таким образом НАТО может обозначить, что во главу угла работы по налаживанию связей поставлена ответственность, и проводить это в жизнь. Сюда относится работа с молодыми перспективными фирмами, новаторскими малыми и средними предприятиями и научно-исследовательскими структурами, которые либо не рассматривали возможность работать в сфере обороны и безопасности, либо считают, что способы внедрения технологии слишком медлительны для их бизнес-модели или ограничивают ее. В отличие от разработки традиционных военных платформ при интеграции ИИ нужны быстрый цикл обновления и постоянная модернизация. Для этого требуется изменить мышление и перейти от последовательных циклов разработки, при которых уходят годы на создание небольшого числа высоко технологичных платформ, к многократной, адаптивной разработке потенциалов. Враждебные государственные и негосударственные субъекты вкладывают все большие средства в новые прорывные технологии, включая ИИ, поэтому данный более гибкий подход к внедрению технологии тем более безотлагателен. В этом контексте, с упором на испытания, оценку, подтверждение соответствия и проверку, а также совместную работу Стратегия ИИ создает рамки для технологических инструментов реализации, позволяющих адаптироваться лучше, чем конкуренты и противники. Делая больший акцент на гибкости и способности адаптироваться НАТО может сделать так, чтобы оборона и безопасность стали более привлекательной отраслью для гражданских новаторских предприятий, которые могли бы выступить в качестве партнеров, и при этом для них сохранятся другие коммерческие возможности. Усилия по укреплению трансатлантической новаторской экосистемы могут также стать заслоном от нежелательных иностранных инвестиций и передачи технологий.

Благодаря опыту, приобретенному НАТО не только при проведении операций, но и в ходе испытаний, учений и экспериментальной работы, для стран НАТО и самой организации открывается ряд возможностей, позволяющих проверить принципы в каждом запланированном сценарии использования. Сюда нужно еще добавить работу, проделанную научно-техническими сообществами НАТО в таких областях, в частности, как доверие, взаимодействие человека с машиной и машины с машиной, интеграция человека и систем. На снимке: сухопутные войска США ведут патрулирование, тогда как роботы перевозят их оснащение, а беспилотники выполняют функции наблюдателей. Иллюстрация СВ США

Для выполнения этой работы требуется координация в масштабе всей организации НАТО. Ряд структур НАТО уже участвуют в разработке сценариев использования, концепций и программ, связанных с ИИ. С принятием Стратегии в области ИИ можно привнести дополнительную последовательность в эту работу, с тем чтобы существовали надлежащие связи между всеми заинтересованными участниками процесса новаторства, включая конечных пользователей.

Дальнейшая работа

Конечно, внедрение ИИ ускоренными темпами, на основе утвержденных принципов и с учетом требований оперативной совместимости зависит не только от технологии, но и в равной мере от талантливых способных людей, продвигающих вперед технологические новшества и интеграцию. НАТО уделяет внимание и другим аспектам, содействующим ИИ, в частности, разработке рамочной политики НАТО по эксплуатации данных. Эта политика направлена на то, чтобы данные считались стратегическим средством, она предусматривает разработку аналитических инструментов, хранение данных и управление ими в надлежащей инфраструктуре, и таким образом создаются условия успеха Стратегии в области ИИ.

Помимо взаимосвязи данных и ИИ будет жизненно важно обеспечить слаженность усилий НАТО в области ИИ и других новых и прорывных технологий, таких как автономные системы, биотехнологии и квантовые вычисления. По мере того, как государства-члены и НАТО стремятся добиться цели, обозначенной в Стратегии в области ИИ, критически важное значение имеет связь между ответственным использованием, ускоренным внедрением, оперативной совместимостью и защитой от угроз. Эта связь относится также и к последующей работе НАТО над новыми и прорывными технологиями, включая разработку принципов ответственного использования. В более широком плане это означает еще большую слаженность между направлениями работы над данными технологиями, с пониманием того, что будущее технологическое преимущество НАТО – и угрозы, с которыми столкнется Североатлантический союз, – могут зависеть от их сближения.

Таким образом, Стратегия НАТО в области ИИ не только относится к этой фундаментальной технологии, но и обозначает устремления НАТО и государств-членов в сфере новых и прорывных технологий. Применительно к каждой из них будущее стратегическое преимущество, достигаемое благодаря новаторской работе НАТО, будет обусловлено связью между этическим руководством, итеративным внедрением и интеграцией, при которых во главу угла ставится гибкость, оперативная совместимость и доверие.

*** Это восьмая статья из мини-серии о новаторстве, посвященной технологиям, которые страны НАТО стремятся внедрить, и возможностям, которые это откроет для обороны и безопасности Североатлантического союза. Предыдущие статьи:***