Заместитель начальника отдела новаторства НАТО рассказывает о текущей работе НАТО над основными принципами применения искусственного интеллекта.

Как отмечено в первой из серии статей о новаторстве в НАТО, Североатлантический союз столкнулся с мировой гонкой по внедрению технологий. Соперничающие державы используют новые технологии, преследуя двойную цель: повысить экономическую конкурентоспособность и нарастить свой военный потенциал. Странам НАТО предстоит решать ряд непростых задач по мере того, как они стремятся освоить новые и прорывные технологии. В основе этих задач лежат два взаимосвязанных направления работы: динамичное внедрение новых технологий и ответственное управление ими. Искусственный интеллект (ИИ) занимает здесь центральное место.

Искусственный интеллект – это способность машин выполнять задачи, для которых, как правило, требуется человеческий разум, например, распознавание закономерностей, извлечение опыта, формулирование выводов, прогнозирование, совершение действий, будь то в цифровом виде или в виде умного программного обеспечения в автономных физических системах (см. Science & Technology Trends 2020-2040 – Exploring the S&T Edge).

Как предлагает аналитический центр РЭНД (RAND) в докладе [The Department of Defense Posture for Artificial Intelligence: Assessment and Recommendations] (https://www.rand.org/pubs/research_reports/RR4229.html) (2019) («Позиция Министерства обороны в отношении искусственного интеллекта: анализ и рекомендации»), полезно проводить различие между тремя широкими категориями применений: ИИ предприятий, ИИ обеспечения миссии, оперативный ИИ.

  • ИИ предприятий включает в себя такое применение, как системы управления финансами или кадрами с помощью ИИ, которые внедряются в строго контролируемой среде, где последствия технических сбоев незначительны (в плане непосредственной опасности и потенциальной летальности).

  • Оперативный ИИ, напротив, может быть развернут при проведении миссий и операций, то есть, в значительно менее контролируемой среде, при этом последствия сбоя могут быть критическими. Среди примеров – ПО управления стационарными системами или беспилотными аппаратами.

  • ИИ обеспечения миссии – промежуточная категория с точки зрения контролирования среды и последствий сбоев, к ней относятся различные виды применения, например, материально-техническое обеспечение и техническое обслуживание или приложения, связанные с разведкой.

Эти различия могут оказаться полезными при расстановке приоритетов, как применительно к основным принципам внедрения, так и применительно к принципам ответственного использования, с учетом различной степени риска, присущего этим категориям.

Современная волна ИИ или ИИ второй волны сосредоточена на машинном обучении. Машинное обучение подразумевает разработку и использование статистических алгоритмов для выявления закономерностей данных. Например, алгоритм классификации можно обучить с помощью большого числа правильно обозначенных примеров, что позволит определить, к какой встречавшейся ранее категории относится появившийся новый предмет. Глубокое обучение – это подраздел машинного обучения, при котором используется множество вычислительных слоев (искусственные нейронные сети с многочисленными слоями) для решения сложных вычислительных задач по распознаванию закономерностей или прогнозированию, например, сверточные нейронные сети для обнаружения предметов на изображениях. На первом рисунке ниже дается наглядный пример глубокого обучения для выявления самолетов, транспортных средств и строений на снимках.

Глубокое обучение может использоваться для обнаружения конкретных предметов на снимках.

(Источник: Hoeser, T.; Kuenzer, C. Object Detection and Image Segmentation with Deep Learning on Earth Observation Data: A Review-Part I: Evolution and Recent Trends. Remote Sens. 2020, 12, 1667.)

Машинное обучение отлично работает с крупными наборами точных данных и плохо работает с небольшими наборами данных или неточными данными. При хороших условиях по целому ряду функций результаты машинного обучения лучше, чем у людей, как в плане прогностической производительности, так и, конечно, скорости, по растущему диапазону задач узконаправленного распознавания и прогнозирования. В этом главная причина все более широкого применения машинного обучения в обширных областях деятельности человека.

На пути к динамичному внедрению

По сложившейся традиции, экономисты моделируют производительность как функцию труда и капитала (факторы производства) и затраченных материалов. Применительно к ИИ факторы производства – талант высоко квалифицированных специалистов и инфраструктура информационно-коммуникационных технологий (ИКТ) для вычислительных работ и хранения, а главное – вводимые данные.

Можно ли считать данные новой нефтью? По сути, нет. Хотя данные нужно «добыть» и «переработать» перед использованием, количество данных, имеющихся в наличии, растет вместе с объемом производства. Вместе с тем речь идет о конкретных, а не равноценных данных. Для каждого конкретного случая требуются конкретные наборы данных, фиксирующих именно те реальные (или имитационные) наблюдения, которые нужны. Чтобы создать прочную отправную точку, оборонным структурам стран НАТО понадобится дальнейшее оцифровывание. В целом основные принципы работы с данными должны охватывать всю систему создания стоимости: сбор, доступ, обмен, хранение, метеданные, документирование, контроль качества (включая очистку данных и устранение предвзятости) и обеспечение соблюдения правовых требований.

Среди вспомогательных мер для производственных факторов – талант и инфраструктура – должны быть надежная и гибкая кадровая и договорная политика, позволяющая привлекать и воспитывать наиболее талантливые кадры, а также создание необходимых и защищенных вычислительных мощностей и средств хранения данных.

Далее – производительность. На протяжении веков экономические субъекты пытались найти оптимальные способы сочетания факторов производства: дополняют ли они друг друга? могут ли они заменять друг друга? при каком сочетании можно добиться максимальной выгоды? какие производственные и управленческие процессы и практика дают наилучшие результаты? Применительно к искусственному интеллекту компромиссы существуют в определенной мере, однако факторы производства в намного большей степени являются дополнениями, а не заменой: чтобы добиться успеха, нужны существенные инвестиции во все три фактора.

Что касается процессов и управления, как подсказывает передовой опыт отрасли программного обеспечения, разработку и внедрение решений ИИ нужно вести, исходя из гибкого подхода, а не следуя традиционной модели водопада. Это подразумевает ведение высоко динамичных и циклических процессов, начиная с первоначальной и гибкой постановки задачи, а не с подробного и жесткого технического задания. В отрасли существует несколько вариантов гибкой модели (Agile), и некоторые из них активно применяются в ряде групп НАТО.

Приверженность ответственному использованию

Успех Североатлантического союза в области искусственного интеллекта будет также зависеть от новых и четко продуманных принципов и методов надлежащего управления и ответственного использования. Правительства ряда стран НАТО уже открыто взяли определенные обязательства в области ответственного использования касательно таких концепций, помимо прочих, как правомерность, ответственность, надежность и управляемость.

Параллельно с этим страны НАТО принимают участие в работе Группы правительственных экспертов по автономным системам оружия летального действия под эгидой ООН, в результате чего было сформулировано 11 руководящих принципов.

Важно то, что есть хорошее основание считать работу по внедрению ИИ и работу над принципами ответственного использования взаимодополняющей и синергичной. На самом деле существует ряд важнейших принципов или целей, которые лягут в основу как инженерного передового опыта, так и ответственного поведения государств, и будут способствовать им.

Согласно некоторым принципам, установленным государствами, необходимо закладывать конкретные конструкторские требования. Например, принцип управляемости может быть связан с техническими возможностями, позволяющими выявить нежелательные последствия и избежать их, а значит, отключить или деактивировать систему в случае незапланированного поведения.

Технические характеристики, требуемые для достижения этих и других целей, обязательно станут частью этапов конструирования и испытания соответствующих систем. В свою очередь, при проведении необходимых инженерных работ будет возможность добиться более глубоко понимания и в результате этого сформулировать более четкие и зрелые принципы. Принципиально важной будет дальнейшая работа по испытанию, оценке, проверке и подтверждению правильности, равно как и работа по моделированию и имитированию. Хорошо закрепленные сильные стороны НАТО в области стандартизации помогут структурировать эту работу, обеспечивая при этом оперативную совместимость вооруженных сил стран НАТО.

Тем временем всеохватные принципы, например, разработанные в ряде стран, а также под эгидой ООН создают основу для дальнейших консультаций среди стран Североатлантического союза, а также обозначают существующие позиции государств.

Это вторая статья из мини-серий, подготовленных группой НАТО по новаторству и посвященных технологиям, которые страны НАТО стремятся внедрить, и возможностям, которые это откроет для обороны и безопасности Североатлантического союза.