Заступник керівника сектора інновацій НАТО розповідає про поточну роботу з вироблення політики НАТО в сфері штучного розуму.

Як зазначено у першій статті з цієї серії, присвяченій інноваціям в НАТО, Альянс має справу з глобальними перегонами за освоєння технологій. Держави, що суперничають, використовують нові технології задля досягнення подвійної мети – посилення економічної конкурентоспроможності і одночасного зміцнення військової боєздатності. Перед членами Альянсу, які прагнуть використовувати нові і проривні технології, постає ряд проблем. Ці проблеми залежать від двох взаємозв’язаних аспектів роботи: забезпечення динамічного освоєння нових технологій і відповідальне управління ними. В основу цих питань покладено штучний розум (ШР).

ШР – це здатність машин виконувати завдання, які зазвичай потребують людського розуму – наприклад, розпізнання шаблонів, вивчення досвіду, вироблення висновків, або здійснення дій – або у цифровому режимі, або як розумне програмне забезпечення, що підтримує автономні фізичні системи (див. Науково-технічні тенденції 2020-2040 – передові науково-технічні розроблення).

Як пропонує аналітичний центр РЕНД в своєму звіті Позиція Міністерства оборони щодо штучного розуму: оцінювання і рекомендації (2019), корисно розрізнювати три широкі сфери застосування: ШР на рівні підприємства , ШР на підтримку місій і оперативний ШР.

    1. **ШР на рівні підприємства ** передбачає такі застосування, як системи фінансового або кадрового менеджменту із застосуванням ШР, які розгортаються в добре контрольованому середовищі, де наслідки технічних збоїв низькі (в аспекті безпосередньої небезпеки і потенційної летальності).
    1. **Оперативний ШР **, навпаки, може бути застосований в місіях і операціях, тобто, в значно менш контрольованих середовищах і таких, де наслідки збоїв можуть бути надзвичайно тяжкими. Серед прикладів – програмне забезпечення з управління стаціонарними системами або безпілотними системами.
    1. **ШР на підтримку місій ** - проміжна категорія щодо контролю за середовищем і наслідків збоїв – передбачає розмаїття застосувань, наприклад, логістика і матеріально-технічне забезпечення або застосування розвідувального характеру.

Таке розрізнення може виявитись корисним при встановленні пріоритетів як щодо політики освоєння, так і щодо принципів відповідального користування, зважаючи на різницю у рівнях ризику, притаманного цим категоріям.

Сучасна хвиля ШР, або ШР другої хвилі, зосереджена на машинному навчанні (МН). МН передбачає розробку і застосування статистичних алгоритмів задля пошуку шаблонів даних. Наприклад, алгоритм класифікації може відпрацьовуватись на великому наборі правильно позначених прикладів для визначення, до якої категорії, з тих, що були раніше, належить новий об’єкт спостереження. Глибоке вивчення – це підрозділ МН, який використовує численні рівні обчислення (Штучні нейронні багатошарові мережі) задля здійснення складного, в обчислювальному сенсі, розпізнання шаблонів. Або проблем передбачення, наприклад, нейронна мережа згортання задля виявлення об’єктів на зображеннях. Малюнок один, наведений нижче, ілюструє глибоке вивчення для ідентифікації літаків, техніки та будівель на зображеннях.

Глибоке вивчення може бути застосоване для виявлення конкретних об’єктів на зображеннях. (Джерело: Гьозер, T.; Кюнцер, К. Виявлення об'єктів і сегментація зображень з глибоким вивченням даних про спостереження Землі: огляд - Частина І: Еволюція і останні тенденції. Дистанційні сенсори. 2020, 12, 1667.)

МН процвітає на великих наборах точних даних і дає погані результати з маленькими наборами даних, або з неточними даними. За сприятливих умов при широкому спектрі застосувань МН перевершує людину як у здатності передбачати, так і, звичайно, у швидкості в рамках дедалі більшого кола завдань з розпізнання вузьких шаблонів даних і здійснення передбачень. Це головна причина все більш активного застосування МН в широких сферах людської діяльності.

До динамічного освоєння

Традиційно економісти представляють вироблену продукцію як функцію праці і капіталу (фактори виробництва) і вкладених матеріалів. Для ШР факторами виробництва є талант висококваліфікованих спеціалістів і інфраструктура інформаційних і комунікаційних технологій (ІКТ) для обчислення і збереження, а дані є головним вхідним ресурсом.

Тоді, можливо, дані – це нова нафта? По суті, ні. Хоча дані потрібно «видобувати», а потім «переробляти» перед подальшим застосуванням, їх доступність зростає з обсягом виробництва. Дані також є конкретними, не взаємозамінними. Для кожного конкретного застосування потрібні конкретні набори даних, які охоплюють точні і конкретні спостереження (або моделювання) реального життя. Для того щоб мати міцну відправну позицію, оборонні відомства країн Альянсу мають подбати про подальший власний перехід на цифрові технології. Загалом стратегія в сфері даних має стосуватись усього ланцюга створення вартості, включно зі збиранням, доступом, обміном, зберіганням, метаданими, документацією, контролем якості (включно з очищенням даних і пом’якшенням похибки) і процесами забезпечення відповідності правовим вимогам.

Заходи на підтримку факторів виробництва – таланту і інфраструктури – мають передбачати дієздатні і гнучкі людські ресурси і політику найму, яка дозволяла б приваблювати і зберігати найкращі людські таланти, а також розгортання належних і захищених потужностей для обчислення і збереження даних.

Потім продуктивність. Сторіччями учасники економічних процесів шукали найкращі способи поєднання факторів виробництва. Чи вони доповнюють один одного? Чи вони взаємозамінні? Які комбінації є найбільш прибутковими. Які виробничі і управлінські процеси і практики дають найкращі результати? Щодо ШР, хоча компроміси до певної міри існують, фактори виробництва радше доповнюють один одного, а не взаємо замінюють. Щоб досягти успіху, необхідно робити істотні інвестиції в усі три фактори.

Що стосується процесів і менеджменту, кращі приклади індустрії програмного забезпечення вказують на те, що розробка і виконання рішень в сфері ШР повинні основуватись на динамічному підході, а не на традиційній водоспадній Waterfall моделі. Це передбачає високо динамічні й інтерактивні процеси, починаючи з попереднього і гнучкого визначення проблеми, а не детальної і жорсткої заяви про вимоги. В індустрії відомі декілька варіантів динамічного підходу, і над деякими з цих варіантів активно працюють певні кола в НАТО.

Зобов’язання щодо відповідального використання

Успіх Альянсу в галузі ШР також буде залежати від нових і добре продуманих принципів і практик щодо належного управління і відповідального використання. Уряди деяких країн Альянсу вже взяли на себе певні публічні зобов’язання щодо відповідального використання, оперуючи серед інших такими концепціями, як законність, відповідальність, надійність і керованість.

Паралельно, члени Альянсу беруть участь в роботі Групи урядових експертів з летальних автономних систем озброєнь під егідою ООН, яка сформулювала 11 керівних принципів.

Важливо те, що це є гарним прикладом підходу до робіт з опанування ШР і роботи над принципами відповідального використання як такими, що доповнюють одне одного і забезпечують синергію. В результаті, з’явились певні суттєві принципи, або цілі, які підтримають і сприятимуть як належній практиці інженерної розробки, так і відповідальній поведінці держав.

Деякі національні принципи передбачають специфічні конструкторські вимоги. Наприклад, принцип керованості може бути пов'язаний з технічною можливістю виявляти і уникати небажаних наслідків і виводити з дії або дезактивувати у разі небажаної поведінки.

Технічні характеристики, які необхідні для забезпечення виконання цих та інших завдань, обов’язково будуть частиною етапів розробки і випробування відповідних систем. Своєю чергою, відповідна робота з розробки надаватиме можливість поглибити розуміння, що приведе до більш деталізованих і зрілих принципів. Подальша робота в сфері випробування, оцінювання, верифікації і затвердження (TEVV) буде необхідною, так само як і відповідна діяльність з моделювання й імітації. Значні досягнення НАТО в сфері стандартизації допоможуть сформулювати ці напрями діяльності, забезпечуючи при цьому оперативну сумісність між збройними силами країн Альянсу.

Водночас загальні принципи, такі як ті, що розроблені деякими країнами та під егідою ООН, стануть основою для подальших консультацій між членами Альянсу, а також орієнтирами щодо існуючих національних позицій.

Це друга стаття з мінісерії авторства інноваційної команди НАТО, яка зосереджена на технологіях, які прагнуть опанувати члени Альянсу, і можливостях, які вони дадуть для оборони і безпеки альянсу НАТО.