На своєму жовтневому засіданні 2021 року міністри оборони країн Альянсу офіційно затвердили Стратегію для НАТО щодо штучного розуму. Нинішні і колишні співробітники НАТО, безпосередньо залучені до розроблення і виконання Стратегії, окреслюють її головні риси і завдання.

Вступ

Не треба зазирати далеко, щоб побачити як штучний розум (ШР) – здатність машин виконувати завдання, які зазвичай вимагають людського розуму, – змінює міжнародне середовище безпеки, в якому діє НАТО. Завдяки своєму наскрізному характеру ШР створює широкий набір проблем для міжнародної безпеки, які впливають як на традиційні військові сили і засоби, так і на сферу гібридних загроз, але й також створює нові можливості відповіді на них. ШР впливатиме на усі основні завдання НАТО з колективної оборони, врегулювання криз і безпеки через співпрацю.

ШР впливатиме на усі основні завдання НАТО, які визначені в Стратегічній концепції Альянсу 2010 року, а саме, колективної оборони, врегулювання криз і безпеки через співпрацю. © ITCILO

З новими можливостями, ризиками і загрозами для процвітання і безпеки, перспективи і небезпека, зв’язані з цією основоположною технологією, занадто великі, щоб якийсь один гравець упорався з ними самостійно. Тому співпраця за визначенням необхідна як для пом’якшення ризиків для міжнародної безпеки, так і для капіталізації на потенціалі цієї технології для трансформації функцій підприємства, підтримки місій і операцій.

Збереження здатності Альянсу стримувати і оборонятись від будь-якого потенційного супротивника і ефективно реагувати на нові кризи буде триматись на його здатності зберігати технологічну перевагу. У військовому сенсі забезпечення на майбутнє порівняльної переваги військ Альянсу буде залежати від однакових для всіх базових підходів і цифрової основи, які забезпечують оперативну сумісність і відповідність міжнародному праву. В міру того як поєднання людських, інформаційних і фізичних елементів дедалі більшою мірою визначає вирішальну перевагу на полі бою, оперативна сумісність набуває все більшого значення. Більше того, оскільки конкуренти і потенційні супротивники інвестують в ШР у військових цілях, забезпечення спільної відповіді членами Альянсу задля гарантування колективної безпеки лише набуває дедалі більшої терміновості.

Офіційно ухваливши Стратегію НАТО щодо ШР, члени Альянсу зобов’язались співпрацювати і кооперуватись задля відповіді саме на ці виклики в галузі як оборони, так і безпеки, визначивши НАТО головним трансатлантичним форумом. Метою Стратегії НАТО щодо ШР є прискорення опанування ШР за рахунок посилення ключових елементів забезпечення ШР і адаптації підходів, в тому числі через ухвалення Принципів відповідального використання ШР і запобігаючи загрозам від зловмисного використання ШР державними і недержавними дійовими особами.

Колективно діючи через НАТО, уряди країн Альянсу також забезпечують збереження уваги на оперативній сумісності і розвитку спільних стандартів. На загал, зважаючи на те, що інноваційні екосистеми залучають різних дійових осіб і передбачають швидші технологічні життєві цикли, ніж це зазвичай робиться в традиційних системах розвитку сил і засобів, Стратегія НАТО щодо ШР також означає визнання того, що використання ШР вимагатиме нових зусиль з підтримки і посилення інноваційного потенціалу Альянсу, в тому числі і через нові партнерства і механізми. Сукупно, ці зусилля, своєю чергою, посилюватимуть здатність Альянсу до спільних зусиль в галузі безпеки через співробітництво і взаємодії з міжнародними партнерами та іншими міжнародними організаціями з питань міжнародної безпеки.

Принципи відповідального використання

Залучення ШР в контексті оборони і безпеки також потребує дієвого і відповідального врядування відповідно до спільних цінностей і міжнародних зобов’язань країн Альянсу. Для цього уряди країн-членів взяли на себе зобов'язання дотримуватись Принципів відповідального використання як ключового компоненту Стратегії НАТО щодо ШР.

Члени Альянсу і НАТО зобов’язались гарантувати, що застосування ШР, який вони розробляють і збираються використовувати, відповідатиме таким шести принципам:

    1. Законність: Усі застосування будуть розроблятись і використовуватись відповідно до національного і міжнародного права, включно з міжнародним гуманітарним правом і правами людини, там де це їх стосується.
    1. **Відповідальність і підзвітність **: Усі застосування будуть розвиватись і використовуватись з необхідним рівнем оцінювання і обережності; задля гарантування підзвітності має бути визначена чітка людська відповідальність.
    1. **Зрозумілість і можливість відстеження **: Застосування ШР будуть належним чином зрозумілими і прозорими, в тому числі завдяки застосуванню методів перегляду, джерел і процедур. Сюди належать механізми верифікації, оцінювання і затвердження як на рівні НАТО, так і на національному рівні.
    1. **Надійність **: Застосування ШР матимуть чітко визначені і зрозумілі сфери використання. Безпека, захищеність і надійність таких засобів будуть перевірятись і гарантуватись в рамках таких сфер використання протягом усього життєвого циклу, включно із застосуванням визначених НАТО і/або національних процедур сертифікації.
    1. **Керованість **: Усі застосування будуть розроблятись і застосовуватись відповідно до свого функціонального призначення і забезпечать: відповідну взаємодію між людиною і машиною; здатність виявляти і уникати небажаних наслідків; і здатність здійснювати кроки, такі як припинення дій або виведення систем з дії коли такі системи демонструють непередбачену поведінку.
    1. **Пом’якшення упередженості **: Превентивні кроки будуть здійснені для зведення до мінімуму непередбаченої упередженості при розвитку і застосуванні ШР і наборів даних.

Після досягнення домовленості про ухвалення цих принципів, які доповнюють одне одного, тепер потрібно перетворити їх на принципові дії. І тут роль НАТО у втіленні цих принципів у дії передбачає зусилля, які однаковою мірою стосуються різних аспектів життєвого циклу цієї технології. Важливо включати принципи відповідального використання на самому початку розроблення ШР, тому що чим пізніше на них зважити, тим важче буде гарантувати їх дотримання. Забезпечення підходу на основі повного циклу життя також залежить від залучення усіх зацікавлених сторін, тому що відповідальність розпорошена поміж тих, хто виробляє політику, конструкторів, розробників і випробувачів, а також кінцевих операційних споживачів, які долучаються до розробки і використання ШР. Це важливо для НАТО, тому що різні особи відіграють активну роль в інтеграції ШР, і тому що Альянс може сприяти узгодженню з національними розробками ШР.

Члени Альянсу і НАТО зобов’язались гарантувати, що застосування ШР, який вони розробляють і збираються використовувати, відповідатиме наведеним вище шести принципам. На фото: Міністри оборони країн Альянсу зібрались на засідання в штаб-квартирі НАТО 21 - 22 жовтня 2021 року. © NATO

Для НАТО спільне дотримання цих принципів також надає і практичні переваги, забезпечуючи і НАТО, і членів Альянсу цілісною спільною основою для конструювання і розроблення застосувань ШР, надаючи при цьому підтримку цілям оперативної сумісності. Задля цього НАТО може сприяти необхідним взаємозв’язкам між безпекою, захищеністю, відповідальним використанням і оперативною сумісністю. Це видно по принципах. Наприклад, важливо гарантувати адекватну якість і надійність систем ШР щодо їх призначення не лише для того, щоб очікувати від них функціонування відповідно до юридичних зобов’язань, але і для зменшення ризиків експлуатації несправностей або обмежень системи зловмисниками.

Втілення принципів у практику

Ці вирішальні принципи також є основоположними при обговоренні і схваленні більш детальних кращих практик і стандартів. Країни Альянсу і НАТО можуть використовувати консультативні механізми, фахівців та спеціальні установи НАТО задля активної роботи над досягненням цієї мети. Власні зусилля НАТО зі стандартизації і сертифікації можуть також бути підкріплені за рахунок єдності з відповідними міжнародними органами, які встановлюють стандарти, в тому числі і цивільні стандарти ШР.

На додаток до найкращих практик і стандартів ці принципи також можуть бути втілені в життя за допомогою інших механізмів, в тому числі методології перегляду, оцінок ризику і впливу і вимог щодо сертифікації безпеки, таких як рамки аналізу загроз і аудити серед іншого. Більше того, спільна діяльність в НАТО закладає основу для випробування, оцінювання, затвердження і верифікації (TEVV) сил і засобів на основі ШР в різноманітних контекстах. Більш конкретно, досвід НАТО не лише в операціях, а і у випробуваннях, навчаннях і експериментах надає ряд можливостей для тестування членами Альянсу і НАТО принципів щодо прикладів конкретного застосування. Це доповнюється можливостями науково-технічних кіл НАТО, які працюють над такими питаннями, як довіра, взаємодія між людиною і машиною та машиною і машиною, і інтеграція людини і систем, серед багатьох інших.

На додаток до цієї поточної діяльності впровадження стратегії ШР також виграє від поєднання з новим Прискорювачем оборонних інновацій для Північної Атлантики (DIANA) НАТО. Тест-центри Альянсу зв’язані з DIANA можна використовувати задля досягнення цілей, зазначених у визначеннях принципів. У майбутньому використання цих тест-центрів може допомогти у забезпеченні перевірки, при впровадженні і інтеграції ШР, на якість і стійкість. Наприклад, задля гарантування можливості відстежувати ШР, його надійності і зменшення упередження, тест-центри можуть синтезувати поведінку систем ШР в різних модельованих середовищах або з різними показниками випробувань, а також забезпечувати самостійне затвердження та верифікацію з метою оцінювання відповідності стандартам, зосередженим на відповідальних інженерних практиках.

Ухваливши принципи відповідального використання, НАТО і члени Альянсу посилають свідомо публічний сигнал своєму населенню, збройним силам Альянсу та іншим державам, в якому підтверджують свою відданість цінностям і зобов’язанням, взятим відповідно до міжнародного права. Це демократичне зобов’язання не просто обіцянка, це передумова для політики членів Альянсу на спільній основі, а також для партнерства з нетрадиційними новаторами в країнах Альянсу.

Прискорення запровадження на основі принципів і оперативної сумісності

Завдяки етичним аспектам запровадження, які ці принципи підкреслюють, НАТО отримує можливість сигналізувати про – і постійно дотримуватись – відповідальноті як основи своїх зусиль з установлення зв’язків і співробітництва. Воно стосується взаємодії зі стартапами, малими і середніми інноваційними підприємствами і науковцями, які або не замислювались щодо роботи над питаннями оборони і безпеки, або вважають, що шляхи запровадження занадто повільні або обмежують їхній бізнес моделі. На відміну від розробки традиційних військових платформ, інтеграція ШР передбачає швидкі цикли оновлення і потребує постійного удосконалення. Це також потребує зміну менталітету на користь ітеративного, адаптивного розвитку засобу на противагу послідовним циклам розвитку, які вимагають років для створення невеликої кількості високотехнологічних платформ. Зважаючи на те, що ворожі державні і недержавні дійові особи дедалі більше інвестують в нові і проривні технології, в тому числі в ШР, такий більш гнучкий підхід до запровадження вимагає якнайшвидшого застосування. В цьому контексті зосереджена на TEVV і співробітництві Стратегія щодо ШР забезпечує структуру, яка допомагає відповідальним за технологічні рішення адаптуватись краще за конкурентів і супротивників. Більше зосереджуючись на активності і адаптації, НАТО може зробити оборону і безпеку більш привабливим сектором для цивільних новаторів, щоб встановлювати з ними партнерські відносини, дозволяючи їм при цьому використовувати інші комерційні можливості. Таким чином, зусилля з підсилення трансатлантичної інноваційної екосистеми можуть також слугувати бастіоном проти небажаного залучення іноземних інвестицій і передачі технологій.

Досвід НАТО не лише в операціях, а і у випробуваннях, навчаннях і експериментах надає ряд можливостей для тестування членами Альянсу і НАТО принципів щодо прикладів конкретного застосування. Це доповнюється можливостями науково-технічних кіл НАТО, які працюють над такими питаннями, як довіра, взаємодія між людиною і машиною та машиною і машиною, і інтеграція людини і систем, серед багатьох інших. На фото: Американські піхотинці на патрулюванні; роботи везуть їхнє обладнання, а БПЛА виконують функцію спостерігачів. Ілюстрація надана сухопутними силами США

Ця робота потребує координації діяльності підприємства НАТО. Справді, ряд зацікавлених сторін підприємства НАТО вже займається розробкою прикладів, концепцій і програм, зв’язаних з ШР. Стратегія щодо ШР може надати цій діяльності цілісності для забезпечення необхідних зв'язків між усіма сторонами, зацікавленими в інноваціях, включно з кінцевими користувачами.

Шлях вперед

Безперечно, здійснення прискореного, основаного на принципах і оперативній сумісності запровадження ШР залежить не лише від технології, але і не меншою мірою від талановитих і забезпечених усім необхідним людей, які рухають вперед сучасні технології і інтеграцію. НАТО також значну увагу приділяє іншім елементам, необхідним для розвитку ШР, зокрема, через розроблення Рамкової політики НАТО щодо використання даних. Передбачаючи дії, спрямовані на ставлення до даних як до стратегічного активу, розроблення аналітичних інструментів і зберігання та поводження з даними у відповідній інфраструктурі, Рамкова політика використання даних створює умови для успіху Стратегії щодо ШР.

На додаток до взаємовідносин між даними і ШР абсолютно необхідним буде забезпечення єдності між роботою НАТО над ШР та над іншими новими і проривними технологіями, такими як автономність, біотехнологія і квантове обчислення. Оскільки члени Альянсу і НАТО прагнуть досягти мети цієї Стратегії щодо ШР, зв’язки між відповідальним використанням, прискореним запровадженням, оперативною сумісністю і захистом від загроз критично важливі. Справді, ці зв’язки також будуть стосуватись і подальшої роботи НАТО над іншими новими і проривними технологіями, включно з розробленням принципів відповідального використання. В більш широкому сенсі, це означає подальше єднання між напрямами роботи над цими технологіями з розумінням того, що майбутня технологічна перевага НАТО – і загрози, що постануть перед Альянсом, – може залежати від їх єдності.

Тому Стратегія НАТО щодо ШР не лише стосується цієї основоположної технології, але і закладає підґрунтя для амбіцій НАТО і членів Альянсу щодо інших нових і проривних технологій. Для кожної з них майбутня стратегічна перевага, до якої ведуть інноваційні зусилля НАТО, буде результатом єдності етичного лідерства, ітеративного запровадження і інтеграції, яка передбачає гнучкість, оперативну сумісність і довіру.

Це восьма стаття з мінісерії, присвяченої інноваціям, яка зосереджена на технологіях, які члени Альянсу прагнуть засвоїти, і можливостях, які вони зможуть додати обороні і безпеці альянсу НАТО. Попередні статті: