Чи потрібно не допускати штучний інтелект до ядерних систем?

Рік, який розпочався з чат-ботів і штучного інтелекту (ШІ) як тем основних новин – деяких з особливо тривожними заголовками – завершився прийняттям членами Конгресу Сполучених Штатів закону про недопущення систем ШІ до ядерної зброї і підписанням Президентом Байденом розпорядження щодо цього. Це питання навіть порушувалося у дискусіях між Сполученими Штатами і Китаєм на форумі азіатсько-тихоокеанського економічного співробітництва, який відбувся в Сан-Франциско в листопаді.

Схоже, що ми дуже поспішаємо з виробленням дипломатичних і регуляторних рамок, які обмежать ШІ в ядерних системах озброєнь. Це викликає занепокоєння принаймні за двох причин:

Політика Сполучених Штатів – члена НАТО з найбільшим ядерним арсеналом – щодо використання ШІ в ядерних оборонних системах найвірогідніше задаватиме тон іншим країнам НАТО, які мають ядерну спроможність, Франції і Сполученому Королівству. Ось чому хибні погляди на ШІ, особливо у США, але і в усьому Альянсі загалом, мають бути усунені і законотворців необхідно закликати більш обережно підходити до своїх законопроєктів. Зважаючи на потенційні геополітичні переваги, які мають бути реалізовані, недопущення ШІ до ядерної оборони є поганою ідеєю.

Коли люди думають про ШІ в контексті ядерних озброєнь, вони можливо у являють собі щось на кшталт системи «Скайнет» з фільму 1991 року *Термінатор 2: Судний день *. У фільмі, «Скайнет» стає самосвідомою і здійснює масований глобальний ядерний удар.

Можливо вони згадують фільм 1983 року Воєнні ігри і його систему штучного інтелекту, відому як WOPR, або навіть більше фільмів на цю тематику, таких я фільм 1970 року Колосс: Проєкт Форбіна. Ці фільми, зняті в кожне з трьох останніх десятиріч холодної війни, зображують системи ШІ, здатні до незалежного мислення – того, що інколи називають «Повним штучним інтелектом» (ПШІ). Небезпека, яку вони зображають, полягає в тому, що здатна самостійно мислити система може бути спроможна самостійно ставити цілі і мати приховані мотиви. Власне кажучи, це викликало би занепокоєння, якби такі системи існували. Але їх немає; і попри те, що загального скептичного консенсусу немає, існують принаймні серед деяких науковців серйозні сумніви щодо того, чи взагалі такі системи коли-небуть з’являться.

Твори популярної фантастики не завжди точно репрезентують нову науку. В найкращому випадку, фантастика може надати стартову позицію для дебатів і стратегічного мислення. Наприклад, *Остання війна * Герберта Велса була одним із перших фантастичних творів про ядерну війну, написана тоді, коли ядерна наука була ще в зародку, вона переповнена хибними поглядами щодо таких концепцій, як потужність вибуху і період напіврозпаду. Тим не менше, Герман Кан у своєму найостаннішому фантастичному творі *Про термоядерну війну *, бере за точку відліку сценарії, які легко упізнати з *Останньої війни *. Своїми творами Кан демонструє, що серйозна академічна думка може розпочатись з обмірковування фантастичних сценаріїв, навіть таких, які мають наукові неточності; але вважається що його найважливіша праця, виконана пізніше, ґрунтувалась на емпіричних доказах , і нині цитується скрізь - Про ескалацію. Наукова точність і емпіричні докази також повинні бути в центрі наших дискусій про ШІ.

Доступний сьогодні штучний інтелект – це не ПШІ. Він може пройти тест Тюрінга — тобто, його може бути неможливо відрізнити від людського за його відповідями на запитання користувача – але він не здатний на самостійне мислення і він однозначно не є самосвідомим.

У нашій ядерній обороні існують міріади ролей для ШІ, серед яких системи наведення на основі ШІ. Якщо припустити, що наведення на основі ШІ зробить ядерні озброєння більш точними – тобто збільшать вірогідність ураження того, що вони повинні вразити, і неураження того, що не повинні – то, якими будуть геополітичні переваги від його розвитку і розгортання? Варто пригадати історичні приклади для ілюстрації того, як покращена влучність ядерних озброєнь зміцнила оборону США і НАТО за часів холодної війни.

У своєму березневому, 1983 року, зверненні з Овального кабінету, Президент Рейган представив свою аргументацію на користь розробки системи оборони від балістичних ракет. Одним з його основних аргументів було те, що СРСР мав більше ядерних озброєнь, ніж США. Наприкінці 70-х років XX сторіччя СРСР справді обійшов США за кількістю ядерних озброєнь в своєму розпорядженні, але це в основному стало результатом розгортання більш точних ракетних систем, таких як «Поларіс», «Титан ІІ» і «Першинг». Вже не було необхідності націлювати на місто чи військовий об’єкт велику кількість ракет, і таким чином, США могли продовжувати дієве стримування СРСР і досягати своєї стратегічної мети з меншою кількістю боєголовок. Економія коштів, досягнута за рахунок володіння меншою кількістю більш точних ядерних озброєнь, дозволила США вивільнити важливі оборонні долари для розробки нових систем, таких як бомбардувальник-невидимка і крилата ракета.

Скорочення загальної кількості американських ядерних озброєнь в завершальні десятиріччя холодної війни, в час, коли оборонні видатки були значно більшою часткою валового внутрішнього продукту, ніж сьогодні, вказує на те, що більш точна зброя може означати менше зброї.

Одне із свідчень, що вказує на те, як розробка більш точної ядерної зброї потенційно вплинула на ядерну політику США, міститься в нещодавно розсекреченому Президентському розпорядженні 59, підписаному Президентом Джиммі Картером в 1980 році. Два видатних моменти в цьому розпорядженні – запит про посилення розвідки щодо цілей і наполягання на тому, що називають спроможністю «подивитись – стрільнути – подивитись» - тобто, здатність знайти ціль, завдати удару, а потім оцінити удар. Цей підхід має на увазі те, що ядерний удар має вразити цю визначену ціль, ціль повинна мати стратегічне значення, і що форма ядерного килимового бомбардування, яке не вражає чітко визначену ціль, не має стратегічного сенсу.

Паралельно з цим розвитком ядерних озброєнь, звичайні озброєння також ставали дедалі більш точними. Війна в Перській затоці 1990 - 1991 років стала важливим переломним моментом для звичайної системи озброєнь – точні боєприпаси, які вражають ворожі цілі і дещо мінімізують втрати серед цивільних, перебували на першому плані і в центрі брифінгів для преси, які вів американський генерал Норман Шварцкопф. Перевага зведення до мінімуму втрат серед цивільних з того часу привела до заборони багатьма союзниками з НАТО старіших і дещо нерозбірливих озброєнь, таких як касетні боєприпаси.

Яку форму більш точна, заснована на ШІ, система наведення ядерної зброї може мати, нині важко оцінити, тому що значна частина технології все ще перебуває на стадії розвитку. Можна уявити собі гіпотетичний сценарій, за якого ядерна зброя націлена на військово-морську базу, але виявлення маршрутів підходу вказує на те, що підводні човни вже виведені в море, і ракета вибирає для себе перенаправлення на здійснення підводного удару, замість атмосферного вибуху. Це один з багатьох можливих сценаріїв залучення ШІ.

Якщо минуле було прологом і застосування більш точних систем наведення на основі ШІ сприяє скороченню загальної кількості ядерних озброєнь, де може відбутись таке скорочення? Звичайно, на це запитання відповість стратегічний огляд. Одним із варіантів можуть бути міжконтинентальні балістичні ракети наземного базування (МБР). Хоча нині це не є політикою Сполучених Штатів, колишні урядовці, зокрема міністр оборони США Вільям Перрі виступають саме за це.

Потенційні переваги можуть виходити за рамки загроз з боку національних держав. Скорочення кількості ядерних озброєнь полегшить безпечне збереження тих ядерних запасів, що залишаються, і унеможливить кошмарний сценарій ядерного тероризму, коли погано захищена зброя потрапляє до злочинних рук.

Звичайно, існує можливість гонки озброєнь в системах наведення ядерних озброєнь на основі ШІ. Але важливо також відзначити роль, яку постійні науково-дослідні роботи можуть зіграти в ядерній дипломатії і скороченні озброєнь. Повернемось до історичного прецеденту – в той час, коли США розгорнули ракети середньої дальності «Першинг» в Європі, вони вважались козирем на наступних переговорах про скорочення стратегічних озброєнь. Протиракетний щит Президента Рейгана також розглядався Радянським Союзом як предмет торгу. На саміті у Рейк'явіку 1986 року Президент Рейган побачив, що радянський лідер Михайло Горбачов був готовий домовитись про відмову від великої кількості ядерних озброєнь в обмін на згоду Сполучених Штатів не розгортати систему оборони від балістичних ракет. Замість цього, вслід за самітом відбулись переговори щодо Договору про ядерні сили середньої дальності, які привели до виведення ракет «Першинг».

Нині в сфері ядерної дипломатії існують серйозні питання, які потрібно розв’язати. Росія відмовилась від ядерних інспекцій і продовжує розробляти гіперзвукові балістичні ракети наступного покоління. Китай, тим часом, історично віддавав перевагу самообмеженню свого ядерного арсеналу, нечасто вдаючись до формальних угод зі Сполученими Штатами. Ядерні дипломати сьогодні покладають сподівання на багатосторонній договір про скорочення озброєнь між США, Росією і Китаєм. Зважаючи на варварську війну Росії в Україні і тліюче напруження в Індо-Тихоокеанському регіоні, підписання такого договору зв’язане з величезними проблемами. Якщо ж усі сторони все ж таки погодяться на переговори, ядерні системи озброєнь з наведенням на основі ШІ можуть стати хоча б одним козирем США і їхніх союзників з НАТО в цих переговорах. Ця функція у майбутніх переговорах щодо контролю над озброєннями, по суті, є «розбудовою задля скорочення» (стратегією, яка добре себе зарекомендувала на переговорах про ядерні озброєння); але вона вимагає як імператив першими інвестувати в розробку найбільш ефективних систем, а не стримувати їх розвиток.

І якщо зрештою буде вирішено не допускати системи ШІ до сил ядерної оборони, будь-яка запропонована мова закону повинна надати чітке визначення штучного інтелекту – складне завдання для науки, яка так швидко розвивається. Наприклад, у запропонованому в Конгресі США законопроєкті пропонується заборонити «вибір і задіяння цілей з метою запуску ядерної зброї», а «автономні системи озброєння» визначаються, як «системи озброєння, які після активації можуть вибрати і задіяти цілі без подальшого втручання оператора». В цьому випадку варто зазначити, що з початку 70-х років XX сторіччя ядерний арсенал США використовує численні незалежні засоби цільового враження (MIRV); систему, яка запускає, а потім перенаправляє на нову траєкторію кожну з багатьох боєголовок, які вона доставляє, без подальшого втручання людини-оператора. Необхідно, щоб правова експертиза перевірила, чи така мова закону не є настільки широкою, що може ненавмисно заборонити MIRV, перевірену технологію, яку покладено в основу американської ядерної оборони вже десятки років.

Кожного нового десятиріччя страх перед бомбою сплітається із страхом перед транзистором, мікропроцесором і кремнієвою пластиною, і все це відображається в нашій популярній культурі. Розробники ядерного арсеналу, систем його управління і теорії стримування добре це усвідомлювали і ретельно працювали над належною роллю, яку мають відіграти автоматизовані системи. Хоча це може виглядати більш складною проблемою сьогодні, будь-який потенційний ризик поєднання автоматизованих систем з ядерною зброєю безперечно не є новою проблемою. Занепокоєння з приводу технологій, що швидко розвиваються, є законним; але занепокоєння щодо спроможності систем ШІ повинно ґрунтуватись на реальних наукових даних про ці системи, а не просто на тому, що зображує популярна фантастика.

Системи ШІ пропонують можливість посилити ядерне стримування за допомогою більш точної і спроможної оборонної ядерної відповіді. Мета покращання точності і спроможності ядерних озброєнь полягає не в просуванні їх застосування. Навпаки, такі засоби забезпечують більш надійне стримування ядерної війни і відповідають класичній ядерній доктрині. ШІ – це просто стратегічний інструмент, як сама ядерна зброя.

Занепокоєння щодо ШІ не повинно заважати застосуванню ШІ для посилення ядерного стримування. ШІ також не повинен застосовуватись в цих системах просто заради застосування. Використання ШІ повинно слугувати стратегічній меті. І тут буде важко знайти правильний баланс, тому що ця наука лише тільки народилась. Необхідно почути свідчення експертів – представників оборонного сектора і фахівців зі ШІ – не просто менеджерів компаній, що працюють над ШІ, а інженерів, науковців, військових і правників. У часи глобальних проблем з безпекою і швидкого розвитку ядерних технологій і ШІ, законодавці та політичні лідери мають обережно підходити до будь-яких законодавчих ініціатив.