Можна сказати, що наші відносини з технологією є складними. Лише подивіться на основні теми, такі як відновлювана енергія або штучний розум (ШР), чи зверніть увагу на фармацевтику, автомобілі, споживчу електроніку, суспільні мережі і біотехнології і ви майже обов’язково почуєте какофонію голосів від обіцянок нової доби щастя до пророкування приреченості людства. Як нам розібратись в цих заплутаних перспективах і як ми можемо максимально скористатись перевагами нових і потенційно проривних технологій, водночас зводячи до мінімуму їх ризик?
Як розвивається технологія
Як індивідууми, ми маємо багато різних інтересів щодо технологій. Декого цікавить технологія сама собою, але більшість зацікавлена в результатах, які може дати ця технологія. Ці інтереси часто конкурують між собою, а інколи вступають в конфлікт. Ось спрощений огляд:
- Споживач шукає доступного розв’язання даної проблеми, в той час як розробник прагне удосконалювати даний продукт;
- Новатор прагне показати, що його ідея працює, в той час як інвестор хоче, щоб його інвестиція окупилась;
- Корпоративний менеджер відданий справі збільшення доходів його компанії і її частки ринку, в той час як регулятор зосереджений на питаннях безпеки і впливу на довкілля;
Громадянин хоче максимальної свободи і захисту своїх прав, в той час як політик намагається врівноважити усі вищезазначені інтереси при розробленні політики на користь усім.
Цей масивний клубок інтересів передбачає технічні ідеї, економічні і ділові інтереси, суспільні потреби і політичні міркування. Більшість з нас більшу частину часу переслідує декілька таких інтересів паралельно: очевидно як споживачі і громадяни, але і як індивідууми і члени громад, що впливає на наше мислення і наш вибір.
Жодне з цих міркувань наперед не визначене, так само як і кінцевий вибір і рішення. Тому неможливо передбачити колективний результат. Ми не можемо наперед стверджувати, яким шляхом розвиватиметься технологія. Проте було б нерозумно робити висновок, що технології розвиваються своїм власним шляхом, або що ми не маємо жодного впливу на технології загалом. Зовсім навпаки, ми усі впливаємо на технічний розвиток, просто цей вплив нечасто буває прямим або очевидним. Дослідник складних систем В. Браян Артур підсумовує наші багатогранні відносини з технологіями таким чином: «Технічні сфери розвиваються разом із суспільством в процесі взаємної адаптації».
Тобто, наш вибір сьогодні впливає на шлях подальшого розвитку даної технології. Цей розвиток, своєю чергою, створює нові можливості і завдання, на які ми відповідаємо, і ця відповідь впливатиме на подальший розвиток цієї технології в процесі з невизначеним кінцем.
Візьмемо для прикладу паровий двигун. Ця машина відзначила початок промислової революції коли вона вперше була застосована для відкачування води з вугільних шахт. Це успішне застосування спровокувало подальшу уяву, і розробники й користувачі водночас розпочали пошук інших проблем, які могла б розв’язати парова машина. Ці міркування привели до механізації сільського господарства і виробництва, і парова машина зрештою замінила коней і биків як головних джерел енергії людства. Проте історія на цьому не закінчилась. Залізниця, фабрики, робочі контракти і профспілки - усі вони з’явились у відповідь на цю нову технологію. Жоден з цих довгострокових наслідків не був передбачений, входив у наміри або був запланований. Вони радше стали результатом взаємного впливу технології і суспільства.
Паровий двигун відзначив початок промислової революції коли він вперше був застосований для відкачування води з вугільних шахт. © Local Histories
Історія парового двигуна показує, що технологія сама собою це ані добре, ані погано. Але вона і не нейтральна. Технологія є тим, що ми з нею робимо. Наш вибір має значення. І тут постає запитання: «Як нам зробити технологію такою, якою ми хочемо щоб вона була?»
Формування технології
Будь-яка спроба формувати траєкторію розвитку будь-якої технології наражається на справжню дилему між сьогоднішніми знаннями про майбутнє і наявними засобами впливу або зміни цього майбутнього. Девід Коллінгрідж був перший, хто сформулював основні проблеми розроблення політики щодо нових технологій: «Коли щось легко можна змінити, потребу в цьому не можна передбачити;
коли очевидна потреба в зміні,
зміна стає дуже дорогою, складною і забирає багато часу”.
Ми буквально перебуваємо між молотом і ковадлом. Щодо прийдешніх технологій, ми не можемо знати усіх їх застосування, а також не можемо передбачити їх майбутні наслідки. Проте вже в цей час ми можемо здійснювати певний контроль над шляхом їх розвитку. В майбутньому, коли ці технології стануть зрілими, ми побачимо усі їх наслідки. Тому ми можемо визначити, що ми хотіли б змінити. На жаль, через те що технологія вже на ринку, широко розповсюджується і застосовується, наші засоби контролю дуже обмежені.
Ми змагаємось з фундаментальною ознакою технічного розвитку: принципова невизначеність притаманна відкритому процесу, кінцевий стан якого невідомий. Ми не можемо знати наперед майбутню мішень для сьогоднішнього втручання у вигляді політики. А що ж ми тоді можемо зробити? Чи не буде правильним погодитись з обмеженістю наших знань і просто «нехай буде як буде»?
Згадаємо соціальні мережі. Ці сервіси обіцяли можливість зв’язку в будь-якій точці планети, сприяючи новим формам обміну інформацією і підтримуючи появу глобальних громад безпрецедентного масштабу і охоплення. Їх безкоштовна діяльність природно є привабливою для користувачів, але «за лаштунками» вони використовують бізнес-модель, яка ґрунтується на рекламі. Їй для роботи потрібно, щоб користувачі в ідеалі були підключені цілодобово для того, щоб підпитувати дедалі більш складні алгоритми визначення мікроцілей. Така залежна поведінка і маніпуляція, що посилюється завдяки їй, не відповідають інтересам користувачів. Так само і ехокамери, вирази ненависті і втручання в демократичні вибори не відповідають інтересам наших суспільств.
В той час як соціальні мережі обіцяють багато, ми зробили дві кардинальні помилки. По-перше, при погодились з тим, що це роблять підприємницькі платформи, якими управляє приватний бізнес. По-друге, ми забули, що метою бізнесу є прибуток, а не філантропія.
Приклад із соціальними мережами показує, як поточний вибір, який роблять користувачі, може суперечити їхнім довгостроковим інтересам. Більше того, ринок, залишений на самоті зі своїми власними інструментами, може вийти з-під контролю. Обидва ці висновки стосуються зокрема багатообіцяючих новітніх технологій під час їхньої появи і початкових етапів розвитку. Цим новинкам усе ще потрібно знайти продукти, які вони можуть успішно виробляти, і ринки, які вони можуть обслуговувати. А усім різноманітним зацікавленим сторонам усе ще потрібно розібратись з тим, як на них можуть вплинути ці технології.
Як тільки з’являються і починають розвиватись технології, ми можемо бути впевнені, що новатори, інвестори і користувачі першими з’являться на сцені зі своїми власними інтересами. Невдовзі, щойно технологія продемонструє свою дієвість і перші ідеї щодо продукції виявляться життєздатними, до них приєднаються конструктори і менеджери корпорацій. Лише після того, як вплив зрілої технології стане відчутним, в дискусію вступають регулятори, громадяни і політики. Я вважаю, що – у випадку з новими і проривними технологіями – ці останні втручаються занадто пізно.
Соціальні мережі обіцяли можливість зв’язку в будь-якій точці планети, сприяючи новим формам обміну інформацією і підтримуючи появу глобальних громад безпрецедентного масштабу і охоплення. Зображення © Coosto
Якою ми хочемо бачити технологію
Протягом нашої історії ми опановували технології для отримання або збереження військової переваги. Не проводячи великої різниці ми робили те, що могли робити: те що можна було зробити з технічної точки зору, видавалось правильним і робилось. А чи достатньо цього підходу за принципом «можеш – робиш» для того, щоб ми рухались у майбутнє? Я скажу «ні» і буду виступати за підхід на основі цінностей до технологій в цілях оборони і безпеки.
Людство втратило свою невинність
Історично, людство не мало засобів безпосередньо зашкодити власному існуванню, ані свідомо, ані несвідомо. На початку ХХ сторіччя ми дізнались про силу атома. Вперше ми створили інструмент, який потенційно міг зруйнувати саме наше існування. Щойно цей джин залишив пляшку, в середині сторіччя, ми взялися до тяжкої праці взяття його під контроль, намагаючись включити контроль над ядерними озброєннями в новий міжнародний порядок, що зароджувався.
Подобається це нам, чи ні, але людство втратило невинність необізнаності. Ми отримали доступ до потенційно руйнівних засобів, і ми це знаємо. Тому ми не можемо ані заперечувати, ані відкидати відповідальність, яку ми несемо за вплив наших технологій, як свідомий, так і несвідомий.
Ці технології інші
Сьогодні перед нами з’являються численні нові технології, такі як ШР, біо та квантові технології, які обіцяють зруйнувати наші сталі підходи. Вони розвиваються паралельно, зі швидкістю ХХІ сторіччя в гіперпоєднаному світі.
Візьмемо, наприклад, одну конкретну сферу: комбінацію ШР, великих даних (як вхідний матеріал для ШР) і автономність (як одне із головних застосувань ШР). Ця технологічна сфера обіцяє розірвати інформаційну сферу і «змінити все», від збереження обізнаності про обстановку до підтримки прийняття рішень, від забезпечення діагностування і обслуговування до кіберзахисту.
Проте в розпал ейфорії щодо можливостей ми повинні тверезо дивитись на реальність і ставити собі критичні запитання про те, як ми хочемо розвивати, підживлювати і використовувати такі системи: чи будемо ми розглядати китайську систему соціального кредиту як рольову модель збирання даних? Чи маємо ми прийняти алгоритми чорних скриньок для опрацювання даних коли вони презентують результати, але не в змозі пояснити їх вірогідність? Чи маємо ми застосовувати ШР для прийняття важливих рішень, там де ми намагаємось зберегти людський контроль?
Більшість провідних технологій діють в інформаційній сфері. Зважаючи на їхню надзвичайну здатність до взаємопідключення і швидкість, за їх розвитком особливо важко стежити, не кажучи вже про прогнозування. Розробники зосереджуються на цивільному застосуванні, зважаючи на глобальні споживчі ринки, а великі технологічні компанії, які просувають цей розвиток, стають найбільш впливовими недержавними гравцями на планеті.
Усі ці чинники ускладнюють простір проблеми, водночас прискорюючи еволюцію технологій. Коротко кажучи, наші проблеми зростають, а час на їх розв’язання скорочується.
Візьмемо як приклад одну конкретну сферу: комбінацію ШР, великих даних (як вхідний матеріал для ШР) і автономність (як одне із головних застосувань ШР). Ця технологічна сфера обіцяє розірвати інформаційну сферу і «змінити все», від збереження обізнаності про обстановку до підтримки прийняття рішень, від забезпечення діагностування і обслуговування до кіберзахисту. © Information Matters
Захід не одинокий
Наші західні цінності, включно з верховенством права, демократією, свободою особистості і правами людини, створюють міцну основу для розв’язання цих завдань. Проте ми повинні визнати, що їх універсальність ставиться під сумнів, іноді приховано, іноді відверто. Як зауважив політичний економіст Джефрі Сакс, «геополітична сила і технологічна майстерність вже не є привілеєм Північної Атлантики».
Було б короткозоро вважати, що Західні країни можуть в глобальному масштабі забезпечити дотримання глобальними технологіями західних цінностей. Навпаки, різні цінності можуть спричинити розбіжності в технічних компетенціях, які, своєю чергою, можуть вплинути на глобальний розподіл сили.
Встановлення норм – роль для НАТО?
Нові і проривні технології (EDT) з’явились у фокусі політичної уваги НАТО в 2019 році, коли лідери НАТО схвалили дорожню карту імплементації семи таких технологій. Незалежно від їхніх величезних перспектив, ми повинні усвідомлювати, що ці технології усе ще не зрілі, усе ще не «повністю тут». Тому залишається велика непевність щодо того, до якого ступеня ці новонароджені технології і їх прогнозоване застосування належним чином укладаються в наявні правові, етичні і моральні норми. Ці питання не обмежуються військовими застосуваннями і не зупиняються на державних кордонах. Вони радше стосуються багатьох урядових департаментів і сфер бізнесу, і вони впливають на усе людство.
В цій складній, швидко мінливій ситуації з високими ставками ми повинні розглядати технології і цінності у взаємному зв’язку. В той час як наші цінності мають визначати як нам використовувати технології, ми повинні визнавати, що наш вибір технологій буде, свідомо чи ні, відображати цінності, яких ми дотримуємось.
Оскільки бездіяльність неприпустима, ми повинні здійснювати активні заходи зі встановлення норм для майбутнього застосування технологій; норм, які глибоко укорінені в наших цінностях; технологій, які зараз з’являються і мають визнаний проривний потенціал (таких як ШР, біотехнології і квантові технології). Як ми могли б реально відповісти на цей новий виклик? Три наступні пропозицій можуть прокласти шлях.
- Ми повинні подолати непевність щодо технічного розвитку. Тому я пропоную еволюційне розроблення політики, основане на поточних знаннях, але достатньо гнучке для того, щоб нинішні рішення можна було виправити або скорегувати у майбутньому.
- Ми повинні намагатись обмежити потенційну шкоду уникаючи зайвого стримування переваг, які може принести технологія. Тому наша політика має **встановлювати ліміти застосування ** технологій (такі як генетично оптимізовані супервояки), замість повної заборони технологічних сфер (в цьому випадку – біотехнології).
- Нам потрібно розуміти, коли зміни в політиці необхідні і якими мають бути ці зміни. Відображаючи розмаїття інтересів, нам потрібно інституціалізувати **широке залучення зацікавлених сторін, ** яке залучало б усіх, на кого впливає ця технологія, і хто впливає на її еволюцію.
В рамках такого широкомасштабного підходу НАТО відіграє конкретну роль. Як міжнародна організація, покликана забезпечувати оборону і безпеку регіону Північної Атлантики, вона має в своєму розпорядженні значну політичну, військову, економічну і технологічну силу. На основі, зокрема, свого політичного і інтелектуального капіталу Альянс спроможний спрямувати визначення норм застосування технологій в оборонній галузі відповідно до західних цінностей.
У своїй нещодавно оприлюдненій Стратегії щодо ШР НАТО виконує свою традиційну роль в інноваційний спосіб. Ця стратегія охоплює принципи відповідального застосування, які виражають засновані на цінностях норми, яких НАТО і її країни-члени будуть дотримуватись при застосуванні ШР. Оприлюднивши ці принципи, вони дають приклад іншим країнам, які можуть взяти це до уваги і потенційно перейти на принципи НАТО. Це дієвий підхід до пропонування і поступового запровадження міжнародних норм, подібно до Загального регламенту Європейського союзу для захисту даних.
Водночас НАТО реагує на глобальний інноваційний ландшафт. Ініціатива НАТО - 2030 підкреслює необхідність формування нових коаліцій з партнерами-однодумцями поза межами Північноатлантичного регіону. Такі широкі зв’язки мають не лише розповсюджуватись на міжурядові організації, вони мають взагалі розширювати типи партнерів зі співпраці (навіть в самих країнах Альянсу), залучати громадські організації, приватний сектор, наукові кола і громадянське суспільство.
Визначення норм для технічного розвитку в межах нашої сталої системи цінностей стало визначальним завданням ХХІ сторіччя. Лише наші цінності мають бути рушієм політики, яку ми розробляємо, і сил і засобів, якими озброюємось. Із появою нових технологій має розвиватись і наша політика встановлення належних норм, окреслених цінностями, які для нас дорогі.
Це дев’ята стаття з мінісерії, присвяченої інноваціям, яка зосереджена на технологіях, які члени Альянсу прагнуть засвоїти, і можливостях, які вони зможуть додати обороні і безпеці альянсу НАТО. Попередні статті:
- [Когнітивна біотехнологія: можливості і застереження для альянсу НАТО] (https://www.nato.int/docu/review/articles/2021/02/26/cognitive-biotechnology-opportunities-and-considerations-for-the-nato-alliance/index.html)
- [Протидія когнітивній війні: інформованість і стійкість] (https://www.nato.int/docu/review/articles/2021/05/20/countering-cognitive-warfare-awareness-and-resilience/index.html)