Справедливо утверждать, что у нас сложные отношения с технологией. Достаточно взглянуть на такие резонансные темы, как возобновляемая энергия или искусственный интеллект, фармацевтическая продукция, автомобилестроение, бытовая электроника, социальные сети и биотехнология. О каждой их этих технологий можно услышать разноголосицу мнений: от обещаний новой счастливой эпохи до предсказаний погибели человечества. Как разобраться во всех этих противоречивых взглядах и как извлечь максимальную пользу из новых и потенциально прорывных технологий и свести при этом к минимуму факторы риска, сопряженные с ними?

Как развивается технология

Технология представляет для нас интерес по различным параметрам. Некоторые люди интересуются технологией как таковой, но большинство интересуется потенциальным воздействием технологии. Зачастую между этими интересами возникает напряженность, а порой даже конфликт. В упрощенном виде картину можно представить следующим образом:

  • потребителю нужно недорогостоящее решение конкретной проблемы, а разработчик стремится усовершенствовать конкретный продукт;

  • новатор стремится продемонстрировать, что ее идея удачна, тогда как инвестор заинтересован в окупаемости капиталовложений;

  • менеджер корпорации привержен увеличению доходов компании и ее доли на рынке, тогда как регулирующий орган сосредоточен на вопросах безопасности и воздействия на окружающую среду;

  • граждане хотят максимально пользоваться своими свободами и хотят, чтобы их права были защищены, тогда как политики пытаются привести все вышеупомянутые интересы в равновесие и наметить политику, отвечающую интересам всех.

В этот огромный клубок интересов вплетены технологические идеи, экономические и коммерческие интересы, потребности общества и политические соображения. Большинство из нас в основном параллельно преследуют сразу несколько из этих интересов: как потребители и граждане, но также как индивидуумы и члены сообществ, влияющих на наше мышление и выбор.

Никакие из этих соображений не предопределены заранее, равно как не предопределены и выбор, который мы делаем, и решения, которые мы принимаем в результате этого. Поэтому нельзя предсказать общий итог. Мы не можем заранее сказать, по какому пути пойдет развитие той или иной технологии. Однако было бы легкомысленно делать вывод о том, что технология самостоятельно движется по своему пути или что мы вообще не влияем на технологию. Как раз наоборот, все мы влияем на развитие технологии, просто это влияние редко бывает прямым или сразу становится заметным. Специалист по сложным системам У. Брайан Артур так подытожил наши многогранные отношения с технологией: «Сферы технологии эволюционируют вместе с обществом в процессе взаимной адаптации».

Иными словами, выбор, который мы делаем сегодня, влияет на траекторию дальнейшего развития какой-либо технологии. В связи с этим развитием, в свою очередь, появятся новые возможности и вызовы, на которые мы будем реагировать, и это реагирование повлияет на дальнейшую эволюцию этой технологии в рамках открытого процесса.

Обратимся к примеру парового двигателя. Эта машина, впервые появившаяся для откачки воды из угольных шахт, обозначила начало промышленной революции. Это успешное применение подхлестнуло воображение, по мере того как конструкторы и пользователи стали искать, какие еще проблемы можно решить с помощью парового двигателя. В результате этого произошла механизация сельского хозяйства и промышленного производства, и в конечном итоге паровой двигатель сменил лошадей и быков в качестве основного источника силы для человечества. Но на этом история не закончилась. Железные дороги, заводы, трудовые договоры, профсоюзы работников возникли как следствие этой новой технологии. Ни одно из этих долгосрочных последствий не было спрогнозировано, намеренно создано или спланировано. Скорее, это стало результатом взаимовлияния технологии и общества.

 Паровой двигатель, впервые появившийся для откачки воды из угольных шахт, обозначил начало промышленной революции. © Local Histories

Паровой двигатель, впервые появившийся для откачки воды из угольных шахт, обозначил начало промышленной революции. © Local Histories

История парового двигателя свидетельствует о том, что сама по себе технология ни хороша, ни плоха. Но и нейтральной она не является. Технология – это то, что мы с ней делаем. Наш выбор важен. Вопрос в том, как сделать технологию тем, чем мы хотим, чтобы она была?

Формирование технологии

При любой попытке сформировать траекторию какой-нибудь технологии возникает настоящая дилемма между сегодняшними знаниями о будущем и имеющимися средствами повлиять на это будущее или изменить его. Дэвид Коллингридж первым сформулировал основную проблему при определении политики в области новых технологий: «Когда изменить что-то просто, нельзя предсказать необходимость этого; когда необходимость изменить что-то очевидна, сделать это дорого, трудно и требует много времени».

Мы в прямом смысле застряли между молотом и наковальней. Мы не можем знать о всех будущих применениях зарождающейся технологии и не можем предсказать все ее будущие последствия. Однако в данный момент мы можем в определенной мере контролировать путь развития этой технологии. В будущем, когда эта технология становится зрелой, нам видно все ее воздействие. И таким образом, мы можем определить, что нам хотелось бы изменить. Увы, поскольку на тот момент технология уже на рынке, широко распространяется и повсеместно применяется, наши возможности что-либо контролировать очень ограничены.

Нам сложно справиться с одной из фундаментальных характеристик развития технологии: закономерная неопределенность, присущая открытому процессу, конечное состояние которого не может быть известно. Мы не можем заранее знать, что станет целью осуществляемой сегодня политики. Но что мы можем реально сделать? Быть может, правильно было бы смириться с тем, что наши знания ограничены, и просто «пустить все на самотек»?

Обратимся к примеру соцсетей. Эти услуги обещали подключение по всей планете, содействие новым формам значимого обмена информацией и возможность создания беспрецедентных по своему масштабу и размаху глобальных сообществ. Вполне естественно, что пользователей привлекает то, что они работают бесплатно, но на самом деле они зависят от коммерческой модели, построенной на рекламе. Чтобы эта схема работала, в идеале пользователи должны быть подключены круглосуточно и таким образом подпитывать все более сложные микро-адресные алгоритмы. Подобное зависимое поведение и растущее манипулирование, которому способствует это поведение, не отвечают интересам пользователей. Как не отвечают интересам наших обществ эхокамеры, ненавистническая риторика и подтасовка демократических выборов.

Перспективность социальных сетей убедительна, но мы допустили две серьезные ошибки. Во-первых, мы согласились с наличием запатентованных платформ, эксплуатируемых коммерческими предприятиями. Во-вторых, мы забыли о том, что цель бизнеса – извлечение прибыли, а не благотворительность.

Пример социальных сетей доказывает, что сиюминутный выбор, который делают пользователи, может идти вразрез с их долгосрочными интересами. Более того, рынок, предоставленный самому себе, может выйти из-под контроля. Оба эти вывода особенно верны применительно к многообещающим зарождающимся технологиям на раннем этапе их формирования. Этим «птенцам» еще нужно найти продукцию, которую они смогут успешно поставлять, и рынки, которые они смогут обслуживать. А всем заинтересованным сторонам еще нужно выяснить, как эти технологии могут сказаться на них.

По мере развития технологии можно быть уверенным в том, что первыми проявят себя новаторы, инвесторы и пользователи, преследующие свои конкретные интересы. Потом, после того как будет доказана эффективность технологии и жизнеспособность первых идей о продукции, подключатся конструкторы и руководители компаний. Только после того, как станет ощутимым воздействие зреющей технологии, к обсуждению подключатся контрольно-надзорные органы, граждане и политики. Как я считаю, применительно к новым и потенциально прорывным технологиям, этот последний этап наступает слишком поздно.

 Социальные сети обещали подключение по всей планете, содействие новым формам значимого обмена информацией и возможность создания беспрецедентных по своему масштабу и размаху глобальных сообществ. Фото © Coosto

Социальные сети обещали подключение по всей планете, содействие новым формам значимого обмена информацией и возможность создания беспрецедентных по своему масштабу и размаху глобальных сообществ. Фото © Coosto

Какой мы хотим, чтобы была технология

На всем протяжении своей истории мы покоряли технологию, чтобы добиться военных преимуществ или сохранить их. Без особого различия мы делали, что могли – что было технически осуществимым и казалось правильным. Достаточно ли руководствоваться в будущем отношением «нет ничего невозможного»? Мой ответ – нет, и я выступаю за то, чтобы подход к технологии в целях обороны и безопасности был основан на ценностях.

Человечество лишилось невинности

Как показывает история, у человечества не было средств, угрожающих, намеренно или нет, самому его существованию.

В начале ХХ века мы открыли силу атома. Впервые мы создали инструмент, который потенциально мог бы прекратить наше существование. После того как к середине столетия этого джина выпустили из бутылки, мы трудились над тем, чтобы восстановить контроль, и в зарождающийся международный порядок был заложен контроль над ядерным оружием.

Как бы мы к этому ни относились, человечество лишилось невинности незнания. Мы заполучили потенциально разрушительные средства, и знаем об этом. Поэтому мы не можем ни отрицать, ни отвергать ответственности за последствия наших технологий, как преднамеренные, так и непреднамеренные.

Это иные технологии

Сегодня мы столкнулись с большим числом новых технологий, которые обещают радикально изменить привычный образ жизни: среди них – искусственный интеллект, биотехнологии и квантовые технологии. Их созревание идет параллельно со скоростью ХХI века и в мире гиперсвязи.

Вот, например, одна конкретная область: сочетание искусственного интеллекта (ИИ), больших данных (как исходного материала для ИИ) и автономности (как одного их основных видов применения ИИ). Эта область технологии потенциально может нарушить функционирование информационной сферы и «все изменить»: от обеспечения осведомленности об обстановке до содействия в принятии решений, от диагностического техобслуживания до киберзащиты.

Однако, предаваясь эйфории по поводу возможностей, мы должны трезво вернуться в действительность и задать себе критически важные вопросы о том, как мы хотим разрабатывать, насыщать и использовать эти системы: возьмем ли мы за образец сбора данных китайскую систему социального рейтинга? Должны ли мы разрешить обработку данных алгоритмами типа «черный ящик», которые выдают результаты, но не могут объяснить их достоверности? Нужно ли нам использовать искусственный интеллект при принятии критически важных решений, когда мы стремимся сохранить человеческий контроль?

Большая часть основных технологий функционирует в информационной среде. С учетом их высочайшей сопряженности и скорости, сложно даже следить за их развитием, не то что прогнозировать его. Однако разработчики делают упор на практическом применении в гражданских целях и ориентируются на глобальный потребительский рынок, а крупные технологические компании, продвигающие эти разработки, стали наиболее влиятельными негосударственными субъектами на планете.

Из-за всех этих факторов проблемная сфера становится еще сложнее, а скорость технологической эволюции растет. Одним словом, наши проблемы растут, а время реагирования сокращается.

 Вот, например, одна конкретная область: сочетание искусственного интеллекта, больших данных (как исходного материала для ИИ) и автономности (как одного их основных видов применения ИИ). Эта область технологии потенциально может нарушить функционирование информационной сферы и «все изменить»: от обеспечения осведомленности об обстановке до содействия в принятии решений, от диагностического техобслуживания до киберзащиты. © Information Matters

Вот, например, одна конкретная область: сочетание искусственного интеллекта, больших данных (как исходного материала для ИИ) и автономности (как одного их основных видов применения ИИ). Эта область технологии потенциально может нарушить функционирование информационной сферы и «все изменить»: от обеспечения осведомленности об обстановке до содействия в принятии решений, от диагностического техобслуживания до киберзащиты. © Information Matters

Запад не один

Наши западные ценности, в частности, верховенство права, демократия, свобода личности и права человека – добротная основа для преодоления этих вызовов. Однако, необходимо признать, что их универсальность оспаривается, порой незаметно, порой открыто. Как отметил политэкономист Джеффри Сакс: «Геополитическая сила и технологическое мастерство перестали быть исключительной вотчиной Северной Атлантики».

Было бы недальновидно предполагать, что странам Запада удастся обеспечить в мировом масштабе соответствие новых технологий западным ценностям. Напротив, из-за различий в ценностях могут сформироваться разные технологические знания и навыки, что в свою очередь скажется на соотношении сил в мире.

Нормотворчество: роль для НАТО?

Новые и прорывные технологии оказались в центре политического ландшафта НАТО в 2019 году, когда руководство НАТО утвердило дорожную карту реализации семи таких технологий. Несмотря на их огромный потенциал, надо понимать, что речь идет о технологиях, которые еще не совсем созрели, еще не сформировались до конца. И поэтому сохраняется большая степень неопределенности насчет того, в какой мере эти зарождающиеся технологии и их планируемое применение должным образом вписываются в установленные правовые, этические и нравственные нормы. Эти вопросы не ограничены военным применением и не останавливаются у границ стран: речь идет о сквозных вопросах для многих государственных ведомств и коммерческих отраслей, о вопросах, касающихся всего человечества.

В этом сложном, быстро меняющемся контексте, в котором столь многое поставлено на карту, мы должны понимать, что технология и ценности взаимосвязаны. При использовании технологии мы должны руководствоваться нашими ценностями, осознавая при этом, что наш выбор технологии, намеренно или нет, будет отражать ценности, которых мы придерживаемся.

Бездействие не вариант, и поэтому нам надо предпринимать активные меры по созданию норм будущего использования технологий; норм, которые глубоко уходят корнями в наши ценности; технологий, которые формируются в данный момент и обладают признанным прорывным потенциалом (например, искусственный интеллект, биотехнологии и квантовые технологии). Как можно было бы по-настоящему справиться с этим новым вызовом? Изложенные ниже три предложения могли бы помочь в этом.

  1. Мы должны эффективно справиться с неопределенностью технической эволюции. Поэтому, предлагаю принимать политические решения эволюционным образом: исходить из нынешних знаний и закладывать достаточную гибкость, с тем чтобы можно было в будущем исправить или скорректировать сегодняшние решения.

  2. Мы должны стремиться ограничить потенциальный вред, не сдерживая при этом без надобности преимущества, которые может дать технология. Поэтому принимаемой нами политикой нужно обозначать пределы применения технологий (например, генетически оптимизированные суперсолдаты), а не налагать запреты на целые области технологии (в данном случае, биотехнологии).

  3. Нам нужно понять, когда нужны изменения в политике и о каких изменениях идет речь. С учетом большого разброса интересов, нужно придать институциональный характер взаимодействию с широким кругом заинтересованных сторон, охватывающим всех, кого касается определенная технология и кто влияет на ее эволюцию.

В этом широком плане НАТО играет конкретную роль. Как международная организация, приверженная обороне и безопасности Североатлантического региона, НАТО наделена значительной политической, военной, экономической и технологической мощью. Опираясь в частности на свой политический и интеллектуальный капитал, Североатлантический союз может уверенно инициировать работу по установлению норм применения технологий в сфере обороны, чтобы обеспечить соответствие Западным ценностям.

Недавно была опубликована Стратегия НАТО в области искусственного интеллекта, благодаря которой НАТО играет свою традиционную роль новаторским образом. В этой Стратегии закреплены принципы ответственного использования, ставшего выражением норм, основанных на ценностях, которых будут придерживаться НАТО и государства-члены при применении искусственного интеллекта. С обнародованием этих принципов был подан пример другим странам, с тем чтобы те изучили и, возможно, приняли принципы НАТО. Это эффективный подход к предложению и постепенному выполнению международной нормы в отличие от Общих правил защиты данных Европейского союза.

В то же время НАТО реагирует на глобальный ландшафт новаций. В инициативе НАТО – 2030 подчеркивается необходимость создавать новые коалиции с партнерами-единомышленниками за пределами Североатлантического региона. Причем эта широкая работа по налаживанию связей должна быть рассчитана не только на правительственные организации: нужно в целом расширять категории партнеров для взаимодействия (даже среди государств-членов НАТО), чтобы подключить тоже неправительственные организации, частный сектор, научно-образовательные круги и гражданское общество.

Создание норм, с тем чтобы развитие технологии шло в пределах установленной системы ценностей, – важнейшая задача XXI века. Наши ценности должны быть движущей силой политики, которую мы формируем, и создаваемых нами сил и средств. С учетом того, что новые технологии появляются постоянно, нам надо определять принципы создания надлежащих норм, зиждущихся на дорогих нам ценностях.

Это девятая статья из мини-серии о новаторстве, посвященной технологиям, которые страны НАТО стремятся внедрить, и возможностям, которые это откроет для обороны и безопасности Североатлантического союза. Предыдущие статьи: