Reconnaissons que notre relation à la technologie est complexe. Il suffit de penser aux sujets qui font les gros titres de l’actualité, comme les énergies renouvelables ou l’intelligence artificielle (IA), ou aux produits pharmaceutiques, à l’automobile, à l’électronique grand public, aux médias sociaux et aux biotechnologies. Pour chacun de ces domaines, vous entendrez en effet très probablement des voix discordantes, certaines promettant monts et merveilles, d’autres prédisant la fin de l’humanité. Comment s'y retrouver devant pareille confusion, et comment tirer au mieux parti des avantages qu’offrent les technologies émergentes et les ruptures technologiques tout en limitant les risques qu’elles engendrent ?

Comment la technologie évolue

En tant qu'individus, nos intérêts pour la technologie sont multiples et divers. Si certains s’intéressent à la technologie proprement dite, la plupart d'entre nous pensent essentiellement aux changements qu’elle pourrait engendrer. Nos intérêts sont souvent divergents, voire parfois franchement antagonistes. Expliquons cela plus simplement :

  • le client est à la recherche d'une solution abordable à un problème donné, tandis que le concepteur s’emploie à améliorer un produit existant ;

  • l’innovateur fait tout pour démontrer que son idée marche, tandis que l’investisseur voit le retour sur investissement ;

  • le dirigeant d’entreprise est déterminé à accroître le chiffre d’affaires et la part de marché de sa société, alors que le régulateur s’intéresse plus particulièrement à l’impact sur la sécurité et l’environnement ;

  • le citoyen veut que sa liberté soit la plus grande possible et que ses droits soient protégés, tandis que le politique tente de concilier les intérêts divergents précités en élaborant des politiques pour le bien de tous.

Dans cette imbrication d'intérêts, on retrouve idées technologiques, intérêts économiques et commerciaux, besoins sociétaux et considérations politiques. La plupart d'entre nous poursuivons généralement plusieurs intérêts en parallèle : très certainement en tant que clients et citoyens, mais aussi en tant qu’individus et membres de communautés qui ont une influence sur notre façon de penser et sur nos choix.

Aucune de ces considérations n’est prédéterminée, pas plus que les choix et les décisions qui en découlent. C’est pourquoi il est impossible d'entrevoir d'emblée les changements auxquels nous risquons d'assister. Nous ne pouvons pas non plus prédire l’évolution d’une technologie. Toutefois, il serait insensé d’en conclure que la technologie suit une trajectoire qui lui est propre, ou que nous n’avons absolument aucune influence sur elle. Bien au contraire, nous influençons tous le développement technologique, mais cette influence est rarement immédiate ou directement visible. W. Brian Arthur, chercheur dans le domaine de l’économie de la complexité a résumé comme suit la relation complexe que nous avons à la technologie : les domaines technologiques évoluent en même temps que avec la société selon un processus d’adaptation mutuelle.

En d’autres termes, les choix que nous opérons aujourd’hui influent sur l’évolution future d’une technologie donnée. Cette évolution va à son tour créer de nouvelles possibilités et de nouveaux défis, auxquels nous allons répondre, et cette réponse va peser sur la suite du développement de la technologie en question selon un processus ouvert.

Prenons l’exemple de la machine à vapeur. Cette machine, initialement conçue pour pomper l’eau dans les mines de charbon, marque le début de la Révolution industrielle. Le succès qu'elle rencontra a stimulé l’imagination des ingénieurs et des utilisateurs, qui se mirent à réfléchir aux autres problèmes que la machine à vapeur permettrait de résoudre. Ces réflexions ont conduit à la mécanisation de l’agriculture et de l'industrie manufacturière, avec pour résultat que la machine à vapeur a fini par remplacer les chevaux et les bœufs, alors principales sources d’énergie à la disposition de l'homme. Mais l’histoire ne s’est pas arrêtée là. Cette nouvelle technologie est en effet à l'origine des chemins de fer, des usines, des contrats de travail et des syndicats. Aucun de ces effets à long terme n’était prévisible, voulu ni planifié. Ils furent plutôt le résultat de l’influence que la technologie et la société ont exercée l’une sur l’autre.

 La machine à vapeur, initialement conçue pour pomper l’eau dans les mines de charbon, marque le début de la Révolution industrielle. © Local Histories

La machine à vapeur, initialement conçue pour pomper l’eau dans les mines de charbon, marque le début de la Révolution industrielle. © Local Histories

L’histoire de la machine à vapeur illustre qu’en soi, la technologie n’est ni bonne, ni mauvaise. Mais elle n’est pas neutre non plus. La technologie n'est que ce que nous en faisons. Nos choix sont dès lors déterminants. Aussi faut-il se poser la question : « Comment pouvons-nous faire de la technologie ce que nous voulons qu’elle soit ? »

Canaliser la technologie

Si l’on essaie de canaliser l’évolution d’une technologie donnée, on se heurte à un véritable dilemme, tiraillés entre ce que nous savons aujourd’hui du futur et les moyens dont nous disposons pour influencer ou modifier ce futur. David Collingridge a été le premier à énoncer le principal défi qui se présente quand on tente d’encadrer les technologies émergentes, expliquant que lorsque le changement est facile, la nécessité de ce changement n’est pas perçue, et qu'à l'inverse, lorsque la nécessité du changement est évidente, celui-ci est devenu coûteux, difficile et long.

Nous sommes littéralement entre le marteau et l’enclume. De fait, nous ne pouvons pas connaître toutes les applications qu’une nouvelle technologie aura dans l’avenir, pas plus que nous ne pouvons prévoir tous ses effets. Toutefois, à ce stade, nous pouvons exercer un certain contrôle sur son développement. Après, lorsque la technologie est arrivée à maturité, nous en observons tous les effets. Nous pouvons alors déterminer ce que nous voudrions modifier. Hélas, dès lors que la technologie est disponible sur le marché, qu’elle est largement distribuée et utilisée à grande échelle, nos moyens de contrôle sont très limités.

Nous nous heurtons à une caractéristique fondamentale du développement technologique, à savoir à l’incertitude de principe inhérente à un processus ouvert dont l’état final ne peut être connu. Il nous est donc impossible de connaître à l’avance ce sur quoi devront porter demain les mesures à prendre aujourd’hui. Mais alors que faire ? Ne serait-il pas raisonnable d’accepter les limites de notre connaissance et de laisser faire les choses ?

Prenons l’exemple des médias sociaux. Ces services promettaient une connectivité planétaire, qui favoriserait l'émergence de nouveaux modes de partage d’informations utiles et permettrait la mise en place, à l'échelle du globe, de communautés de taille et de portée inédites. La gratuité des médias sociaux constitue bien entendu un puissant aimant pour les utilisateurs, même si, en coulisses, ces médias reposent sur un modèle économique basé sur la publicité. Pour que cela fonctionne, il faudrait idéalement que les utilisateurs restent connectés 24 heures sur 24 et 7 jours sur 7 afin d’alimenter les algorithmes de ciblage micro toujours plus sophistiqués. Cette dépendance et la manipulation que ces médias favorisent ne sont pas dans l’intérêt des utilisateurs. De même que leurs effets « caisse de résonance », les propos haineux et la manipulation d’élections démocratiques ne sont pas dans l’intérêt de nos sociétés.

Certes, les promesses des médias sociaux sont alléchantes, mais nous avons commis deux erreurs capitales. La première est d’avoir accepté les plateformes propriétaires exploitées par des entreprises commerciales, et la seconde d’avoir oublié que la finalité de toute entreprise est le profit, et non la charité.

L’exemple des médias sociaux montre que les choix immédiats des utilisateurs peuvent aller à l'encontre de leurs intérêts à long terme. Par ailleurs, un marché livré à lui-même peut échapper à tout contrôle. Ces deux constats se vérifient tout particulièrement dans le cas de nouvelles technologies prometteuses, à un stade précoce de leur développement. Il faut encore trouver les produits que ces technologies naissantes pourraient engendrer, et identifier les marchés qu’elles pourraient desservir. À quoi il faut ajouter que l'ensemble des parties intéressées doivent encore découvrir en quoi elles pourraient être impactées par ces technologies.

Mais une chose est certaine : à mesure que les technologies de ce type se développeront, ce sont les acteurs de l’innovation, les investisseurs et les utilisateurs qui seront les premiers à entrer en scène, poursuivant leurs intérêts propres. Les concepteurs et les dirigeants d’entreprise leur emboîteront rapidement le pas, dès que la technologie aura prouvé son efficacité et qu’il sera établi que les premiers produits imaginés sont viables. Ce n’est qu’une fois que les effets de la technologie arrivant à maturité seront visibles que les régulateurs, les citoyens et les politiques interviendront à leur tour. Je soutiens que dans le cas des technologies émergentes et de celles sources de ruptures potentielles, l’intervention de ces derniers arrive trop tard.

 Les médias sociaux promettaient une connectivité planétaire, qui favoriserait l'émergence de nouveaux modes de partage d’informations utiles et permettrait la mise en place, à l'échelle du globe, de communautés de taille et de portée inédites. Picture © Coosto

Les médias sociaux promettaient une connectivité planétaire, qui favoriserait l'émergence de nouveaux modes de partage d’informations utiles et permettrait la mise en place, à l'échelle du globe, de communautés de taille et de portée inédites. Picture © Coosto

Ce que nous voulons que la technologie soit

Tout au long de notre histoire, nous avons utilisé la technologie pour obtenir ou préserver un avantage militaire. Nous faisions simplement ce que nous pouvions : tout ce qui était réalisable technologiquement était considéré comme la bonne chose à faire. Cette approche est-elle cependant suffisante pour nous orienter à l’avenir ? Ma réponse est non. Je suis en revanche partisan d'une approche guidée par des valeurs lorsqu'il s'agit de technologies à vocation défense et sécurité.

L’humanité a perdu son innocence

Dans le passé, l’être humain n’avait pas les moyens de mettre en danger son existence même, que ce soit intentionnellement ou non.

Ce n’est qu’au début du XXe siècle que nous avons découvert la puissance de l’atome. Pour la première fois, nous avons créé un outil capable d’anéantir l'humanité. Une fois le génie sorti de sa lampe, au mitan du siècle, nous avons tout mis en œuvre pour reprendre le contrôle en introduisant le concept de maîtrise des armements nucléaires dans l’ordre international naissant.

Que cela nous plaise ou non, l’humanité a perdu son innocence de l’ignorance. Nous avons accès à des moyens potentiellement destructeurs, et nous le savons. Dès lors, nous ne pouvons ni contester ni rejeter la responsabilité qui est la nôtre s’agissant des conséquences de nos technologies, qu'elles soient intentionnelles ou non.

Ces technologies sont différentes

Aujourd’hui, nous sommes confrontés à un grand nombre de technologies émergentes – l’intelligence artificielle (IA), les biotechnologies et les technologies quantiques, par exemple – qui promettent de bouleverser nos modes de fonctionnement établis. Ces technologies évoluent en parallèle, au rythme du XXIe siècle, dans un monde hyperconnecté.

Penchons-nous sur un cas particulier : la combinaison de l’IA, du big data (en tant que source alimentant l’IA) et des systèmes autonomes (l’une des principales applications de l’IA). Ce domaine technologique promet de bouleverser la sphère de l’information et de tout révolutionner, depuis la tenue de l'image d'une situation à l'aide à la décision, en passant par la maintenance prévisionnelle et la cyberdéfense.

Toutefois, au milieu de l’euphorie que suscitent ces opportunités, nous devons nous montrer lucides et nous poser ces questions fondamentales : comment entendons-nous développer, alimenter et utiliser ces systèmes ? Allons-nous retenir le système chinois de crédit social comme modèle pour la collecte des données ? Sommes-nous prêts à accepter des algorithmes « boîte noire » de traitement des données, qui produisent des résultats mais qui ne sont pas en mesure d’expliquer si ceux-ci sont plausibles ? De même, devrions-nous recourir à l’IA pour prendre une décision critique sur une question où l'on estime que l’homme doit garder un contrôle ?

Les technologies clés ont pour la plupart des applications dans l’environnement informationnel. En raison de l'interconnectivité et de la vitesse inégalées qu'elles offrent, il est particulièrement difficile de suivre leur évolution, et plus encore de l’anticiper. Malgré tout, les développeurs se concentrent sur les applications civiles, en ayant à l’esprit les marchés de consommation mondiaux, et les grandes entreprises technologiques qui encouragent ces développements sont désormais les acteurs non étatiques les plus influents à l’échelle de la planète.

Ces différents facteurs viennent accroître la complexité de l’espace-problème, tout en accélérant le rythme de l’évolution technologique. Ou plus simplement : les enjeux ne cessent de croître, tandis que le temps de réaction dont nous disposons ne fait que raccourcir.

 Penchons-nous sur un cas particulier : la combinaison de l’IA, du big data (en tant que source alimentant l’IA) et des systèmes autonomes (l’une des principales applications de l’IA). Ce domaine technologique promet de bouleverser la sphère de l’information et de tout révolutionner, depuis la tenue de l'image d'une situation à l'aide à la décision, en passant par la maintenance prévisionnelle et la cyberdéfense. © Information Matters

Penchons-nous sur un cas particulier : la combinaison de l’IA, du big data (en tant que source alimentant l’IA) et des systèmes autonomes (l’une des principales applications de l’IA). Ce domaine technologique promet de bouleverser la sphère de l’information et de tout révolutionner, depuis la tenue de l'image d'une situation à l'aide à la décision, en passant par la maintenance prévisionnelle et la cyberdéfense. © Information Matters

Il n’y a pas que l’Occident

Nos valeurs occidentales, notamment l’état de droit, la démocratie, la liberté individuelle et les droits de la personne, offrent un cadre solide face à ces enjeux. Nous devons cependant reconnaître que leur universalité est contestée, tantôt discrètement, tantôt ouvertement. Comme l’a fait observer l’économiste politique Jeffrey Sachs, le pouvoir géopolitique et les prouesses technologiques ne sont plus l’apanage de l’Atlantique Nord.

Ce serait manquer de lucidité que de penser que les pays occidentaux pourraient exiger, à l'échelle mondiale, que les technologies émergentes respectent les valeurs occidentales. Mais pourtant, des différences sur le plan des valeurs pourraient bien se traduire par des compétences technologiques distinctes, lesquelles pourraient, à leur tour, bouleverser l'équilibre des puissances dans le monde.

Normalisateur : un rôle pour l’OTAN ?

L’intérêt politique de l’OTAN pour les technologies émergentes et les technologies de rupture remonte à 2019, lorsque les dirigeants des pays de l’Alliance ont adopté une feuille de route pour la mise en œuvre de sept d’entre elles. Indépendamment des perspectives extraordinaires qu’elles laissent entrevoir, il faut admettre que ces technologies sont encore loin d'être abouties. Il subsiste dès lors beaucoup d’incertitude sur le fait de savoir si ces technologies naissantes et leurs applications probables tombent effectivement sous le coup des normes juridiques, éthiques et morales existantes. Ces questions ne se limitent pas aux applications militaires et ne s’arrêtent pas aux frontières nationales. Elles percolent au contraire dans nombre de services publics et de secteurs économiques, et touchent l’humanité tout entière.

Dans cet environnement complexe, qui évolue rapidement et où les enjeux sont énormes, nous ne pouvons pas dissocier technologies et valeurs. Nos valeurs devraient guider notre usage de la technologie, mais nous devons admettre que nos choix technologiques refléteront, de façon intentionnelle ou non, les valeurs auxquelles nous adhérons.

Ne rien faire n’étant pas une option, nous devons prendre des mesures énergiques pour définir des normes appelées à encadrer l’utilisation future des technologies qui font aujourd'hui leur apparition et dont le potentiel disruptif est avéré (comme l’IA, la biotechnologie et la technologie quantique). Ces normes devront du reste être profondément ancrées dans nos valeurs. Mais en pratique, comment relever ce défi inédit ? Les trois propositions suivantes peuvent servir de point de départ.

  1. Nous devons gérer concrètement les incertitudes liées à l’évolution technologique. Je suggère ainsi un processus évolutif d’élaboration de politiques, partant des connaissances du moment mais offrant suffisamment de souplesse pour que les décisions prises aujourd’hui puissent être adaptées ou corrigées demain.

  2. Nous devons en outre nous efforcer de réduire les dommages potentiels, sans pour autant restreindre exagérément les avantages qu’une technologie comporte. C’est pourquoi nos politiques devraient fixer des limites à la mise en œuvre de certaines technologies (comme les super soldats optimisés génétiquement) plutôt qu’interdire des domaines technologiques entiers (dans ce cas, la biotechnologie).

  3. Enfin, nous devons savoir quand il est nécessaire de modifier une politique et quels sont les changements à apporter. Pour refléter la diversité d'intérêts, nous devons systématiser une participation large des intervenants, associant toutes les parties qui sont concernées par une technologie et qui influencent son évolution.

Dans ce cadre d'application aux contours larges, l’OTAN a un rôle spécifique à jouer. En tant qu’organisation internationale dédiée à la défense et à la sécurité de la région de l’Atlantique Nord, l’OTAN concentre une puissance considérable, à la fois politique, militaire, économique et technologique. Forte en particulier de son capital politique et intellectuel, l’Alliance a la crédibilité voulue pour piloter l'élaboration de normes visant à ce que les applications de technologies dans le secteur de la défense soient conformes aux valeurs occidentales.

Avec la stratégie en matière d’intelligence artificielle qu'elle a récemment publiée, l’OTAN montre bien qu'elle remplit sa mission traditionnelle de façon innovante. Cette stratégie comprend des principes d’utilisation responsable, qui énoncent les normes régies par des valeurs que l’OTAN et ses pays membres s’engagent à respecter dans le cadre de la mise en application de l’IA. En rendant ces principes publics, les pays membres de l’OTAN entendent servir d'exemple et inciter les autres pays à réfléchir à la question, voire à les adopter. Il s'agit d'une approche efficace en vue de proposer et de mettre progressivement en œuvre une norme internationale, qui n'est pas sans rappeler le règlement général sur la protection des données de l’Union européenne.

Dans le même temps, l’OTAN s’inscrit dans le paysage mondial de l’innovation. L’initiative OTAN 2030 souligne la nécessité de forger de nouvelles coalitions avec des partenaires de même sensibilité au-delà de la région de l’Atlantique Nord. Cette large ouverture ne doit pas se limiter aux organisations gouvernementales, mais elle doit également inclure les partenaires avec lesquels des possibilités de collaboration existent (même au sein des pays membres de l’Alliance), notamment les organisations non gouvernementales, le secteur privé, le monde universitaire et la société civile.

Définir des normes appelées à encadrer le développement technologique dans les limites de notre système de valeurs est un défi majeur du XXIe siècle. Nos valeurs – et elles seules – doivent être le moteur des politiques que nous élaborons et des capacités que nous mettons en service. Les technologies ne cessant jamais d'évoluer, il nous faudra toujours adapter nos politiques en fixant des normes qui nous permettent de respecter les valeurs qui nous sont chères.

Cet article est le neuvième d’une mini-série sur l’innovation, qui présente les technologies que les Alliés cherchent à adopter et les opportunités que celles-ci représentent pour la défense et la sécurité de l’Alliance. Articles précédents :