Pourquoi nos choix technologiques devraient être guidés par nos valeurs

En tant qu'individus, nos intérêts pour la technologie sont multiples et divers. Si certains s’intéressent à la technologie proprement dite, la plupart d'entre nous pensent essentiellement aux changements qu’elle pourrait engendrer. Nos intérêts sont souvent divergents, voire parfois franchement antagonistes. Expliquons cela plus simplement :

Dans cette imbrication d'intérêts, on retrouve idées technologiques, intérêts économiques et commerciaux, besoins sociétaux et considérations politiques. La plupart d'entre nous poursuivons généralement plusieurs intérêts en parallèle : très certainement en tant que clients et citoyens, mais aussi en tant qu’individus et membres de communautés qui ont une influence sur notre façon de penser et sur nos choix.

Aucune de ces considérations n’est prédéterminée, pas plus que les choix et les décisions qui en découlent. C’est pourquoi il est impossible d'entrevoir d'emblée les changements auxquels nous risquons d'assister. Nous ne pouvons pas non plus prédire l’évolution d’une technologie. Toutefois, il serait insensé d’en conclure que la technologie suit une trajectoire qui lui est propre, ou que nous n’avons absolument aucune influence sur elle. Bien au contraire, nous influençons tous le développement technologique, mais cette influence est rarement immédiate ou directement visible. W. Brian Arthur, chercheur dans le domaine de l’économie de la complexité a résumé comme suit la relation complexe que nous avons à la technologie : les domaines technologiques évoluent en même temps que avec la société selon un processus d’adaptation mutuelle.

En d’autres termes, les choix que nous opérons aujourd’hui influent sur l’évolution future d’une technologie donnée. Cette évolution va à son tour créer de nouvelles possibilités et de nouveaux défis, auxquels nous allons répondre, et cette réponse va peser sur la suite du développement de la technologie en question selon un processus ouvert.

L’histoire de la machine à vapeur illustre qu’en soi, la technologie n’est ni bonne, ni mauvaise. Mais elle n’est pas neutre non plus. La technologie n'est que ce que nous en faisons. Nos choix sont dès lors déterminants. Aussi faut-il se poser la question : « Comment pouvons-nous faire de la technologie ce que nous voulons qu’elle soit ? »

Si l’on essaie de canaliser l’évolution d’une technologie donnée, on se heurte à un véritable dilemme, tiraillés entre ce que nous savons aujourd’hui du futur et les moyens dont nous disposons pour influencer ou modifier ce futur. David Collingridge a été le premier à énoncer le principal défi qui se présente quand on tente d’encadrer les technologies émergentes, expliquant que lorsque le changement est facile, la nécessité de ce changement n’est pas perçue, et qu'à l'inverse, lorsque la nécessité du changement est évidente, celui-ci est devenu coûteux, difficile et long.

Nous sommes littéralement entre le marteau et l’enclume. De fait, nous ne pouvons pas connaître toutes les applications qu’une nouvelle technologie aura dans l’avenir, pas plus que nous ne pouvons prévoir tous ses effets. Toutefois, à ce stade, nous pouvons exercer un certain contrôle sur son développement. Après, lorsque la technologie est arrivée à maturité, nous en observons tous les effets. Nous pouvons alors déterminer ce que nous voudrions modifier. Hélas, dès lors que la technologie est disponible sur le marché, qu’elle est largement distribuée et utilisée à grande échelle, nos moyens de contrôle sont très limités.

Nous nous heurtons à une caractéristique fondamentale du développement technologique, à savoir à l’incertitude de principe inhérente à un processus ouvert dont l’état final ne peut être connu. Il nous est donc impossible de connaître à l’avance ce sur quoi devront porter demain les mesures à prendre aujourd’hui. Mais alors que faire ? Ne serait-il pas raisonnable d’accepter les limites de notre connaissance et de laisser faire les choses ?

L’exemple des médias sociaux montre que les choix immédiats des utilisateurs peuvent aller à l'encontre de leurs intérêts à long terme. Par ailleurs, un marché livré à lui-même peut échapper à tout contrôle. Ces deux constats se vérifient tout particulièrement dans le cas de nouvelles technologies prometteuses, à un stade précoce de leur développement. Il faut encore trouver les produits que ces technologies naissantes pourraient engendrer, et identifier les marchés qu’elles pourraient desservir. À quoi il faut ajouter que l'ensemble des parties intéressées doivent encore découvrir en quoi elles pourraient être impactées par ces technologies.

Mais une chose est certaine : à mesure que les technologies de ce type se développeront, ce sont les acteurs de l’innovation, les investisseurs et les utilisateurs qui seront les premiers à entrer en scène, poursuivant leurs intérêts propres. Les concepteurs et les dirigeants d’entreprise leur emboîteront rapidement le pas, dès que la technologie aura prouvé son efficacité et qu’il sera établi que les premiers produits imaginés sont viables. Ce n’est qu’une fois que les effets de la technologie arrivant à maturité seront visibles que les régulateurs, les citoyens et les politiques interviendront à leur tour. Je soutiens que dans le cas des technologies émergentes et de celles sources de ruptures potentielles, l’intervention de ces derniers arrive trop tard.

Tout au long de notre histoire, nous avons utilisé la technologie pour obtenir ou préserver un avantage militaire. Nous faisions simplement ce que nous pouvions : tout ce qui était réalisable technologiquement était considéré comme la bonne chose à faire. Cette approche est-elle cependant suffisante pour nous orienter à l’avenir ? Ma réponse est non. Je suis en revanche partisan d'une approche guidée par des valeurs lorsqu'il s'agit de technologies à vocation défense et sécurité.

Dans le passé, l’être humain n’avait pas les moyens de mettre en danger son existence même, que ce soit intentionnellement ou non.

Ce n’est qu’au début du XXe siècle que nous avons découvert la puissance de l’atome. Pour la première fois, nous avons créé un outil capable d’anéantir l'humanité. Une fois le génie sorti de sa lampe, au mitan du siècle, nous avons tout mis en œuvre pour reprendre le contrôle en introduisant le concept de maîtrise des armements nucléaires dans l’ordre international naissant.

Que cela nous plaise ou non, l’humanité a perdu son innocence de l’ignorance. Nous avons accès à des moyens potentiellement destructeurs, et nous le savons. Dès lors, nous ne pouvons ni contester ni rejeter la responsabilité qui est la nôtre s’agissant des conséquences de nos technologies, qu'elles soient intentionnelles ou non.

Aujourd’hui, nous sommes confrontés à un grand nombre de technologies émergentes – l’intelligence artificielle (IA), les biotechnologies et les technologies quantiques, par exemple – qui promettent de bouleverser nos modes de fonctionnement établis. Ces technologies évoluent en parallèle, au rythme du XXIe siècle, dans un monde hyperconnecté.

Les technologies clés ont pour la plupart des applications dans l’environnement informationnel. En raison de l'interconnectivité et de la vitesse inégalées qu'elles offrent, il est particulièrement difficile de suivre leur évolution, et plus encore de l’anticiper. Malgré tout, les développeurs se concentrent sur les applications civiles, en ayant à l’esprit les marchés de consommation mondiaux, et les grandes entreprises technologiques qui encouragent ces développements sont désormais les acteurs non étatiques les plus influents à l’échelle de la planète.

Ces différents facteurs viennent accroître la complexité de l’espace-problème, tout en accélérant le rythme de l’évolution technologique. Ou plus simplement : les enjeux ne cessent de croître, tandis que le temps de réaction dont nous disposons ne fait que raccourcir.

Nos valeurs occidentales, notamment l’état de droit, la démocratie, la liberté individuelle et les droits de la personne, offrent un cadre solide face à ces enjeux. Nous devons cependant reconnaître que leur universalité est contestée, tantôt discrètement, tantôt ouvertement. Comme l’a fait observer l’économiste politique Jeffrey Sachs, le pouvoir géopolitique et les prouesses technologiques ne sont plus l’apanage de l’Atlantique Nord.

Ce serait manquer de lucidité que de penser que les pays occidentaux pourraient exiger, à l'échelle mondiale, que les technologies émergentes respectent les valeurs occidentales. Mais pourtant, des différences sur le plan des valeurs pourraient bien se traduire par des compétences technologiques distinctes, lesquelles pourraient, à leur tour, bouleverser l'équilibre des puissances dans le monde.

L’intérêt politique de l’OTAN pour les technologies émergentes et les technologies de rupture remonte à 2019, lorsque les dirigeants des pays de l’Alliance ont adopté une feuille de route pour la mise en œuvre de sept d’entre elles. Indépendamment des perspectives extraordinaires qu’elles laissent entrevoir, il faut admettre que ces technologies sont encore loin d'être abouties. Il subsiste dès lors beaucoup d’incertitude sur le fait de savoir si ces technologies naissantes et leurs applications probables tombent effectivement sous le coup des normes juridiques, éthiques et morales existantes. Ces questions ne se limitent pas aux applications militaires et ne s’arrêtent pas aux frontières nationales. Elles percolent au contraire dans nombre de services publics et de secteurs économiques, et touchent l’humanité tout entière.

Dans cet environnement complexe, qui évolue rapidement et où les enjeux sont énormes, nous ne pouvons pas dissocier technologies et valeurs. Nos valeurs devraient guider notre usage de la technologie, mais nous devons admettre que nos choix technologiques refléteront, de façon intentionnelle ou non, les valeurs auxquelles nous adhérons.

Ne rien faire n’étant pas une option, nous devons prendre des mesures énergiques pour définir des normes appelées à encadrer l’utilisation future des technologies qui font aujourd'hui leur apparition et dont le potentiel disruptif est avéré (comme l’IA, la biotechnologie et la technologie quantique). Ces normes devront du reste être profondément ancrées dans nos valeurs. Mais en pratique, comment relever ce défi inédit ? Les trois propositions suivantes peuvent servir de point de départ.

Dans ce cadre d'application aux contours larges, l’OTAN a un rôle spécifique à jouer. En tant qu’organisation internationale dédiée à la défense et à la sécurité de la région de l’Atlantique Nord, l’OTAN concentre une puissance considérable, à la fois politique, militaire, économique et technologique. Forte en particulier de son capital politique et intellectuel, l’Alliance a la crédibilité voulue pour piloter l'élaboration de normes visant à ce que les applications de technologies dans le secteur de la défense soient conformes aux valeurs occidentales.

Avec la stratégie en matière d’intelligence artificielle qu'elle a récemment publiée, l’OTAN montre bien qu'elle remplit sa mission traditionnelle de façon innovante. Cette stratégie comprend des principes d’utilisation responsable, qui énoncent les normes régies par des valeurs que l’OTAN et ses pays membres s’engagent à respecter dans le cadre de la mise en application de l’IA. En rendant ces principes publics, les pays membres de l’OTAN entendent servir d'exemple et inciter les autres pays à réfléchir à la question, voire à les adopter. Il s'agit d'une approche efficace en vue de proposer et de mettre progressivement en œuvre une norme internationale, qui n'est pas sans rappeler le règlement général sur la protection des données de l’Union européenne.

Dans le même temps, l’OTAN s’inscrit dans le paysage mondial de l’innovation. L’initiative OTAN 2030 souligne la nécessité de forger de nouvelles coalitions avec des partenaires de même sensibilité au-delà de la région de l’Atlantique Nord. Cette large ouverture ne doit pas se limiter aux organisations gouvernementales, mais elle doit également inclure les partenaires avec lesquels des possibilités de collaboration existent (même au sein des pays membres de l’Alliance), notamment les organisations non gouvernementales, le secteur privé, le monde universitaire et la société civile.

Cet article est le neuvième d’une mini-série sur l’innovation, qui présente les technologies que les Alliés cherchent à adopter et les opportunités que celles-ci représentent pour la défense et la sécurité de l’Alliance. Articles précédents :