À leur réunion d’octobre 2021, les ministres de la Défense des pays de l’Alliance ont officiellement adopté une stratégie OTAN pour l’intelligence artificielle. Dans cet article, deux spécialistes - un membre actuel et un ancien membre du personnel de l’Organisation - présentent les principales caractéristiques et les grands objectifs de cette stratégie, qu’ils ont directement contribué à développer et à mettre en œuvre.

Introduction

Inutile d’aller chercher bien loin pour constater combien l’intelligence artificielle (IA) – la capacité d’une machine à effectuer des tâches qui nécessiteraient normalement une intelligence humaine – transforme l’environnement de sécurité international dans lequel l’OTAN opère. De portée transversale, l’IA va entraîner toute une série de défis de sécurité à l'échelle internationale, tant en ce qui concerne les capacités militaires traditionnelles que dans le domaine des pratiques hybrides. Toutefois, son utilisation va aussi ouvrir la voie à de nouveaux moyens de faire face à ces défis. L'intelligence artificielle aura un impact sur les trois tâches fondamentales de l’OTAN que sont la défense collective, la gestion de crise et la sécurité coopérative.

L’IA aura un impact sur les trois tâches fondamentales qui figurent dans le concept stratégique de l'OTAN de 2010 : défense collective, gestion de crise et sécurité coopérative.
© ITCILO

Avec de nouvelles opportunités, de nouveaux risques et de nouvelles menaces qui mettent en jeu notre prospérité et notre sécurité, cette technologie fondamentale offre des perspectives et fait naître des dangers qui sont trop vastes pour qu’un acteur, quel qu’il soit, puisse les maîtriser à lui seul. La coopération est donc essentielle pour atténuer les risques en matière de sécurité internationale mais aussi pour tirer parti du potentiel que cette technologie aura de transformer les fonctions de l’entreprise, le soutien de la mission et les opérations.

L’aptitude de l’Alliance à continuer d’assurer la dissuasion et la défense face à tout adversaire potentiel et à répondre efficacement aux crises émergentes dépendra de sa capacité de conserver son avance technologique. Sur le plan militaire, pour pérenniser l’avantage comparatif des forces des pays de l’Alliance, il faudra disposer d'une base politique et d'une ossature numérique communes, si l’on entend garantir l’interopérabilité et le respect du droit international. De plus, comme la combinaison des éléments humains, informationnels et physiques offre de plus en plus souvent un avantage décisif dans l’espace de bataille, l’interopérabilité est plus essentielle que jamais. En outre, à mesure que les compétiteurs et les adversaires potentiels investissent dans l’IA à des fins militaires, la nécessité de veiller à ce que l’Alliance élabore des réponses communes pour préserver la sécurité collective n'en est que plus urgente.

En adoptant officiellement une stratégie pour l’IA, les Alliés se sont engagés à coopérer et à collaborer autant que nécessaire pour pouvoir relever spécifiquement ces défis dans les domaines de la défense et de la sécurité, voyant dans l’OTAN le principal forum transatlantique à cet effet. L’objectif de cette stratégie est d’accélérer l’adoption de l’IA en misant sur des éléments facilitateurs essentiels et en adaptant les politiques, notamment en arrêtant des principes pour une utilisation responsable de l’IA et en se prémunissant contre les menaces d’une utilisation malveillante de cette technologie par des acteurs étatiques ou non étatiques.

Une démarche collective dans le cadre de l’OTAN permet également aux gouvernements des pays de l’Alliance de s’assurer que la priorité soit toujours donnée à l’interopérabilité et à l’élaboration de normes communes. De manière générale, étant donné que les écosystèmes d'innovation font intervenir divers acteurs et impliquent des cycles d'évolution technologique plus rapides que dans les systèmes de développement capacitaire traditionnels, la stratégie de l'OTAN marque aussi une prise de conscience, par les Alliés, que le recours à l’IA exigera de nouvelles initiatives visant à stimuler et à exploiter le potentiel d’innovation de l’Alliance, notamment au travers de nouveaux partenariats et mécanismes. Toutes ces initiatives viendront à leur tour renforcer la capacité de l’Alliance de mener ses activités de sécurité coopérative et d’interagir avec des partenaires internationaux et d’autres organisations internationales sur des questions de sécurité internationale.

Principes d'utilisation responsable

L’adoption de l’IA dans le contexte de la défense et de la sécurité exige par ailleurs une gouvernance efficace et responsable, conforme aux valeurs communes et aux engagements internationaux des Alliés. À cette fin, les gouvernements des pays de l’Alliance se sont engagés à respecter des principes d'utilisation responsable, qui sont au cœur de la stratégie OTAN pour l’IA.

Les Alliés et l’OTAN s’engagent à faire en sorte que les applications de l’IA qu’ils développent et qu’ils envisagent de déployer respectent les six principes ci-après.

  • Légalité : les applications de l’IA sont développées et utilisées dans le respect des législations nationales et du droit international, y compris le droit international humanitaire et le droit international des droits de la personne, selon les cas.

  • Responsabilité : les applications de l’IA sont développées et utilisées avec le discernement et la prudence nécessaires ; les responsabilités humaines sont clairement définies afin que l’obligation de rendre compte puisse être respectée.

  • Intelligibilité et traçabilité : les applications de l’IA sont suffisamment compréhensibles et transparentes, notamment grâce à l’utilisation de méthodes, de sources et de procédures de revue comprenant, entre autres, des mécanismes de vérification, d’évaluation et de validation au niveau national et/ou de l'OTAN.

  • Fiabilité : les applications de l’IA sont destinées à une utilisation explicitement et clairement définie. Leur sécurité, leur sûreté et leur robustesse sont testées et vérifiées pour ces utilisations tout au long de leur cycle de vie, y compris au travers de procédures de certification reconnues au niveau national et/ou de l'OTAN.

  • Gouvernabilité : les applications de l’IA sont développées et utilisées pour remplir des fonctions spécifiques, et permettent d'assurer une interaction homme-machine appropriée, de détecter et d’éviter toute conséquence imprévue, et d’annuler l'action ou de désactiver le système lorsque celui-ci affiche un comportement aberrant.

  • Atténuation des biais : des mesures proactives sont prises pour réduire au minimum les biais involontaires au cours du développement et pendant l’utilisation d’applications de l’IA, ainsi que dans les ensembles de données.

À présent que ces principes, qui se renforcent mutuellement, ont été adoptés, ils doivent être traduits en mesures concrètes. Le rôle de l’OTAN dans leur opérationnalisation consistera à prendre des initiatives qui porteront de manière similaire sur différentes composantes du cycle de vie de l’IA. L’intégration des principes d'utilisation responsable dès les premiers stades du développement de l’IA est importante, car plus ils sont pris en compte tard, plus il peut être difficile de garantir leur respect. Si l’on entend garantir une approche tenant compte de l’ensemble du cycle de vie, l’implication de toutes les parties prenantes sera également nécessaire, dans la mesure où les responsabilités sont partagées entre les décideurs, concepteurs, développeurs, testeurs et utilisateurs finaux qui contribuent au développement et à l’exploitation de l’IA. Ce point est particulièrement important pour l’OTAN étant donné que diverses entités jouent un rôle actif dans l’intégration de l’IA, et que l’Alliance peut favoriser la cohérence entre les différents programmes nationaux de développement de l'IA.

Les Alliés et l’OTAN s’engagent à faire en sorte que les applications de l’IA qu’ils développent et qu’ils envisagent de déployer respectent les six principes décrits ci-dessus. Photo : les ministres de la Défense des pays de l’Alliance réunis au siège de l'OTAN les 21 et 22 octobre 2021. © OTAN

Pour l’OTAN, l’engagement commun en faveur de ces principes présente également des avantages bien réels car il offre une base commune cohérente pour que l’Organisation et les Alliés conçoivent et développent des applications de l'IA tout en contribuant à la réalisation des objectifs d’interopérabilité. L’OTAN est ainsi en mesure d’encourager l'établissement des liens nécessaires entre sûreté, sécurité, utilisation responsable et interopérabilité. Telle est la finalité de l'ensemble des principes adoptés. Par exemple, il importe de veiller à ce que les systèmes IA soient suffisamment robustes et fiables pour l’usage auquel ils sont destinés, non seulement pour permettre un fonctionnement conforme aux obligations légales, mais aussi pour atténuer les risques que leurs défauts ou leurs limitations soient exploités par des acteurs malveillants.

Passer des principes à la pratique

Les principes immuables qui ont été adoptés doivent également servir de base pour l'élaboration et l’adoption de bonnes pratiques et de normes plus précises. Les Alliés et l’OTAN peuvent tirer parti des mécanismes de consultation de l’Organisation ainsi que de ses installations et de ses personnels spécialisés pour avancer activement sur cette voie. Les travaux de normalisation et de certification que mène l’OTAN peuvent aussi être stimulés par une mise en cohérence avec ceux d’organismes internationaux de normalisation compétents, notamment en matière de normes civiles pour l’IA.

Outre les bonnes pratiques et les normes, d’autres moyens peuvent permettre d’opérationnaliser les principes, par exemple les méthodes de revue, les évaluations des risques et des conséquences, ou les prescriptions en matière de certification de sécurité, comme les cadres pour l’analyse des menaces ou encore les audits. De plus, les activités de coopération de l’OTAN sont autant d'occasions de tester, d’évaluer, de valider et de vérifier (TEVV) les capacités faisant appel à l’IA dans toute une série de contextes différents. Plus spécifiquement, l’expérience acquise par l’OTAN, non seulement durant les opérations, mais aussi au cours d'essais, d'exercices et d'expérimentations, offre aux Alliés et à l’Organisation nombre de possibilités de confronter les principes à des cas concrets d’utilisation. Les communautés scientifique et technique de l'OTAN, qui ont travaillé sur des thématiques telles que la confiance, les interactions homme-machine et machine-machine, ou l’intégration des systèmes humains, jouent également un rôle important à cet égard.

Par ailleurs, la mise en œuvre de la stratégie pour l’IA bénéficiera aussi de liens avec le futur accélérateur OTAN d’innovation de défense pour l’Atlantique Nord (DIANA). Les centres d’essais des pays de l’Alliance rattachés au DIANA pourraient être utilisés pour répondre aux objectifs énoncés dans les définitions des principes. À l’avenir, ces centres d’essais pourront aider à garantir que la robustesse et la résilience d’un système IA adopté ou intégré ont été testées. Par exemple, pour vérifier qu’un système IA répond aux principes de traçabilité, de fiabilité et d’atténuation des biais, les centres pourraient rendre compte des performances du système dans différents environnements simulés et avec différentes données de test. Ils pourraient aussi offrir des services indépendants de validation et de vérification pour évaluer la conformité du système aux normes relatives aux pratiques d’ingénierie responsables.

En adoptant les principes d'utilisation responsable, l’OTAN et les Alliés envoient expressément un message public à leurs citoyens, à leurs forces armées et aux autres États, réaffirmant les valeurs et les engagements pérennes de l’Alliance dans le cadre du droit international. Plus qu’une simple obligation, cet engagement démocratique est une condition préalable à l’établissement de politiques communes entre les Alliés – et à l’instauration de partenariats avec des acteurs non traditionnels de l’innovation dans l’ensemble de l’Alliance.

Accélérer l’adoption de systèmes IA interopérables et respectant les principes

Compte tenu de la dimension éthique des principes d'utilisation responsable de l'IA, l’OTAN a la possibilité de mettre la responsabilité au cœur de ses activités d'ouverture, en paroles et en actes. Elle devra notamment interagir avec des start-up, des petites et moyennes entreprises innovantes et des chercheurs universitaires qui n’ont pas envisagé de travailler sur des solutions de défense et de sécurité, ou qui trouvent tout simplement que les processus d’adoption de l'IA sont trop lents ou trop restrictifs pour leur modèle d’entreprise. Contrairement au cycle de développement de systèmes militaires traditionnels, l’intégration de l’IA implique des cycles d’actualisation rapides et des mises à niveau constantes. Un changement de mentalité est donc nécessaire pour basculer vers un mode de développement itératif et adaptable, bien différent des cycles de développement séquentiels avec lesquels il faut plusieurs années pour mettre à disposition un nombre réduit de systèmes hautement sophistiqués. Passer à une approche plus souple est d’autant plus urgent que des acteurs hostiles, étatiques ou non étatiques, accroissent leurs investissements dans les technologies émergentes et les technologies de rupture, dont l’IA. Dans ce contexte, la stratégie pour l’IA, largement axée sur les activités TEVV et la collaboration, offre un cadre pour les facilitateurs technologiques qui permettront à l’OTAN de surpasser ses compétiteurs et ses adversaires. En mettant davantage l’accent sur l’agilité et l’adaptation, l’OTAN peut faire de la défense et de la sécurité un secteur plus attractif avec lequel les acteurs civils de l’innovation souhaiteront établir des partenariats, tout en permettant à ces derniers de conserver d’autres débouchés commerciaux. Les initiatives prises pour stimuler l’écosystème d’innovation transatlantique pourront ainsi également servir de rempart face aux investissements étrangers et aux transferts de technologie peu souhaitables.

L’expérience acquise par l’OTAN, non seulement durant les opérations, mais aussi au cours d'essais, d'exercices et d'expérimentations, offre aux Alliés et à l’OTAN nombre de possibilités de confronter les principes à des cas concrets d’utilisation. Les communautés scientifique et technique de l'OTAN, qui ont travaillé sur des thématiques telles que la confiance, les interactions homme-machine et machine-machine, ou l’intégration des systèmes humains, jouent également un rôle important à cet égard. Photo : Des soldats des forces terrestres américaines patrouillent, accompagnés de robots portant leur équipement et de drones d’observation. Source : Armée de terre des États-Unis

Un tel chantier requiert une coordination dans l’ensemble de l’entreprise OTAN, dont plusieurs parties prenantes sont d’ailleurs déjà impliquées dans le développement de cas d’utilisation, de concepts et de programmes liés à l’IA. La stratégie que l'OTAN vient d'adopter permet à ces travaux de gagner en cohérence, et, partant, de garantir l’existence des liens nécessaires entre toutes les parties prenantes du secteur de l’innovation, y compris les utilisateurs finaux.

Perspectives

Il ne fait aucun doute que l’adoption plus rapide de systèmes IA interopérables et respectant les principes dépend non seulement de la technologie, mais aussi des personnes compétentes et talentueuses qui poussent au développement et à l’intégration de technologies dernier cri. L’OTAN s’est également intéressée à d’autres intrants de l’IA, notamment au travers de l’élaboration d’une politique-cadre en matière d’exploitation des données. Avec les mesures qu'elle met en place pour traiter les données comme une ressource stratégique, développer des outils analytiques, et stocker et gérer les données dans les infrastructures appropriées, cette politique-cadre réunit les conditions indispensables au succès de la stratégie pour l’IA.

En plus de définir les interdépendances entre les données et l’IA, il sera essentiel de veiller à la cohérence entre les travaux de l’OTAN sur l’IA et ceux liés à d’autres technologies émergentes et technologies de rupture, comme les systèmes autonomes, la biotechnologie et l’informatique quantique. Alors que les Alliés et l’OTAN cherchent à atteindre les objectifs énoncés dans la stratégie pour l’IA, les liens entre utilisation responsable, accélération de l’adoption, interopérabilité et protection contre les menaces sont essentiels. De fait, ces liens devront aussi être pris en compte dans les futurs travaux de l’OTAN sur d’autres technologies émergentes et technologies de rupture, notamment dans l'élaboration de principes d'utilisation responsable. Plus généralement, il faudra pour cela renforcer la cohérence entre les travaux menés sur ces différentes technologies, étant entendu que l’avance technologique future de l’OTAN – et, partant, les menaces auxquelles l’Alliance sera confrontée – pourrait dépendre de leur convergence.

On constate ainsi que la nouvelle stratégie de l'OTAN ne s’applique pas uniquement à cette technologie fondamentale qu'est l'IA. Elle ouvre également la voie aux ambitions des Alliés et de l’OTAN à l'égard d’autres technologies émergentes et technologies de rupture. Pour chacune d’entre elles, l’avantage stratégique futur qui découlera des programmes d’innovation de l’OTAN dépendra des liens entre leadership éthique, adoption itérative et intégration axée sur la flexibilité, l’interopérabilité et la confiance.

Cet article est le huitième d’une mini-série sur l’innovation, qui présente les technologies que les Alliés cherchent à adopter et les opportunités que celles-ci représentent pour la défense et la sécurité de l’Alliance. Articles précédents :