Les possibilités offertes par les technologies relatives à l’intelligence artificielle (IA) ne cessent d’évoluer, à un rythme toujours croissant. On assiste en particulier à une montée en puissance fulgurante de technologies IA émergentes puissantes, telles que l’IA générative, et à une multiplication des outils permettant de les exploiter. Il est ainsi aujourd’hui possible de générer du texte, du code informatique ou encore du contenu visuel et sonore de plus en plus difficile à distinguer des productions humaines les plus complexes, et ce dans un volume quasi illimité. Il est vital que l’OTAN, lorsqu’elle en a l’utilité, fasse usage de ces technologies le plus rapidement possible.
La stratégie de l’OTAN pour l’IA que les Alliés ont adoptée en 2021 présentait une vision stratégique assortie de quatre objectifs et de six résultats escomptés, ainsi que six principes pour une utilisation responsable de l’intelligence artificielle dans le domaine de la défense (PRU) (légalité, responsabilité, intelligibilité et traçabilité, fiabilité, gouvernabilité et atténuation des biais).
L’intelligence artificielle est en train de devenir une technologie universelle, dont les risques, les parties prenantes et les niveaux de complexité diffèrent selon qu’il s’agit d’IA faible, conçue pour effectuer des tâches spécifiques, ou de technologies IA émergentes comme les modèles d’avant-garde ou de fondation, instruments multifonctionnels et capables d’exécuter des tâches complexes.
Un nombre croissant de problèmes connexes méritent en outre d’être examinés par l’OTAN, notamment le risque de pénurie mondiale de données publiques de qualité permettant de former les modèles d’IA, les incidences – notamment en termes de consommation d’énergie – du niveau de puissance de calcul exigé par l’IA, la notion de traçabilité dans la collaboration humain-machine, ou encore la nécessité de résoudre certains problèmes techniques et de gouvernance liés à l’utilisation dans un contexte militaire de solutions à double usage issues du marché civil.
Buts et objectifs
La présente version révisée de la stratégie pour l’IA a pour objectifs ce qui suit :
jeter les bases qui permettront à l’OTAN et aux Alliés de montrer l’exemple et de piloter le développement et l’utilisation responsables de l’IA pour les besoins de la défense et de la sécurité des Alliés ;
accélérer et simplifier l’adoption de l’IA dans les domaines du développement et de la fourniture de capacités, pour une plus grande interopérabilité au sein de l’Alliance, notamment en proposant des cas d’usage ;
protéger et suivre de près les technologies IA de l’Alliance, gérer les risques qui y sont liés et protéger notre capacité d’innover dans ce domaine, en traitant des questions de politique de sécurité telles que l’opérationnalisation des principes OTAN pour une utilisation responsable de l’IA ;
déterminer les menaces liées à l’utilisation de l’IA par des adversaires et prendre les mesures requises pour s’en prémunir.
Résultats recherchés
La présente stratégie est l’occasion d’actualiser les résultats recherchés dans la version 2021 en tenant compte des progrès déjà réalisés, et d’en ajouter plusieurs afin que l’OTAN soit nettement mieux préparée à l’IA. Figurent ainsi dans cette liste actualisée les résultats suivants :
un plus large éventail de cas d’usage de l’IA et de besoins spécifiques à l’entreprise OTAN, qui répondent aux principes d’utilisation responsable fixés par l’Organisation, afin d’accélérer leur transposition dans le processus de développement capacitaire de l’Alliance, le tout s’inscrivant dans les objectifs de transformation numérique de l’Organisation. Les cas d’usage tireront parti des résultats obtenus dans le cadre des programmes Défis et innovation de l’Accélérateur d’innovation de défense pour l’Atlantique Nord (DIANA) ;
des dispositions aux effets mesurables pour intégrer l’IA, qui s’appuiera sur des données de qualité, dans des capacités appropriées au travers d’engagements au titre du processus OTAN de planification de défense ;
des effectifs toujours plus compétents en IA au sein de l’Alliance, pouvant compter sur des programmes de perfectionnement ;
un éventail croissant de normes, de modèles d’évaluation et de processus de revue ainsi que d’autres outils et bonnes pratiques permettant d’opérationnaliser l’adoption responsable de l’IA à l’échelle de l’Alliance ;
une meilleure compréhension de l’IA par l’Alliance et de ses répercussions sur celle‑ci, grâce aux résultats du suivi à 360 degrés de l’évolution des tendances dans le domaine de l’IA et des technologies de la donnée. Les connaissances ainsi acquises porteront notamment sur les possibilités et les risques de l’IA, y compris ceux liés à son utilisation par des adversaires potentiels et des compétiteurs stratégiques ;
plusieurs éléments clés pour un environnement TEVV (essai, évaluation, vérification et validation) permettant de concourir à l’adoption d’une IA responsable à l’échelle de l’Alliance. Ces éléments utiliseront le réseau des centres d’essai affiliés au DIANA ;
un renforcement de l’interopérabilité entre tous les systèmes IA au niveau de l’Alliance ;
une contribution accrue au façonnement des normes et règles pour l’utilisation responsable de l’IA dans le domaine de la défense et de la sécurité. Cette contribution se fera au travers d’échanges entre l’Alliance et les partenaires de l’OTAN, les organisations internationales, les acteurs privés et les universités des pays de l’Alliance, comme il conviendra ;
des mesures visant à prendre en compte la convergence entre l’IA et les autres technologies émergentes et technologies de rupture (TE/TR).
Intégration de l’IA responsable à l’OTAN
Afin d’aider les acteurs de la défense, autorités militaires et forces armées des pays de l’Alliance à élaborer des capacités et des réponses faisant usage de l’IA et de la donnée, l’OTAN peut jouer le rôle d’enceinte visant à faciliter l’échange d’informations et le partage de bonnes pratiques entre Alliés, en s’inspirant d’initiatives similaires lancées par d’autres organisations.
L’OTAN doit mieux appréhender le panorama des services de TEVV disponibles (et savoir quel est leur niveau de maturité) et développer sa connaissance des organismes de test qualifiés, des organismes privés et publics compétents en matière de sécurité de l’IA et des fonctions d’homologation et de certification. L’Organisation et les Alliés doivent avoir accès à des installations d’essai, à des environnements contrôlés (bacs à sable) et à des laboratoires spécialisés ; cela permettra à l’OTAN de déterminer les opportunités et les défis associés à l’IA, ainsi que de composer un référentiel de bonnes pratiques pour les TEVV et la certification dans ce domaine.
Il conviendrait également que la résolution historique de l’Assemblée générale des Nations Unies relative à l’intelligence artificielle soit prise en compte dans le processus d’adoption responsable de l’IA.
L’OTAN doit accélérer l’adoption des capacités IA de façon responsable et dans le respect de ses PRU.
L’IA aura inévitablement des conséquences pour les effectifs militaires et civils de l’OTAN, dont il faudra tenir compte. Pour y faire face, il faudra sans doute lancer des programmes de reconversion, s’assurer de disposer d’un haut niveau d’expertise, faire évoluer certains métiers et intégrer davantage les experts dans les opérations militaires.
Les installations d’essai alliées doivent être à même de déterminer si une application IA peut être utilisée en toute sécurité et dans le respect des PRU de l’OTAN. Ces installations peuvent tester et valider le développement et l’utilisation des applications IA dans diverses conditions technologiques, procédurales et opérationnelles.
Facilitateurs liés à la donnée et aux technologies
Pour élaborer des systèmes IA sûrs, fiables et responsables, il faut avant tout disposer, en quantité suffisante, de données adéquates et de qualité (c’est-à-dire fiables et sans biais involontaires), et savoir les gérer. Tous les outils d’analyse et capacités IA ont en effet besoin de telles données pour fonctionner efficacement.
Réduire au minimum les interférences adverses et assurer une protection contre l’utilisation de l’IA par des adversaires
Les technologies émergentes liées à l’IA suscitent d’importantes préoccupations sur le plan de la sécurité, en particulier dans le domaine militaire. L’OTAN doit continuer d’œuvrer en faveur d’une utilisation responsable de l’IA, en mettant à profit son pouvoir fédérateur pour exercer une influence sur les normes et règles internationales.
La désinformation, l’instrumentalisation des discours sur le genre, la violence liée au genre facilitée par la technologie et les opérations d’information facilitées par l’IA peuvent influencer le résultat d’une élection, semer la division et la confusion au sein de l’Alliance, démobiliser et démoraliser la société et les forces armées en cas de conflit, ou encore altérer la confiance dans les institutions et les autorités qui revêtent une importance pour l’Alliance – autant de problèmes qui pourraient avoir de graves répercussions pour l’Alliance.
Si l’on veut que l’OTAN soit prête pour l’IA, il est indispensable de faire de la prospective stratégique, ce qui inclut un vaste éventail d’activités proactives allant de la gouvernance anticipatoire à la planification de scénarios alternatifs, suivant des approches participatives et responsables.
Partenaires, industries des pays de l’Alliance et autres acteurs
Coopérer avec des partenaires technologiques partageant les mêmes valeurs aidera l’Alliance à répondre aux défis communs liés à l’IA et à progresser sur la voie d’une utilisation responsable de l’IA. Cette coopération pourrait porter sur les méthodes d’adoption, le développement d’écosystèmes d’innovation et l’atténuation des risques liés à l’IA.
Des initiatives conjointes de recherche et développement en matière d’IA entre pays membres et pays partenaires de l’OTAN, industries, chercheurs et universités des pays de l’Alliance contribuent à mobiliser expertise et ressources collectives. Au travers du programme pour la science au service de la paix et de la sécurité (SPS), les communautés de chercheurs des pays membres et des pays partenaires de l’Alliance pourront continuer de coopérer, dans la ligne des thèmes prioritaires récemment approuvés. Les projets, ateliers et stages de formation menés au titre du programme SPS vont promouvoir la recherche, l’innovation et l’échange de connaissances, et mettre en évidence des enjeux liés à la sécurité pour lesquels le recours à l’IA peut apporter des solutions de pointe.
La coopération avec le secteur privé, le monde universitaire et les établissements de recherche des Alliés, conformément à ses politiques et procédures agréées, permettra à l’OTAN d’intégrer l’IA dans ses capacités et contribuera à promouvoir les intérêts stratégiques de l’Organisation et des Alliés, à protéger la propriété intellectuelle, à atténuer le risque de voir les technologies des pays de l’Alliance être exploitées par des adversaires potentiels ou des compétiteurs stratégiques et à préserver l’accès des Alliés aux composants essentiels. Cette coopération contribuera par ailleurs à promouvoir un écosystème bénéfique pour les capacités IA de l’OTAN, ce qui accélérera le processus de transformation numérique de l’Organisation.
L’OTAN continuera de développer, en le modelant, un réseau d’acteurs de l’IA issus du secteur privé, du monde universitaire et du secteur non marchand des pays de l’Alliance ; elle prêtera une attention particulière aux entreprises de défense non traditionnelles. Les Alliés, le DIANA et le Fonds OTAN pour l’innovation pourront assurer à l’OTAN des solutions IA innovantes mises au point par le secteur privé et permettant de répondre à ses besoins en matière de défense. Ils pourront par ailleurs encourager les industries des pays de l’Alliance à concevoir, à développer et à construire des systèmes d’IA qui répondent aux besoins de l’Alliance et qui sont conformes aux PRU de l’OTAN.
