Stratégie OTAN pour l'intelligence artificielle – synthèse
- L’intelligence artificielle (IA) est en train de transformer, au niveau mondial, l’environnement de défense et de sécurité. Si elle représente une occasion sans précédent de consolider notre avance technologique, elle va également donner un coup d’accélérateur à l’évolution des menaces auxquelles nous sommes confrontés. Elle aura aussi probablement, en tant que technologie socle, des répercussions sur l’ensemble des activités entreprises par l’Alliance dans le cadre de ses trois tâches fondamentales que sont la défense collective, la gestion de crise et la sécurité coopérative.
- Afin de préserver l’avance technologique dont dispose l’OTAN, nous nous engageons à collaborer et à coopérer entre Alliés sur toutes les questions liées aux applications de l’IA à la défense et à la sécurité transatlantiques. L’OTAN et les Alliés peuvent accélérer ces travaux en amplifiant les efforts qu’accomplissent plusieurs de leurs organismes pour tirer parti de l’IA.
- L’objectif de la présente stratégie est quadruple :
- jeter les bases qui permettront à l’OTAN et aux Alliés de montrer l’exemple et de piloter le développement et l’utilisation responsables de l’IA pour les besoins de la défense et de la sécurité des Alliés ;
- accélérer et simplifier l’adoption de l’IA dans les domaines du développement et de la fourniture de capacités, afin d’améliorer les travaux visant à renforcer l’interopérabilité en la matière au sein de l’Alliance, notamment en proposant des cas d’utilisation ainsi que de nouvelles structures et de nouveaux programmes ;
- protéger et suivre de près nos technologies IA et notre capacité d’innover dans ce domaine, en traitant les questions de politique de sécurité telles que l’opérationnalisation de nos principes pour une utilisation responsable ;
- déterminer les menaces liées à l’utilisation malveillante de l’IA par des acteurs étatiques et non étatiques et s’en prémunir.
- L’Alliance a pour but d’utiliser l’IA à l’appui de ses trois tâches fondamentales, dans un cadre interopérable. Elle le fera de manière entendue et responsable sur l’ensemble de son spectre applicatif (entreprise, soutien de la mission et opérationnel), et ce dans le respect du droit international. Compte tenu du rôle moteur du secteur civil privé et du monde universitaire dans le domaine du développement de l’IA, cette stratégie sera rendue possible par une coopération substantielle entre l’OTAN, le secteur privé1 et le monde universitaire, par des équipes OTAN maîtrisant les aspects techniques et politiques de l’IA, par une infrastructure de données robuste, adéquate et sécurisée, et par des moyens de cyberdéfense appropriés.
- Les centres d’essais nationaux pour l’IA pourraient aider l’OTAN à concrétiser ses ambitions dans le domaine, dans le cadre du futur accélérateur d’innovation de défense pour l’Atlantique (DIANA). L’OTAN et les Alliés mèneront régulièrement, à haut niveau, des discussions politico-stratégiques avec les entreprises du secteur des technologies, afin de s’informer sur les technologies IA en service et d’influer sur leur développement, et de parvenir à une appréciation commune des opportunités et des risques générés par l’IA.
- L’OTAN restera en outre le forum transatlantique pour l’IA vue sous l’angle de la défense et de la sécurité, et elle exploitera le potentiel de l’IA tout en nous prémunissant contre son utilisation malveillante par des acteurs étatiques et non étatiques.
PRINCIPES POUR UNE UTILISATION RESPONSABLE
- Au cœur de la présente stratégie figurent les principes de l’OTAN pour une utilisation responsable de l’IA dans le domaine de la défense (ci-après dénommés les « Principes »), qui vont aider à mettre l’effort transatlantique en phase avec nos valeurs, nos normes et le droit international. Ces Principes sont basés sur les engagements d’ordre éthique, juridique et politique, largement acceptés, dans le cadre desquels l’OTAN a toujours fonctionné et continuera de fonctionner. Ils ne modifient ni ne remplacent aucune autre obligation ni aucun autre engagement national ou international en vigueur.
- Les Principes (énoncés ci-après) ont été établis sur la base des approches des Alliés et des travaux réalisés dans les enceintes internationales compétentes. Valables pour tous les types d’applications de l’IA, ils visent à la mise en cohérence de l’ensemble des travaux de l’OTAN et des Alliés, laquelle rendra possible l’interopérabilité. Ils serviront de base lorsqu’il s’agira d’examiner et d’adopter des bonnes pratiques plus détaillées en matière d’IA, et ils devraient être considérés comme une référence lors de l’utilisation de l’IA par les Alliés dans le contexte de la défense et de la sécurité, sans toutefois oublier que certains Alliés disposent déjà, à l’échelon national, de principes pour une utilisation responsable.
Principes de l’OTAN pour une utilisation responsable de l’IA dans le domaine de la défense
- Les Alliés et l’OTAN s’engagent à faire en sorte que les applications de l’IA qu’ils développent et qu’ils envisagent de déployer respectent – aux divers stades de leur cycle de vie – les six principes ci-après.
- Légalité : les applications de l’IA seront développées et utilisées conformément au droit national et international, y compris le droit international humanitaire et le droit international des droits de la personne.
- Responsabilité : les applications de l’IA seront développées et utilisées avec le discernement et la prudence nécessaires ; les responsabilités humaines seront clairement définies afin qu’elles puissent être assumées.
- Intelligibilité et traçabilité : les applications de l’IA seront suffisamment compréhensibles et transparentes, notamment grâce à l’utilisation de méthodes, de sources et de procédures de revue comprenant entre autres des mécanismes de vérification, d’évaluation et de validation au niveau OTAN et/ou national.
- Fiabilité : les applications de l’IA seront associées à des cas d’utilisation explicites et bien définis. La sécurité, la sûreté et la robustesse de ces applications seront testées et vérifiées dans le cadre de ces cas d’utilisation, tout au long de leur cycle de vie et y compris au travers de procédures de certification OTAN et/ou nationales reconnues.
- Gouvernabilité : les applications de l’IA seront conçues pour remplir des fonctions spécifiques, et utilisées dans le cadre de ces fonctions. Elles autoriseront une interaction homme-machine appropriée, et il sera possible de détecter et d’éviter toute conséquence imprévue de leur utilisation, ainsi que d’annuler une action ou de désactiver un système si celui-ci affiche un comportement imprévu.
- Atténuation des biais : des mesures proactives seront prises pour réduire au minimum les biais non intentionnels pouvant apparaître tant lors du développement et de l’utilisation d’applications de l’IA que dans les ensembles de données.
Veiller à ce que les Alliés utilisent l’IA de manière sûre et responsable
- Au titre de cet axe d’effort, l’OTAN opérationnalisera ses Principes. Les Principes étant valables sur l’ensemble du cycle de vie des capacités IA, les Alliés et l’OTAN les opérationnaliseront sur tout le spectre du développement capacitaire.
- Pour éclairer plus avant ces travaux, le ou les centres d’essais de l’OTAN pour l’IA établiront un ensemble de bonnes pratiques au profit des Alliés, notamment pour le soutien aux activités visant à une interopérabilité globale et à la sécurité de l’information.
- L’OTAN et les Alliés œuvreront résolument à l’atténuation des biais – qui constitue l’un des fondements d’une utilisation sûre et responsable de l’IA –, l’objectif étant de réduire au minimum les biais relatifs aux caractéristiques individuelles telles que le genre, le groupe ethnique ou les signes particuliers.
- L’OTAN procédera aux études de risque et/ou d’impact appropriées avant de déployer des capacités IA.
Réduire au minimum les interférences sur les capacités IA des Alliés
- Certains acteurs étatiques et non étatiques chercheront vraisemblablement à exploiter les failles ou les limites de nos technologies IA. En application du Principe de fiabilité, les Alliés et l’OTAN doivent donc s’employer à protéger leur utilisation de l’IA de toute interférence adverse, manipulation ou sabotage, en mettant notamment à profit leurs applications de cyberdéfense faisant appel à l’IA.
- Les Alliés et l’OTAN devraient établir des prescriptions en matière de certification de sécurité pour l’IA, telles que des cadres spécifiques pour l’analyse des menaces et des audits de sécurité adaptés, le but étant de pouvoir mettre à l’épreuve les applications de l’IA.
- L’IA peut avoir des incidences sur les infrastructures et capacités critiques ainsi que sur la préparation du secteur civil, y compris pour ce qui est des aspects couverts par les sept exigences de base de l’OTAN en matière de résilience, ce qui risque de créer, notamment dans le cyberespace, des vulnérabilités que certains acteurs étatiques et non étatiques pourraient exploiter.
- Ces acteurs étatiques et non étatiques pourraient par ailleurs, en exploitant les opportunités de désinformer les sociétés des pays de l’Alliance, pousser le public à se méfier de l’utilisation de l’IA à des fins militaires. Les Alliés, avec le concours de l’OTAN si nécessaire, s’emploieront à empêcher et à combattre ces tentatives, dans le respect des Principes et, lorsqu’il y aura lieu, par des moyens de communication stratégique.
Normes
- En outre, l’OTAN travaillera avec les organismes internationaux de normalisation compétents en matière d’IA afin d’aider à mettre en cohérence les normes militaires et civiles traitant de l’IA.
- Pour les besoins de la présente stratégie, le terme « secteur privé » désigne les grandes entreprises technologiques, les start-up, les entrepreneurs et les PME ainsi que les sociétés de capital-risque (fonds de capital-risque, fonds de placement privés, etc.).