Synthèse du débat de fond : les technologies émergentes et les technologies de rupture sous l’angle de la dimension de genre

Technologies émergentes et technologies de rupture reposant sur des valeurs

M. Ehlert a dirigé le débat de fond consacré aux thèmes de l'innovation, de la technologie et des valeurs. Il a indiqué que les domaines technologiques doivent « évoluer parallèlement à la société selon un processus d'adaptation mutuelle, et que nous avons tous des rôles différents à jouer dans la forme que prendra ce développement dont l'issue ne peut être déterminée à l'avance ». À propos des TE/TR, il a noté les différences entre « technologies émergentes » et « technologies de rupture ». Les technologies émergentes sont conditionnées par une découverte scientifique récente ou une nouvelle évolution technologique qui devrait gagner en maturité au cours des 20 prochaines et dont les effets, à terme, sur la défense, la sécurité et/ou les fonctions institutionnelles sont encore incertains. La notion à retenir est donc celle de maturité. Les technologies de rupture en revanche correspondent à une découverte scientifique ou une évolution technologique qui devrait avoir un effet révolutionnaire sur la défense, la sécurité et/ou les fonctions institutionnelles au cours des 20 prochaines années. Dans ce cas, il s'agit davantage d'incidences. L'OTAN devrait adopter un processus évolutif d'élaboration de politiques à partir des connaissances actuelles, mais offrant suffisamment de souplesse pour que les décisions prises aujourd'hui puissent être adaptées ou corrigées demain. Pour de plus amples informations à ce sujet, voir l'article de M. Ehlert, Pourquoi nos choix technologiques devraient être guidés par nos valeurs..

Dimension de genre et intelligence artificielle

Dimension de genre et intelligence artificielle

Mme Zoe Stanley-Lockman s’est intéressée plus spécifiquement à la convergence de la dimension de genre et de l’IA. Elle a noté que les trois vagues de l’IA ont été axées, respectivement sur les connaissances artisanales, l’apprentissage statistique et l’adaptation contextuelle. Le paradoxe de Moravec montre que pour l’IA, le raisonnement de haut niveau nécessite très peu de calculs mais que les compétences de bas niveau exigent davantage de ressources. Mme Stanley-Lockman a ajouté : « Un système IA peut déterminer facilement dans quel parc national se trouve une personne avec une image, mais plus difficilement s’il y a un oiseau ». Les systèmes IA ne reproduisent pas la logique humaine et nous ne pouvons donc pas envisager d’expliquer toutes les décisions prises par un système IA. En ce qui concerne l’intersectionnalité de la dimension de genre, l’un des problèmes actuels concerne les biais dans les choix de conception. Il est possible d’atténuer les biais en se posant les questions suivantes : quel problème essayons-nous de résoudre, quelle valeur est créée par l’IA, quelles données pouvons-nous utiliser, qui utilisera le système IA. Mme Stanley-Lockman a donné quelques exemples de stéréotypes de genre concernant la sous-représentation d’images de femmes dans les résultats de recherches en ligne pour des emplois courants et les problèmes liés à la dimension genrée dans la traduction automatique. Ces stéréotypes peuvent avoir des effets négatifs pour l’OTAN s’il n’en est pas tenu compte. Par exemple, si nous entraînons les systèmes IA aux données non représentatives, nous risquons de développer des performances non prédictibles dans des situations du monde réel.

Quelle voie pour l'OTAN ?

La stratégie OTAN pour l’intelligence artificielle (2021) est centrée sur le développement de systèmes IA responsables dès leur conception. Les pays ont approuvé six principes d’utilisation responsable pour l’IA, à savoir la légalité, la responsabilité, l’intelligibilité et la traçabilité, la fiabilité, la gouvernabilité et l’atténuation des biais. Les choix de conception pour l’IA doivent commencer avant le développement initial afin d’intégrer comme il se doit la dimension de genre. Pour de plus amples informations, veuillez consulter la synthèse de la stratégie OTAN pour l’intelligence artificielle. L’OTAN s’est imposée comme une force motrice pour l’innovation responsable et apparaît donc comme stratégiquement nécessaire. Par ailleurs, le respect de ces principes apporte une valeur opérationnelle. L’atténuation des biais étant l’un des six principes fondamentaux adoptés par l’OTAN, l’Alliance entend intégrer la dimension de genre au développement de capacités reposant sur l’IA ainsi que la robustesse des systèmes IA contre les attaques. Comme les TE/TR et l’IA seront considérées comme des outils pour mesurer et accélérer la prise de décision militaire, l’OTAN devra veiller à ce qu’elles ne mesurent pas des résultats biaisés.