RAND Europe a mené, avec le soutien du Security and Stabilisation Department du Foreign, Commonwealth & Development Office (FCDO) du Royaume-Uni, une étude exploratoire sur les effets des technologies émergentes sur la gouvernance et la gestion du secteur de la sécurité (SSG/M). L’étude repose sur une revue ciblée de la littérature et des entretiens semi-directifs avec des parties prenantes clés. Elle vise à analyser comment des solutions comme l’intelligence artificielle, le machine learning, la biométrie ou les systèmes de surveillance renforcée sont déployées par les acteurs de la sécurité, et comment ces usages influent sur l’acceptabilité et le consentement du public, la responsabilité institutionnelle, la soutenabilité financière et les enjeux éthiques.
Neuf domaines technologiques sont identifiés comme étant de plus en plus utilisés dans la SSG/M : la réalité augmentée et virtuelle (AR/VR), les systèmes d’aide automatisée à la décision, la biométrie, la blockchain, les plateformes d’identité numérique, les solutions de gestion de données, l’imagerie satellitaire, la surveillance des réseaux sociaux et les véhicules aériens sans pilote (drones). Selon l’étude, ces technologies peuvent améliorer l’efficacité, l’effectivité, la connaissance de la situation et, lorsqu’elles sont conçues de manière transparente, renforcer la traçabilité et la redevabilité des acteurs de la sécurité.
L’étude souligne toutefois des risques transversaux importants : atteintes potentielles à la vie privée et à la protection des données, biais algorithmiques et opacité des modèles, vulnérabilités en matière de cybersécurité et de souveraineté des données, risque d’exclusion de groupes déjà en difficulté numérique, ainsi que dilution des responsabilités lorsque des fournisseurs privés ou des systèmes automatisés influencent fortement les décisions. La dépendance à l’égard de prestataires privés et les enjeux liés à la provenance, à la propriété et au partage transfrontalier des données sont identifiés comme des facteurs de vulnérabilité supplémentaires, notamment pour la soutenabilité financière et la maîtrise publique des systèmes.
L’étude propose six grandes pratiques de gouvernance à intégrer tout au long du cycle de vie des technologies dans la SSG/M : co-concevoir les outils avec les utilisateurs finaux et les communautés concernées pour garantir l’adéquation et la redevabilité ; justifier et adapter l’adoption des technologies au contexte local, aux infrastructures et aux perceptions, en anticipant les risques de détournement ou de mésusage ; évaluer les besoins et arbitrer entre appétence et tolérance au risque en intégrant les coûts sur l’ensemble du cycle de vie, tout en encadrant strictement la gouvernance des données (provenance, propriété, partage international) ; mettre en place une supervision à plusieurs niveaux au-delà du simple « humain dans la boucle » afin de limiter le biais d’automatisation, laisser un temps d’intervention et clarifier les responsabilités ; associer des politiques internes à une régulation et un contrôle externes (procédures d’autorisation transparentes, dispositifs de journalisation et d’audit, information du public) ; enfin, assurer une formation continue des acteurs concernés pour accompagner l’évolution rapide des outils. Ces conclusions, bien qu’ancrées dans le contexte britannique, offrent des éléments de comparaison et de vigilance utiles pour les administrations qui suivent l’essor des technologies numériques dans les secteurs de sécurité et de gouvernance publique.(contenu résumé en français par l’IA) Lire la Suite