Un document de la RAND Corporation, publié dans la série « expert insights » sur les risques mondiaux et émergents, analyse les risques liés à la convergence de trois dynamiques : le vieillissement des infrastructures logicielles, l’accélération des capacités d’intelligence artificielle (IA) et la dépendance croissante de l’ensemble des secteurs à des systèmes numériques interconnectés. Selon les auteurs, cette combinaison crée un risque aigu pour les infrastructures critiques, mais les mêmes outils d’IA qui permettent de découvrir plus rapidement des vulnérabilités peuvent également être mobilisés à des fins défensives, à condition que les décideurs publics organisent cette mobilisation.
Le document porte spécifiquement sur la découverte de vulnérabilités accélérée par l’IA et sur le renforcement structurel des logiciels d’infrastructures critiques. Il s’appuie sur une revue structurée de la littérature technique et de politique publique, sur l’usage de modèles de langage pour la recherche et la rédaction, ainsi que sur de nombreuses discussions avec plus de deux douzaines d’experts issus du monde académique, de l’industrie et des administrations, dans les domaines de l’apprentissage automatique, de la cybersécurité, du génie logiciel à haut niveau d’assurance et des politiques de sécurité nationale.
Les auteurs recommandent la mise en place de cycles rapides de concertation technique, d’une durée de quatre à six semaines chacun, réunissant des praticiens de différents secteurs. Ces rencontres auraient pour objectif d’examiner l’état des capacités actuelles d’analyse de code assistée par IA, d’exploiter les enseignements de programmes tels que Glasswing et Daybreak, et de produire des orientations opérationnelles à destination des opérateurs d’infrastructures souhaitant initier des démarches d’évaluation logicielle assistée par IA.
Le document souligne que ces travaux visent en priorité les infrastructures numériques critiques, sans se limiter à un pays, mais s’inscrivent dans un contexte de sécurité nationale, avec des implications potentielles pour la continuité des services essentiels, y compris dans les domaines de la santé, des affaires sociales et de l’emploi, fortement dépendants de systèmes d’information sécurisés. Il précise enfin que les analyses présentées ne reflètent pas nécessairement la position des clients ou sponsors de la RAND, et rappelle les conditions d’utilisation non commerciale de cette publication.(contenu résumé en français par l’IA) Lire la Suite