Le rapport de la RAND Corporation analyse les risques de mésusage biologique associés aux modèles d’intelligence artificielle dont les poids sont ouverts et librement accessibles. Il porte en particulier sur trois dimensions : la possibilité de contourner les mécanismes de refus intégrés dans les modèles (anti-refusal tampering), l’augmentation des capacités techniques de ces modèles, et la diffusion de modèles non censurés déjà disponibles au public.
L’étude examine comment la mise à disposition de modèles d’IA à poids ouverts peut faciliter l’obtention d’informations sensibles ou d’assistance technique dans le domaine des sciences biologiques, y compris lorsque les modèles initiaux avaient été conçus avec des garde-fous. Elle montre que des acteurs tiers peuvent techniquement modifier ces modèles pour neutraliser ou affaiblir leurs mécanismes de refus, ou les combiner avec d’autres ressources (données, outils) afin d’accroître leurs capacités. Le rapport relève également l’existence de modèles « non censurés » déjà publiés et aisément récupérables, sur lesquels les développeurs d’origine n’exercent plus de contrôle.
Les auteurs soulignent que ces évolutions créent un risque accru de mésusage, y compris par des acteurs non étatiques, en abaissant les seuils de compétences et de ressources nécessaires pour accéder à des capacités biologiques potentiellement sensibles. Ils insistent toutefois sur des incertitudes importantes : les niveaux de compétence réellement requis pour un mésusage grave, la probabilité concrète d’un passage à l’acte, ainsi que l’ampleur exacte de la contribution des modèles ouverts par rapport à d’autres sources d’information et de savoir-faire. Le rapport insiste sur la nécessité de prendre en compte ces incertitudes dans toute réponse réglementaire.
L’étude est produite par la RAND Corporation, un organisme de recherche basé à Santa Monica (États‑Unis), et mobilise une équipe pluridisciplinaire de chercheurs. Elle s’inscrit dans un contexte international de réflexion sur la gouvernance des systèmes d’IA avancés et sur la régulation de la publication de modèles ouverts, en particulier pour les usages sensibles en biologie. Les auteurs n’énoncent pas de mesures normatives détaillées mais appellent à une vigilance accrue des pouvoirs publics, des organismes de recherche et des développeurs de modèles vis‑à‑vis de la mise à disposition et de la modification de modèles à poids ouverts.
Pour l’action publique, le rapport met en avant plusieurs enjeux de suivi et de régulation susceptibles d’intéresser les administrations chargées de la santé, du travail et de la sécurité sanitaire : la surveillance de la diffusion de modèles puissants à poids ouverts, l’analyse de leurs effets potentiels sur la sécurité biologique, ainsi que l’évaluation des mécanismes de contrôle et de responsabilisation des différents acteurs (développeurs, hébergeurs, communautés open source). Il souligne enfin que les travaux existants demeurent limités et qu’un suivi continu de l’évolution des capacités de ces modèles, de leur écosystème de distribution et de leurs usages réels est nécessaire.(contenu résumé en français par l’IA) Lire la Suite