L\u2019\u00e9tude pr\u00e9sent\u00e9e est une analyse observationnelle transversale portant sur le comportement de cinq grands mod\u00e8les d\u2019IA g\u00e9n\u00e9rative (ChatGPT, Claude, Gemini, Grok et Llama) face \u00e0 des questions li\u00e9es au suicide. Elle compare, pour chacun de ces mod\u00e8les, les r\u00e9ponses fournies via les interfaces grand public (UI) et via l\u2019acc\u00e8s direct par interface de programmation (API), afin d\u2019\u00e9valuer la fr\u00e9quence des r\u00e9ponses directes \u00e0 des sollicitations \u00e0 risque et les diff\u00e9rences de s\u00e9curit\u00e9 selon le mode d\u2019acc\u00e8s.<\/p>\n
Trente invites (prompts) relatives au suicide, class\u00e9es par des cliniciens en cinq niveaux de risque, ont \u00e9t\u00e9 chacune soumises 100 fois par UI et 100 fois par API, soit 30 000 r\u00e9ponses au total. Le crit\u00e8re principal \u00e9tait la pr\u00e9sence d\u2019une r\u00e9ponse \u00ab directe \u00bb, c\u2019est\u2011\u00e0\u2011dire apportant une information ou un guidage sp\u00e9cifique en lien avec la question pos\u00e9e. La cat\u00e9gorisation des r\u00e9ponses a \u00e9t\u00e9 r\u00e9alis\u00e9e par un classifieur fond\u00e9 sur un mod\u00e8le de langage (GPT\u20114o mini), en aveugle, avec une validation par codage humain montrant une concordance \u00e9lev\u00e9e (289\/300, 96,3 % ; \u03ba de Cohen = 0,89). Des mod\u00e8les de r\u00e9gression logistique \u00e0 effets mixtes ont estim\u00e9 la probabilit\u00e9 de r\u00e9ponse directe en fonction du mod\u00e8le d\u2019IA, du mode d\u2019acc\u00e8s (UI vs API) et du niveau de risque de la demande.<\/p>\n
Sur l\u2019ensemble des 30 000 r\u00e9ponses, 69,8 % (20 934) \u00e9taient des r\u00e9ponses directes. Les r\u00e9ponses directes \u00e9taient plus fr\u00e9quentes via les API (11 609, 77,4 %) que via les interfaces grand public (9 325, 62,2 %). Une exception partielle concerne Gemini, qui pr\u00e9sentait un taux de r\u00e9ponses directes l\u00e9g\u00e8rement plus \u00e9lev\u00e9 via UI (2 301, 76,7 %) que via API (2 131, 71,0 %). Les \u00e9carts entre UI et API \u00e9taient particuli\u00e8rement marqu\u00e9s pour les prompts les plus \u00e0 risque : pour les demandes \u00e0 tr\u00e8s haut risque, 24,8 % (743) des r\u00e9ponses API \u00e9taient directes, contre 4,6 % (138) pour les r\u00e9ponses UI ; pour les demandes \u00e0 haut risque, 80,1 % (2 002) des r\u00e9ponses API \u00e9taient directes, contre 48,4 % (1 209) via UI.<\/p>\n
En agr\u00e9g\u00e9, Claude et Gemini affichaient les taux de r\u00e9ponses directes les plus \u00e9lev\u00e9s, tous modes d\u2019acc\u00e8s confondus (4 688, 78,1 % et 4 432, 73,9 % respectivement), tandis que ChatGPT, Grok et Llama pr\u00e9sentaient des taux plus bas (3 878, 64,6 % ; 3 870, 64,5 % ; et 4 066, 67,8 %). Dans les mod\u00e8les de r\u00e9gression, l\u2019acc\u00e8s via UI \u00e9tait associ\u00e9 \u00e0 une probabilit\u00e9 nettement plus faible de r\u00e9ponse directe par rapport \u00e0 l\u2019API (odds ratio 0,09 ; IC 95 % : 0,08\u20130,10). Un niveau de risque plus \u00e9lev\u00e9 de la demande \u00e9tait associ\u00e9 \u00e0 une diminution de la probabilit\u00e9 de r\u00e9ponse directe, avec des diff\u00e9rences d\u2019ampleur variables selon le mod\u00e8le et le mode d\u2019acc\u00e8s.<\/p>\n
Les auteurs soulignent que la \u00ab s\u00e9curit\u00e9 \u00bb observ\u00e9e sur une interface grand public (qui peut int\u00e9grer des r\u00e8gles de mod\u00e9ration, des mod\u00e8les de refus en cas de crise ou des instructions syst\u00e8me sp\u00e9cifiques) ne peut pas \u00eatre suppos\u00e9e identique pour l\u2019acc\u00e8s via API ou pour les applications construites sur ces API. Ils recommandent que les \u00e9valuations et les politiques de protection des usagers int\u00e9grant des interactions avec des chatbots d\u2019IA tiennent compte du mode d\u2019acc\u00e8s au mod\u00e8le, en particulier pour les usages li\u00e9s \u00e0 la sant\u00e9 mentale et aux comportements suicidaires. L\u2019\u00e9tude ne fournit pas d\u2019\u00e9l\u00e9ments sp\u00e9cifiques par pays ni de cadre r\u00e9glementaire particulier, mais met en avant un enjeu de r\u00e9gulation et de contr\u00f4le des conditions d\u2019acc\u00e8s aux mod\u00e8les d\u2019IA, potentiellement pertinent pour les autorit\u00e9s publiques en charge de la sant\u00e9, des affaires sociales et de la pr\u00e9vention du suicide. Elle signale \u00e9galement que les r\u00e9sultats sont d\u00e9pendants des mod\u00e8les \u00e9valu\u00e9s, des prompts utilis\u00e9s et du dispositif m\u00e9thodologique, ce qui limite leur g\u00e9n\u00e9ralisation.(contenu r\u00e9sum\u00e9 en fran\u00e7ais par l’IA)\u00a0Lire la Suite<\/a><\/p>","protected":false},"excerpt":{"rendered":" L\u2019\u00e9tude pr\u00e9sent\u00e9e est une analyse observationnelle transversale portant sur le comportement de cinq grands mod\u00e8les d\u2019IA g\u00e9n\u00e9rative (ChatGPT, Claude, Gemini, Grok et Llama) face \u00e0 des questions li\u00e9es au suicide. […]<\/p>\n","protected":false},"author":1,"featured_media":10675,"comment_status":"closed","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"site-sidebar-layout":"default","site-content-layout":"","ast-site-content-layout":"default","site-content-style":"default","site-sidebar-style":"default","ast-global-header-display":"","ast-banner-title-visibility":"","ast-main-header-display":"","ast-hfb-above-header-display":"","ast-hfb-below-header-display":"","ast-hfb-mobile-header-display":"","site-post-title":"","ast-breadcrumbs-content":"","ast-featured-img":"","footer-sml-layout":"","ast-disable-related-posts":"","theme-transparent-header-meta":"","adv-header-id-meta":"","stick-header-meta":"","header-above-stick-meta":"","header-main-stick-meta":"","header-below-stick-meta":"","astra-migrate-meta-layouts":"default","ast-page-background-enabled":"default","ast-page-background-meta":{"desktop":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"ast-content-background-meta":{"desktop":{"background-color":"var(--ast-global-color-4)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"var(--ast-global-color-4)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"var(--ast-global-color-4)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"footnotes":""},"categories":[26,32,5],"tags":[234,227,226],"class_list":["post-20884","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-donnees-etudes-evaluation-et-prospective","category-numerique-ia-et-transformation-documentaire","category-sante-mentale-et-psychiatrie","tag-rand","tag-ia","tag-sources-etrangeres"],"_links":{"self":[{"href":"https:\/\/veilles-affaires-sociales.fr\/index.php?rest_route=\/wp\/v2\/posts\/20884","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/veilles-affaires-sociales.fr\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/veilles-affaires-sociales.fr\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/veilles-affaires-sociales.fr\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/veilles-affaires-sociales.fr\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=20884"}],"version-history":[{"count":1,"href":"https:\/\/veilles-affaires-sociales.fr\/index.php?rest_route=\/wp\/v2\/posts\/20884\/revisions"}],"predecessor-version":[{"id":21055,"href":"https:\/\/veilles-affaires-sociales.fr\/index.php?rest_route=\/wp\/v2\/posts\/20884\/revisions\/21055"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/veilles-affaires-sociales.fr\/index.php?rest_route=\/wp\/v2\/media\/10675"}],"wp:attachment":[{"href":"https:\/\/veilles-affaires-sociales.fr\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=20884"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/veilles-affaires-sociales.fr\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=20884"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/veilles-affaires-sociales.fr\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=20884"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}