Les services de santé publique des États-Unis testeront des outils d’IA générative dans le cadre d’un nouveau programme impliquant la Coalition for Health AI, OpenAI, Anthropic et Accenture.
Le cas d’utilisation de la santé publique et le moteur de mise à l’échelle de l’apprentissage, connu sous le nom de PULSE, prendront en charge des essais dans 10 juridictions étatiques, locales, tribales ou territoriales. Le programme vise à produire des conseils de mise en œuvre pour les agences de santé publique envisageant des déploiements similaires.
OpenAI et Anthropic ont fait don de 10 licences d’entreprise pouvant accueillir jusqu’à 2 000 praticiens de la santé publique. Accenture supervisera l’intégration des participants et aidera à développer des playbooks basés sur les essais.
Le programme donnera aux praticiens de la santé publique l’accès aux produits d’IA d’entreprise d’OpenAI et d’Anthropic. CHAI n’a pas identifié les produits, les versions de modèle ou les configurations qui seront utilisés, ni expliqué comment les deux fournisseurs seront attribués dans les projets pilotes.
« Chaque transformation technologique majeure réussit ou échoue sur la base de la confiance, de la gouvernance et de l’exécution », a déclaré le Dr David Lakey, ancien commissaire à la santé du Texas. « PULSE soutiendra les agences dans cet effort et est spécifiquement conçu pour une mise en œuvre pratique. »
Cinq cas d’usage en santé publique
Le conseil de direction de la Coalition for Health AI sélectionnera les juridictions participantes et affectera des praticiens aux communautés axées sur cinq cas d’utilisation. Ceux-ci incluent la biosurveillance et la prévision des vagues de médicaments, les déterminants sociaux de la santé et la cartographie SDoH, les opérations, l’efficacité et l’analyse des commentaires de la communauté, les communications publiques et un centre de traduction multilingue, ainsi que la récupération automatisée de données cliniques et un moteur de requête FHIR.
Le cadre de gestion des risques liés à l’IA du NIST recommande d’évaluer les systèmes d’IA en fonction de leur utilisation prévue, de leur environnement d’exploitation, des parties concernées et des conséquences potentielles. CHAI n’a pas publié d’exigences distinctes en matière d’évaluation, de confidentialité, de sécurité ou d’examen humain pour les cinq cas d’utilisation de PULSE.
FHIR est une norme HL7 utilisée pour échanger électroniquement des informations sur les soins de santé entre des systèmes compatibles.
PULSE comprend une récupération automatisée de données cliniques et un moteur de requête FHIR, bien que l’annonce ne définisse pas le rôle de l’IA générative dans ce flux de travail. Il n’indique pas si les modèles généreront des requêtes, récupéreront des enregistrements, résumeront les informations renvoyées ou combineront ces fonctions.
L’annonce n’explique pas non plus si les requêtes incorrectes, les récupérations incomplètes ou les résumés non pris en charge seront vérifiés par le personnel avant que les informations ne soient utilisées.
Certaines applications proposées pourraient concerner des informations démographiques, géographiques, cliniques ou sur la santé de la population. CHAI n’a pas précisé si les pilotes utiliseraient des enregistrements identifiables, des informations anonymisées, des données synthétiques ou des ensembles de données agrégées.
Le ministère américain de la Santé et des Services sociaux exige que les organisations couvertes par la HIPAA protègent certaines informations électroniques sur la santé. Ses directives sur le cloud computing stipulent que les organisations réglementées et les fournisseurs de services doivent répondre aux exigences HIPAA lorsque les systèmes cloud créent, reçoivent, conservent ou transmettent des informations électroniques protégées sur la santé.
HIPAA ne s’appliquera pas à toutes les organisations ou flux de travail participants. Son application dépendra de l’agence, des données concernées et de la fonction exercée.
OpenAI déclare que les entrées et sorties de ses services commerciaux, y compris ChatGPT Enterprise et son API, ne sont pas utilisées par défaut pour former ou améliorer ses modèles. Anthropic indique également qu’elle n’utilise pas par défaut les entrées et sorties de ses produits commerciaux pour la formation de modèles.
Ces politiques de fournisseur ne définissent pas la manière dont les déploiements PULSE seront configurés. L’annonce ne précise pas les périodes de conservation, les contrôles d’accès, les modalités d’audit, les exigences en matière de stockage des données ou les règles régissant la soumission d’informations de santé protégées.
« Nous pensons que l’IA doit être utile, sûre et accessible à ceux qui s’attaquent aux défis de société les plus importants », a déclaré Felipe Millon, responsable du marketing d’OpenAI. Il a ajouté que les licences visaient à aider les organismes de santé publique à évaluer les outils grâce à un processus structuré.
La gouvernance et l’évaluation restent indéfinies
Les projets pilotes devraient commencer à l’automne 2026. CHAI s’attend à ce que les manuels qui en résultent soient publiés en 2027 et utilisés comme matériel de référence par d’autres agences de santé publique.
CHAI n’a pas publié les mesures qui seront utilisées pour évaluer les pilotes ni expliqué si chaque cas d’utilisation sera évalué selon des critères techniques, opérationnels, de confidentialité et de sécurité distincts.
L’annonce n’explique pas non plus comment les résultats du modèle seront examinés. Il n’indique pas si le personnel doit approuver les communications publiques générées, vérifier les traductions, valider les informations cliniques récupérées ou examiner les résultats de la biosurveillance et des vagues de médicaments avant de les utiliser.
Les directives du NIST recommandent d’identifier les fonctions d’IA qui nécessitent une surveillance humaine et de former les utilisateurs à comprendre les performances et les limites du système. Ses conseils en matière d’IA générative couvrent également les tests, la validation, la surveillance, la documentation, la confidentialité et la surveillance de la gestion.
« On demande aux équipes de santé publique de faire plus avec moins, et l’IA peut aider, à condition qu’elle soit appliquée avec soin et avec les garde-fous appropriés », a déclaré Elizabeth Kelly, responsable des déploiements bénéfiques d’Anthropic. Elle a déclaré que PULSE permettrait aux praticiens de tester les outils dans leur propre environnement en intégrant dès le départ des mesures de confidentialité, de gouvernance et d’utilisation responsable.
Les données de l’Association nationale des responsables de la santé des comtés et des villes citées par CHAI ont montré que près de 40 % des services de santé locaux n’utilisaient pas l’IA. La coalition a déclaré que certains départements souhaitaient réviser les flux de travail et améliorer l’efficacité opérationnelle.
PULSE fournira des licences d’entreprise, l’intégration, des communautés de pairs et des manuels de mise en œuvre. CHAI n’a pas spécifié les exigences minimales en matière de personnel, d’infrastructure, d’interopérabilité ou de cybersécurité pour les juridictions participantes.
Les participants éligibles comprennent les services de santé des États et des territoires, les agences de comté et municipales, les autorités tribales, les organisations de santé indiennes et les services de santé des grandes villes.
PULSE prévoit de convertir les résultats de 10 juridictions en conseils destinés à une utilisation plus large. L’annonce n’explique pas comment les playbooks tiendront compte des différences dans la taille des agences, les systèmes techniques, les responsabilités juridiques, le personnel ou les modalités de passation des marchés.
L’annonce n’explique pas non plus si les résultats de la biosurveillance, de la prévision des vagues de médicaments ou de la récupération de données cliniques seront utilisés uniquement à des fins de tests, présentés au personnel pour examen ou intégrés dans les flux de travail opérationnels.
PULSE fait partie du travail plus large de la Coalition for Health AI sur les normes de gouvernance pour l’IA dans le domaine des soins de santé. En mai, l’organisation a annoncé son intention d’élaborer des lignes directrices couvrant huit domaines de gouvernance par le biais d’ateliers et de groupes de travail impliquant plus de 150 représentants de l’IA dans le domaine de la santé.
La coalition a depuis commencé à publier des manuels sur les politiques organisationnelles en matière d’IA, les structures de gouvernance et les ressources internes. Des orientations supplémentaires devraient couvrir d’autres domaines de la gestion de l’IA dans le domaine des soins de santé.
Par ailleurs, CHAI a travaillé avec la Commission mixte sur des manuels de gouvernance alignés sur sa certification volontaire d’utilisation responsable de l’IA dans les soins de santé. L’annonce de PULSE n’indique pas que les agences de santé publique participantes seront évaluées en vertu de cette certification.
Le Dr Brian Anderson, directeur général de la Coalition for Health AI, a déclaré que les agences de santé publique sont entrées dans la pandémie de COVID-19 après des années d’investissements limités dans la technologie. Il a déclaré que le programme PULSE visait à donner aux agences une expérience pratique de l’IA avant une mise en œuvre plus large.
« Nous savons que l’IA va remodeler la façon dont nous assurons la santé publique – la question est de savoir si nous le faisons de manière réfléchie ou non », a déclaré le Dr Ashish Jha, ancien coordinateur de la réponse au COVID-19 à la Maison Blanche. Il a déclaré que le programme testerait quelles applications fonctionnent et documenterait les résultats pour d’autres agences.
