L'Utah va devenir le premier État à autoriser l'IA à examiner des patients et à prescrire des médicaments sans supervision humaine directe

L'Utah renforce ses expériences d’intelligence artificielle (IA) autonome dans le domaine de la santé, en approuvant des projets pilotes qui permettront à terme de délivrer et de renouveler des ordonnances sans qu’un clinicien ne les examine. Ce projet pilote permettra de vérifier si l’application est capable de prescrire des traitements initiaux et des renouvellements à partir d’une liste restreinte de médicaments topiques à des adultes de l’Utah souffrant d’acné légère à modérée. Parmi les autres projets pilotes approuvés figurent un système d’IA qui permettra de renouveler les ordonnances pour les personnes souffrant de maladies chroniques, et un autre proposera une rééducation virtuelle du plancher pelvien aux femmes de l’État afin de les aider à soulager l’incontinence urinaire, les douleurs pelviennes et les problèmes du plancher pelvien post-partum.

En janvier 2026, l'Utah a approuvé un programme pilote unique en son genre permettant à un système d'intelligence artificielle (IA) de renouveler certaines prescriptions médicales sans intervention humaine. Dans le cadre d'un accord de démonstration d'une durée de 12 mois, l'Office of Artificial Intelligence Policy de l'État a autorisé la start-up Doctronic, spécialisée dans les technologies de santé, à automatiser le renouvellement des médicaments pour les patients atteints de maladies chroniques, tout en détectant les interactions médicamenteuses potentiellement dangereuses.

Une initiative possible car en 2023, des chercheurs de Google et de DeepMind avaient dévoilé Med-PaLM, un grand modèle de langage capable de répondre à des questions d'ordre médicales non spécialisées. Le modèle a été jugé conformes au consensus scientifique, un groupe de médecins ayant déterminé que 92,6 % des réponses de Med-PaLM étaient conformes aux réponses générées par les cliniciens (92,9 %). Depuis, les modèles d'IA semblent s'améliorer. Les responsables de l'État de l'Utah ont décrit cette initiative comme une expérimentation contrôlée qui pourrait « remodeler l'accès aux soins », tandis que les experts médicaux alertent sur les préoccupations importantes qu'elle soulève en matière de sécurité, de responsabilité et de rôle des médecins.

Malgré la polémique, l’Utah renforce ses expériences d’intelligence artificielle (IA) autonome dans le domaine de la santé, en approuvant des projets pilotes qui permettront à terme de délivrer et de renouveler des ordonnances sans qu’un clinicien ne les examine. Le 2 octobre, le Bureau de la politique en matière d’intelligence artificielle de l’Utah a approuvé une série de nouveaux projets pilotes, dont un avec Nolla Health, développeur d’une application dermatologique qui évalue l’acné à partir de photos fournies par les patients.

Ce projet pilote permettra de vérifier si l’application est capable de prescrire des traitements initiaux et des renouvellements à partir d’une liste restreinte de médicaments topiques à des adultes de l’Utah souffrant d’acné légère à modérée. Dans un premier temps, deux médecins examineront chaque ordonnance avant son envoi, mais dans les phases ultérieures, ils ne les examineront qu’a posteriori.

Il s’agit des dernières expériences en matière d’IA dans le domaine de la santé à avoir été approuvées par les autorités de régulation de l’Utah, malgré les résistances des médecins et d’autres parties prenantes. Plus tôt cette année, les autorités de régulation ont lancé un projet pilote permettant à un système d’IA développé par Doctronic de renouveler des médicaments sans supervision d’un clinicien.

Parmi les autres projets pilotes approuvés figurent ceux d’entreprises telles qu’August AI, dont le système d’IA permettra de renouveler les ordonnances pour les personnes souffrant de maladies chroniques. Un autre projet pilote, mené par Expect Fitness, proposera une rééducation virtuelle du plancher pelvien aux femmes de l’État afin de les aider à soulager l’incontinence urinaire, les douleurs pelviennes et les problèmes du plancher pelvien post-partum.

Dans le cadre de ces trois projets pilotes, les entreprises devront obtenir l’accord écrit des autorités de régulation avant de passer aux phases ultérieures, qui pourraient impliquer une supervision humaine réduite. Aucun de ces projets n’a encore été lancé.

Le Laboratoire d’apprentissage en intelligence artificielle de l’Utah, également connu sous le nom de « bac à sable IA », a été créé par une loi de l’État en 2024. Les législateurs ont déclaré que ce laboratoire mettrait en place des mesures de protection des consommateurs tout en encourageant l’innovation, en offrant un environnement supervisé pour tester et évaluer les outils et approches basés sur l’IA avant leur déploiement à grande échelle. Les entreprises privées souhaitant tester leurs produits peuvent signer un accord avec l’État, qui définit les limites, les garanties et les obligations de déclaration.

Mais certains de ces projets pilotes ont suscité la colère des médecins de l’État, notamment lors du lancement du projet pilote de Doctronic l’année dernière. L’ordre des médecins de l’État a demandé la suspension du projet pilote, affirmant n’avoir pas été informé de son existence avant son lancement. Les médecins ont également exprimé leurs inquiétudes quant au fait que ce projet pilote d’IA ne s’appuie pas sur le jugement clinique nécessaire d’un être humain, et que les patients risquaient de prendre des médicaments périmés. Les autorités de régulation ont néanmoins refusé de suspendre le projet pilote, arguant que des cliniciens supervisent les systèmes d’IA pendant les premières phases du programme.

D’autres experts ont exprimé des inquiétudes concernant ces projets pilotes d’IA, qui, selon eux, comportent des risques pour les patients même lorsqu’ils sont chargés de tâches en apparence plus anodines, comme le renouvellement d’ordonnances. Dans un commentaire publié dans le JAMA Health Forum, Michelle Mello, professeure de droit et de politique de santé à l’université de Stanford, a fait valoir que le contrat de Doctronic restait flou quant à la question de savoir qui porte la responsabilité d’éventuelles erreurs de prescription liées à l’IA qui causeraient un préjudice aux patients.

Ces inquiétudes n’ont pas empêché les autorités de régulation de l’Utah d’envisager de nouveaux projets pilotes. Le mois dernier, le Bureau de la politique en matière d’intelligence artificielle a également signé des accords-cadres avec l’Université de l’Utah Health et Intermountain Health. Ces accords-cadres ne constituent pas des projets pilotes, mais ils fixent les conditions dans lesquelles le bureau pourra ultérieurement approuver de tels projets.

Ces projets pilotes rappellent le remplacement du personnel medical par un système d'IA. En juillet, douze infirmières du Montefiore Medical Center, dans le Bronx, ont été licenciées et remplacées par un logiciel d'intelligence artificielle (IA) de la société Datavant, quelques mois seulement après qu'une grève de 41 jours leur a permis d'obtenir des garanties contractuelles contre ce genre de situation. Selon l'Association des infirmières de l'État de New York (NYSNA), ces licenciements constituent une violation de la convention collective et devraient préoccuper tous les professionnels de santé ainsi que les patients soucieux de la qualité des soins qu’ils reçoivent. Une situation qui relance le débat sur l'impact réel de l'automatisation, notamment dans un domaine aussi critique que la santé.

Source : Annonce de l'Utah

Et vous ?

Pensez-vous que cette initiative est crédible ou pertinente ?
Quel est votre avis sur le sujet ?

Voir aussi :

Le PDG du plus grand réseau hospitalier public des USA se dit prêt à remplacer les radiologues par l'IA afin de réduire les dépenses liées à ces spécialistes, dont les coûts ont augmenté

« Incroyablement dangereux » : ChatGPT Santé ne reconnaît pas les urgences médicales et n'a pas recommandé de consultation à l'hôpital alors que cela était médicalement nécessaire dans plus de la moitié des cas

Les modèles d'IA hallucinent, et les médecins seraient d'accord avec cela : un défi pour la sécurité des patients, selon une étude d'un collectif de chercheurs

Vous avez lu gratuitement 113 articles depuis plus d'un an.
Soutenez le club developpez.com en souscrivant un abonnement pour que nous puissions continuer à vous proposer des publications.