Chef du service de réanimation et président de la commission IA et innovations technologiques du CHU de la Guadeloupe, le Dr Marc Valette revient sur les bénéfices attendus de l’intelligence artificielle en santé, ses limites et les garanties nécessaires à son utilisation. Formation, protection des données et préservation de la relation soignant-patient sont au cœur de cette réflexion.
Quelle place l’intelligence artificielle occupe-t-elle aujourd’hui dans votre pratique en réanimation au CHU de la Guadeloupe ? Quels bénéfices peut-elle apporter aux patients ?
À ce jour, nous n’avons pas déployé d’outil d’IA au sein du service de réanimation du CHUG. Il nous arrive toutefois d’utiliser des outils généralistes tels que des LLM (Claude, Chat GPT, Gemini …) pour des tâches administratives ou pédagogiques. Cela peut être le cas pour la préparation d’un support de cours ou de supports de communication au sein de l’équipe.
Ailleurs, des outils intégrant de l’IA commencent à être disponibles pour les soignants : génération d’un courrier de synthèse d’un séjour, synthèse d’entretiens avec les familles, propositions diagnostiques ou thérapeutiques ou aide à l’interprétation d’examens d’imagerie. Pour ce qui est des usages spécifiques à la réanimation, il existe des aides à la détection des patients à risque de s’aggraver aux urgences ou dans les services d’hospitalisation ; des aides au sevrage de la ventilation artificielle ou des outils permettant d’avoir des scores pronostiques spécifiques, par exemple.
Seuls des outils dédiés autorisent la saisie de données personnelles car ils sont encadrés par la législation. En effet, les données de santé sont des données sensibles au sens du RGPD*. Leur traitement nécessite un cadre réglementaire adapté, notamment un hébergement certifié HDS (hébergeur de données de santé) et, pour les outils relevant des dispositifs médicaux, un marquage CE (conforme aux exigences européennes applicables).
Les bénéfices attendus de l’IA pour les patients ou leurs familles sont potentiellement multiples : ils vont de l’amélioration de leur connaissance de leur pathologie à une diminution du délai diagnostique, en passant par une détection plus précoce de la dégradation de leur état de santé. Il y a cependant un certain nombre de limites à prendre en compte et c’est l’enjeu actuel pour les soignants comme pour les patients.
Face à une recommandation de l’IA, comment préserver le jugement du soignant de manière générale et la singularité de chaque patient ? Jusqu’où peut-on s’appuyer sur ces outils ?
Parmi les principaux enseignements figure la question de l’équité d’accès à la santé. Pour le Dr Pauline Cousin, médecin généraliste au CHU de Cayenne en Guyane et co-directrice de l’espace de réflexion éthique régional de Guyane, les difficultés d’accès aux soins ne peuvent être dissociées des conditions de vie. « Les déterminants sociaux tuent plus que la maladie », explique-t-elle. Logement, accès à l’eau potable, alimentation, précarité ou encore expositions environnementales, influencent directement l’état de santé des populations. Dr Marilyn Lackmy rappelle d’ailleurs que « l’égalité en santé ne peut pas être réduite à une égalité formelle ». Si ce droit est garanti en théorie, de nombreux habitants des Outre-mer restent confrontés à des obstacles majeurs : éloignement géographique, pénurie de professionnels, évacuations sanitaires, barrières linguistiques et culturelles ou encore coûts indirects liés aux soins.
Selon elle, « la politique de santé doit viser à réduire l’écart entre les droits proclamés et leur effectivité concrète ». Pour limiter la défiance de la population, Dr Lackmy évoque « la nécessité d’une santé publique de proximité, portée par des acteurs locaux crédibles et capables d’articuler médecine conventionnelle, savoirs populaires et médiations communautaires. »
La première table ronde du séminaire, consacrée aux liens entre populations et politiques de santé, a justement abordé l’interculturalité, la communication en santé et l’adaptation des politiques publiques aux réalités ultramarines. Pour le Dr Pauline Cousin, cette évolution passe surtout par la co-construction des messages de prévention avec les acteurs de proximité, le recours aux langues régionales et une meilleure prise en compte des savoirs thérapeutiques traditionnels.
L’IA promet de libérer du temps pour les soignants : à quelles conditions peut-elle renforcer la relation avec le patient ?
Les études portant sur l’IA dans le monde professionnel montrent que le gain de temps pour les soignants existe, mais qu’il reste modeste en pratique. Il concerne essentiellement la recherche de ressources documentaires et la rédaction de comptes rendus. L’amélioration de la relation avec le patient grâce à ce gain de temps est plus difficile à démontrer.
On perçoit aisément que si le soignant n’a pas à rester sur son ordinateur pendant la consultation pour taper la synthèse de l’entretien, il sera plus disponible pour l’écoute active de son patient ou le relancer avec des questions pertinentes. Mais le temps gagné peut aussi servir à raccourcir la consultation afin de recevoir un patient supplémentaire. Le déficit de soignants est tel qu’aujourd’hui, nombreux sont ceux qui vont utiliser ce temps nouvellement disponible pour recevoir davantage de patients. L’enjeu est donc que le temps potentiellement gagné s’accompagne d’un maintien ou d’une augmentation des effectifs soignants, afin de pouvoir augmenter la qualité des soins et le temps passé au chevet des malades.
Un autre effet démontré est l’amélioration de la qualité de vie au travail des soignants et la diminution de l’épuisement professionnel lors de l’utilisation d’assistants de transcription. Les soignants pourraient ainsi être plus disponibles pour les patients avec une amélioration potentielle de la relation soignant-patient. Il existe toutefois un bémol : la présence d’un dispositif d’enregistrement dans la pièce modifie nécessairement cette relation, avec une parole potentiellement moins libre et l’introduction d’un intermédiaire technologique entre le patient et le soignant.
Quelles garanties éthiques vous semblent indispensables au déploiement des outils d’IA en santé ? Comment s’assurer qu’ils seront adaptés à notre population ?
L’enjeu éthique est fondamental et comporte de nombreux aspects.
Il convient tout d’abord de former les soignants et les patients afin qu’ils connaissent les outils autorisés et leurs limites. L’utilisation d’un outil non autorisé tel qu’une IA généraliste pose le problème de la confidentialité des données du patient. Même pseudonymisées, des données peuvent permettre d’identifier un patient en recoupant plusieurs sources (registre des décès, presse locale, etc.), a fortiori sur un petit territoire comme le nôtre.
Les limites des outils IA sont nombreuses, outre les hallucinations déjà évoquées, il existe de nombreux biais :
- Le biais de représentation : dans les données d’entraînement, on retrouve une surreprésentation de populations à peau claire masculines, les femmes et les patients afro-caribéens sont moins représentés, ce qui rend le modèle moins performant chez ces patients et met à mal l’équité. Un outil performant, développé en Chine ou aux États-Unis, n’est pas nécessairement adapté aux patients de Guadeloupe. Il faut s’assurer qu’il a été évalué pour la population auprès de laquelle il sera utilisé.
- Le biais de complaisance : la façon dont on pose la question oriente la réponse de l’IA. À la question : « Est que je pourrais avoir une embolie pulmonaire ? », elle peut répondre : « Tu as tout à fait raison ! » et avancer des arguments en ce sens. Le modèle généraliste n’a pas mené un raisonnement médical, il a répondu ce que l’utilisateur voulait entendre.
- Le biais de confiance : les modèles répondent avec beaucoup d’assurance, ce qui conduit l’utilisateur à accorder une confiance trop importante à la réponse.
Les principes d’autonomie et de transparence vis-à-vis du patient doivent également être préservés. Le soignant doit informer le patient de l’utilisation d’une IA et de son impact dans la prise en charge et le patient doit être libre de refuser.
Le principe d’équité risque d’être fragilisé : certains établissements étant en mesure de s’équiper des derniers outils, tandis que d’autres ne pourront les déployer faute de moyens financiers. Le risque d’une médecine à deux vitesses, avec une nette fracture numérique, apparaît majeur. Il en est de même pour les hôpitaux qui ne pourront pas collecter les données de leur population. Celle-ci risque d’être sous-représentée dans les modèles, aggravant encore les inégalités.
Enfin, il faut tenir compte du coût environnemental de l’IA, qui affecte indirectement la santé de la population mondiale à travers les effets du dérèglement climatique. Ceci doit conduire à questionner la nécessité d’utiliser ces outils, à les réserver aux usages bénéfiques pour les malades et les soignants et à privilégier des outils moins gourmands en énergie et en ressources.
À ce titre, comment la commission IA et innovations technologiques du CHUG traduit-elle ces exigences éthiques en actions concrètes ?
Cette commission IA et innovations technologiques a été créée en 2025 par la CME (commission médicale d’établissement) et associe médecins, informaticiens, paramédicaux, chercheurs, représentants des usagers, juristes, etc. Les réflexions sont engagées concernant l’intégration de l’IA au CHUG. La première étape a été la création, au niveau du CHU, d’une infrastructure informatique permettant l’hébergement de données de santé de l’établissement, mais aussi, à terme, d’autres établissements du territoire dans un cadre certifié HDS.
Le développement d’un entrepôt de données de santé a également été lancé sous la coordination du Pr Deloumeaux, afin de collecter les données des patients du territoire dans le respect de la législation. Cela permettra à la population antillaise d’être pleinement représentée dans les modèles futurs et de s’intéresser à des pathologies plus fréquentes localement : drépanocytose, dengue ou leptospirose.
Une charte d’utilisation de l’IA a ensuite été écrite à destination des agents du CHUG. La commission a aussi un rôle de sensibilisation et de formation aux risques liés à l’utilisation des IA généralistes.
Concernant le déploiement d’outils IA, le processus partira des utilisateurs qui feront remonter leurs besoins, puis la commission centralisera les avis techniques et éthiques quant aux solutions envisagées en plus de questionner la pertinence clinique. Si le projet est retenu, il sera alors déployé en même temps que la formation des utilisateurs. Enfin, un processus de supervision pour détecter les erreurs et la dérive du système sera mise en place. C’est le respect de ce processus complet qui permettra de garantir au maximum une utilisation juste de l’IA au sein de notre établissement.
*RGPD : règlement général sur la protection des données.
