Transparence et formation : les clés d’une IA fiable dans le secteur de la santé

Alors que les technologies d'intelligence artificielle (IA) se généralisent dans le secteur de la santé – de l'aide à la décision clinique aux assistants de documentation pour l'écoute ambiante –, les systèmes de santé sont confrontés à deux défis majeurs et interconnectés : la transparence sur l'utilisation de l'IA (tant envers les patients qu'envers le personnel) et la formation des utilisateurs à son utilisation appropriée. Les patients apprécient de savoir quand l'IA les aide dans leurs soins (une majorité préfère être informée), et les cliniciens ont besoin d'une formation pratique pour utiliser l'IA de manière efficace et éthique. Aborder ces aspects avec succès peut renforcer la confiance des patients, encourager une adoption appropriée et atténuer les risques liés au déploiement de l'IA en santé.

Consciente de ce constat, l' IHI Leadership Alliance , un réseau d'organismes de santé collaborant pour concrétiser pleinement les promesses du Triple Aim, a réuni dix organismes de santé diversifiés dans un espace d'accélération afin d'identifier des orientations pratiques pour l'adoption de l'IA dans divers contextes et systèmes. Au cours de plusieurs mois de collaboration, ces leaders se sont attachés à générer des idées pragmatiques et exploitables pour combler le fossé entre l'innovation et la pratique. La gouvernance de l'IA a fait l'objet d'un précédent article, et nous partageons ici des informations clés sur la transparence et la formation en IA, que les organismes de santé peuvent mettre en pratique dès aujourd'hui.

L'importance de la transparence de l'IA pour les patients et les cliniciens

Les patients et le public sont de plus en plus conscients du rôle de l'IA dans la vie quotidienne, notamment de son application aux soins de santé. Des enquêtes indiquent que la majorité des patients préfèrent être informés lorsque l'IA est utilisée dans le cadre de leurs soins. Si des explications techniques détaillées ne sont pas toujours nécessaires, les patients souhaitent généralement avoir l'assurance que les applications d'IA sont gérées de manière responsable et sûre. La transparence organisationnelle, qui garantit que les cliniciens et le personnel savent quand et comment utiliser les outils d'IA, est également considérée comme importante pour garantir la sécurité et la responsabilisation.

Une communication claire sur l'utilisation de l'IA peut renforcer la confiance entre les patients et les professionnels de santé. Si les patients prennent connaissance de l'utilisation de l'IA sans en être informés au préalable, cela pourrait nuire à leur perception des soins. À l'inverse, informer les patients de l'utilisation de l'IA, le cas échéant, peut contribuer à leur engagement et à leur confiance dans les services de santé. Pour les cliniciens, comprendre quels outils d'IA sont autorisés et appropriés leur permet de fournir des informations précises aux patients et d'intégrer ces outils à leur pratique si nécessaire.

Informer les patients sur l'IA : équilibre entre transparence et consentement

Les organisations peuvent informer efficacement les patients sur l’IA en utilisant une approche de transparence à plusieurs niveaux :

• Divulgation générale : Pour les utilisations courantes de l’IA (comme l’assistance aux radiologues ou la rédaction de comptes rendus de consultation), diffusez une notification générale par le biais de mises à jour de politique ou de communications générales. Ce « consentement communautaire » permet aux patients d’être informés sans nécessiter de consentement individuel à chaque fois.
• Transparence au point de service : Si l'IA interagit directement avec les patients (par exemple, grâce à la technologie d'enregistrement ambiant des conversations), utilisez des dépliants, des prospectus ou des notifications verbales clairs au point de service. Cela rassure les patients et sollicite leur consentement sans formalités administratives supplémentaires.
• IA à haut risque/autonome ou humain hors de la boucle (HOOTL) : pour l'IA qui fonctionne de manière indépendante ou qui présente un risque important, demandez un consentement éclairé explicite ou ayez des discussions détaillées avant utilisation, de manière similaire au consentement pour les tests invasifs.
• Communication continue : Tenez régulièrement les patients informés des nouveaux outils d'IA par e-mail, via des portails patients ou des résumés de soins (par exemple, en étiquetant les sections comme « assistées par l'IA »).
• Clarté et accessibilité : évitez les détails techniques ; concentrez-vous sur les raisons pour lesquelles l’IA est utilisée et ses avantages pour les soins aux patients.

Cette approche offre une transparence sans submerger les patients, favorisant ainsi la confiance tout en maintenant des soins efficaces.

Exemple concret : la transparence de l'IA ambiante Scribe

Une clinique de soins primaires a mis en place un enregistreur d'IA ambiante qui enregistre les conversations médecin-patient (avec consentement) pour créer des notes cliniques. L'approche de transparence à plusieurs niveaux est utilisée comme suit :

• Notification aux patients : Des avis dans les salles d'examen, sur les documents administratifs et sur le portail patient informent les patients que leur visite peut être enregistrée par une IA sécurisée à des fins de documentation. Les patients sont informés que l'enregistrement audio est confidentiel, utilisé uniquement pour les notes, et qu'ils peuvent s'y opposer ou poser des questions.
• Consentement verbal : Les médecins rappellent aux patients l'existence de la transcription par IA dès le début de la consultation, en expliquant son intérêt et en leur assurant que l'enregistrement sera supprimé après la prise de notes. Les patients peuvent refuser à tout moment.
• Résultats : Les essais ont montré une forte acceptation des patients grâce à des explications claires. Les médecins ont déclaré se concentrer davantage sur leurs patients, et les enquêtes ont montré que les cliniciens leur accordaient une attention totale dans 90 % des cas, contre 49 % auparavant. Cette approche de transparence et de consentement favorise la confiance et le respect de l'autonomie.

Éducation et formation des utilisateurs de l'IA : garantir une utilisation sûre et efficace

Les professionnels de santé doivent être parfaitement formés pour comprendre les capacités et les limites des outils d'IA. Une mauvaise compréhension de ces outils peut entraîner une mauvaise utilisation ou un manque d'adoption. Une formation complète et des directives claires sont donc essentielles. Voici les principaux aspects de la formation en IA que nous recommandons au personnel soignant :

• Formation spécifique au rôle : Adaptez les modules de formation aux différents rôles du personnel, en vous concentrant sur les tâches pratiques et les scénarios pertinents pour chaque groupe.
• Restez pragmatique : Évitez les détails techniques excessifs. Mettez l'accent sur l'utilisation, les limites et l'interprétation des outils, en mettant en avant les applications concrètes et une utilisation responsable.
• Formats stimulants : Utilisez des méthodes interactives comme des vidéos, des ateliers, des fiches de conseils et des simulations pour un apprentissage rapide et pratique. Faites appel à des « experts en IA » pour soutenir vos pairs.
• Politiques et directives : assurez-vous que les utilisateurs connaissent les politiques organisationnelles, les outils approuvés, les règles de confidentialité des données et la réponse appropriée aux erreurs ou dysfonctionnements de l'IA.
• Accès à plus d'informations : Offrez un accès facile à des informations détaillées sur les outils, telles que des résumés de validation ou des FAQ, pour renforcer la confiance et la compréhension des utilisateurs.
• Mécanismes de rétroaction : configurez des canaux de rétroaction simples afin que les utilisateurs de première ligne puissent signaler des problèmes, poser des questions et contribuer aux améliorations.
• Formation continue et de recyclage : Offrez une formation continue par le biais de recyclages et de mises à jour, passant de l'utilisation de base à l'optimisation à mesure que le personnel gagne en confiance.

Formaliser la transparence et la responsabilité

De nombreuses organisations créent des politiques formelles pour promouvoir la transparence autour de l’utilisation de l’IA :

• Politique de transparence de l'IA : Élaborer une déclaration officielle précisant les conditions d'utilisation de l'IA, la notification des patients, le consentement, la confidentialité et la supervision humaine. L'approbation du conseil d'administration peut faciliter l'allocation de ressources pour la formation et la supervision.
• Avis de confidentialité : ajouter un langage clair dans les Avis de pratiques de confidentialité (NPP) pour informer les patients de l'utilisation de l'IA dans leurs soins, en mettant l'accent sur la supervision et les garanties du clinicien.
• Gouvernance et supervision : créez ou désignez un comité de supervision pour surveiller la mise en œuvre de l'IA, garantir la conformité, suivre les commentaires et maintenir la formation à jour.
• Cadre de consentement basé sur les risques : Classez les outils d'IA par niveau de risque : les outils à faible risque peuvent nécessiter une simple divulgation générale, tandis que les outils à haut risque nécessitent un consentement explicite. Définissez ces catégories afin que le personnel comprenne les protocoles de consentement.

En fin de compte, favoriser la confiance grâce à l’ouverture et à l’éducation permet de garantir aux patients que l’IA est utilisée de manière responsable, d’anticiper les inquiétudes et de renforcer la confiance du public dans les soins de santé.

Conclusion : Favoriser une culture de transparence et d’apprentissage

L'intégration efficace de l'intelligence artificielle dans les soins de santé repose fondamentalement sur une transparence significative et une formation complète. Il est essentiel que les patients soient systématiquement informés de l'intervention de l'IA dans leurs soins, quelle que soit leur connaissance des détails techniques, afin de garantir leur engagement et leur participation active à leur processus de traitement. De même, les cliniciens et le personnel soignant doivent aborder la mise en œuvre des outils d'IA avec confiance, en s'appuyant sur des programmes de formation solides et des directives opérationnelles claires.

Le secteur de la santé est intrinsèquement collaboratif, et à mesure que les systèmes d'IA deviennent des membres à part entière de cette équipe, il est important d'introduire et de former ces technologies avec la même diligence que celle dont bénéficient les nouveaux employés. En adoptant une stratégie ouverte et réfléchie d'intégration de l'IA, les organisations peuvent optimiser les avantages de ces technologies – tels qu'une efficacité accrue, des informations plus précises et un soutien amélioré – tout en préservant résolument la confiance et la sécurité des patients.

Pour en savoir plus sur l' IHI Leadership Alliance et les opportunités de participer aux futurs accélérateurs d'IA, veuillez visiter notre site Web.

Brett Moran, MD, est vice-président principal et directeur de la santé chez Parkland Health.

Amy Weckman, MSN, APRN-CNP, CPHQ, CPPS, est directrice de IHI .

Natalie Martinez, MPH, est chef de projet IHI .

Photo de rawpixel.com

Vous pourriez également être intéressé par :

• Gouvernance de l'IA : maximiser les avantages et minimiser les préjudices pour les patients, les prestataires et les systèmes de santé
• Podcast « Allumez les lumières » : l'IA dans le secteur de la santé à grande vitesse

• En savoir plus sur l' IHI Leadership Alliance et comment rejoindre ce groupe d'innovateurs