Rapport du groupe d'experts

Sécurité des patients et intelligence artificielle : opportunités et défis pour la prestation de soins

Le panel d'experts de IHI Lucian Leape Institute (LLI) a examiné et discuté trois cas d'utilisation mettant en évidence les domaines dans lesquels l'intelligence artificielle générative (genIA) pourrait avoir un impact significatif sur la sécurité des patients : l'aide à la documentation, l'aide à la décision clinique et les chatbots en contact avec les patients. Le panel a également abordé les implications plus larges de la genIA pour la sécurité des patients et le travail des professionnels de la sécurité.

L’objectif du groupe d’experts était d’identifier les domaines dans lesquels genAI pourrait améliorer la sécurité, de nommer les menaces potentielles et de suggérer des moyens de maximiser les avantages et de minimiser les dommages.

Sur la base de l'examen et de la discussion du groupe d'experts sur les implications de l'IA pour la sécurité des patients, le LLI a publié un rapport, Patient Safety and Artificial Intelligence: Opportunities and Challenges for Care Delivery , qui résume :

• Pour les trois cas d’utilisation, les avantages potentiels, les risques et les défis de la mise en œuvre de genAI dans les soins cliniques ;
• Un examen détaillé des stratégies d’atténuation et de surveillance et des recommandations du groupe d’experts ; et
• Une évaluation des implications de la genAI pour le domaine de la sécurité des patients.

Parallèlement à ces recommandations, d’autres garde-fous doivent être mis en œuvre sur la base des préoccupations suivantes soulignées par le panel :

• Compter uniquement sur les cliniciens pour vérifier l’exactitude des résultats et des recommandations de l’IA est une stratégie de sécurité peu fiable.
• Le risque de déqualification est élevé et nécessitera des stratégies d’atténuation proactives.
• Les gains d’efficacité générés par l’IA se traduiront simplement par davantage de tâches assignées aux cliniciens, sans aucun soulagement de leur charge de travail actuelle ni de leur fardeau cognitif.

Principales conclusions

• GenAI est là pour rester et va grandir et évoluer rapidement.
• Il existe des avantages et des risques potentiels qui doivent être pris en compte.
• De nombreuses préoccupations en matière de sécurité concernent la fiabilité, qui découle en partie de l’exactitude et en partie de la difficulté à déterminer quelles informations sont fiables.
• D’autres questions importantes liées à la sécurité doivent être prises en compte, notamment la transparence, l’importance des relations humaines, l’équité, etc.
• Certains défis seront relevés par les organismes de réglementation ou d’accréditation au niveau fédéral ; beaucoup seront déterminés au niveau local, notamment par les programmes de gouvernance et de sécurité au sein des systèmes de santé.

Recommandations du groupe d'experts

Les membres du panel sont enthousiastes quant au potentiel des outils d'IA générale pour réduire l'épuisement professionnel et la charge cognitive des cliniciens, faciliter la mise en place de pratiques fondées sur des données probantes, améliorer la précision des diagnostics et potentiellement réduire les coûts. Ils ont également exprimé des inquiétudes quant aux nombreux risques potentiels pour la sécurité des patients, qui doivent être identifiés, atténués et surveillés.

Dans le cadre du développement continu des outils genAI et de leur intégration dans la prestation de soins cliniques, le groupe d'experts a formulé les recommandations suivantes :

• Servir et protéger le patient.
• Apprenez avec les cliniciens, engagez-les et écoutez-les.
• Évaluer et garantir l’efficacité de l’IA et l’absence de biais.
• Établir une gouvernance, une surveillance et des orientations strictes en matière d’IA, tant pour les systèmes de prestation de soins de santé individuels que pour le gouvernement fédéral.
• Soyez intentionnel avec la conception, la mise en œuvre et l’évaluation continue des outils d’IA.
• Participer à un apprentissage collaboratif dans tous les systèmes de soins de santé.

Considérations pour les groupes clés

Le rapport comprend également des recommandations spécifiques et des stratégies d’atténuation pour les groupes clés :

• Patients et défenseurs des patients
• cliniciens
• Professionnels de la qualité et de la sécurité des patients
• Systèmes de soins de santé
• Développeurs GenAI
• chercheurs
• Régulateurs et décideurs politiques

IHI remercie la Fondation Gordon et Betty Moore pour son généreux financement qui a soutenu la convocation du groupe d'experts ainsi que la création et la diffusion du rapport.

Groupe d'experts

L' IHI Lucian Leape Institute remercie chaleureusement les experts qui ont contribué à ce travail. [L'astérisque (*) désigne les membres du LLI.]

Coprésidents

• Robert Wachter, MD*, professeur et président du département de médecine de l'université de Californie à San Francisco
• Kaveh Shojania, M.D., professeur et vice-président (qualité et innovation), département de médecine, Université de Toronto

Participants experts

• Nasim Afsar, MD, MBA, MHM, directeur de la santé, Oracle
• David Bates, MD, MS, chef du service de médecine interne générale, Brigham and Women's Hospital ; professeur de médecine, Harvard Medical School
• Leah Binder, MA, MGA, présidente et directrice générale, The Leapfrog Group
• David Classen, MD, MS, professeur de médecine, faculté de médecine de l'Université de l'Utah ; directeur de l'information médicale, Pascal Metrics
• Pamela Cipriano, Ph. D., infirmière autorisée, NEA-BC, FAAN, présidente du Conseil international des infirmières ; professeure à l'École des sciences infirmières de l'Université de Virginie
• Patricia Folcarelli, Ph. D., M.A., infirmière autorisée, vice-présidente principale, services de soins aux patients et directrice des soins infirmiers, Beth Israel Deaconess Medical Center
• Tejal Gandhi, MD, MPH, CPPS, directeur de la sécurité et de la transformation, Press Ganey
• Eric Horvitz, MD, PhD, directeur scientifique, Microsoft
• Gary Kaplan, MD, FACMPE*, ancien PDG de Virginia Mason Franciscan Health ; président du Lucian Leape Institute
• Della Lin, MS, MD, FASA, consultante ; directrice générale de l'Anesthesia Patient Safety Foundation ; médecin responsable de Hawaii Safer Care
• Kedar Mate, MD*, président et directeur général, Institute for Healthcare Improvement
• Muhammad Mamdani, MPH, MA, PharmD, vice-président, science des données et analyse avancée, Unity Health Toronto
• Patricia McGaffigan, MS, CPPS, vice-présidente, Sécurité des patients, Institute for Healthcare Improvement
• Geneviève Melton-Meaux, MD, PhD, directrice de l'analyse et de l'innovation en matière de soins, M Health Fairview
• Eric Poon, MD, MPH, directeur de l'information sur la santé, Duke Health
• Vardit Ravitsky, Ph. D., président-directeur général du Hastings Center
• Tina Shah, MD, MPH, directrice clinique, Abridge
• Dr Rod Tarrago, responsable de l'informatique clinique, Amazon Web Services, Academic Medicine
• Beth Daley Ullem, MBA, cofondatrice de Patients for Patient Safety ; coprésidente du comité directeur de l'IA du SPS ; conseil d'administration de Institute for Healthcare Improvement

Examinateurs externes : experts en sécurité des patients et en IA et membres du LLI*

• Julia Adler-Milstein, PhD, professeure et chef de la division d'informatique clinique et de transformation numérique, Université de Californie, San Francisco
• Brian Anderson, MD, président et chef de la direction, Coalition for Health AI (CHAI)
• Joanne Disch, PhD, RN, FAAN,* Professeur ad Honorem, École de sciences infirmières de l'Université du Minnesota
• Michael Howell, MD, MPH, directeur clinique et directeur adjoint de la santé, Google
• Bob Kocher, docteur en médecine, professeur adjoint au département de politique de santé de l'université de Stanford ; chercheur principal non résident au centre Schaffer de l'USC ; associé chez Venrock
• Julianne Morath, BSN, MS, CPPS,* coach en leadership et consultante ; professeure affiliée, département de médecine, université de Washington, Seattle
• Charles Vincent, PhD, MPhil*, professeur de psychologie, Université d'Oxford ; professeur émérite de recherche sur la sécurité clinique, Imperial College, Londres
• Daniel Yang, MD, vice-président, IA et technologies émergentes, Kaiser Permanente

Ressources supplémentaires

• Rapport d'innovation de IHI : L'intelligence artificielle dans les soins de santé : implications pour la sécurité des patients et du personnel
• Apprendre ensemble : questions et réflexions sur l'intelligence artificielle et l'amélioration de la qualité
• 5 points à retenir d'une discussion sur l'IA générative et l'amélioration de la qualité
• Intelligence artificielle, confidentialité des données et comment assurer la sécurité des patients en ligne
• La génération actuelle d'outils d'IA : trois considérations pour les responsables qualité
• L'intelligence artificielle dans les soins de santé : Peter Lee sur l'empathie, l'autonomisation et l'équité

• L'impact de l'IA sur la sécurité des patients (enregistrement du webinaire IHI : 19 août 2024)
  Dans ce webinaire provocateur et opportun, des experts en sécurité de renommée mondiale partageront leurs idées et recommandations tirées d'un rapport récent sur la sécurité des patients et l'intelligence artificielle (IA), y compris une analyse des avantages, des risques, de la surveillance et de l'atténuation des risques pour trois applications cliniques d'IA générative.

• L'impact de l'IA sur la sécurité des patients (enregistrement du webinaire IHI : 11 septembre 2024)
  Dans ce webinaire, des experts en sécurité de renommée mondiale exploreront comment l'intelligence artificielle générative a le potentiel de transformer le travail des professionnels de la sécurité et de la qualité des patients.

À propos de IHI Lucian Leape Institute

Composé de leaders d'opinion internationaux partageant un intérêt commun pour la sécurité des patients, l' IHI Lucian Leape Institute (LLI) fonctionne comme un groupe de réflexion pour identifier de nouvelles approches visant à améliorer la sécurité des patients.

En savoir plus sur LLI