Potentiel et écueils de l'utilisation de l'IA pour l'analyse des incidents de sécurité

L'intelligence artificielle (IA) se répand rapidement dans le secteur de la santé, mais les données probantes démontrant son impact positif sur la qualité et la sécurité des soins sont encore en cours d'élaboration. Un rapport de l'Institut Lucian Leape de l'IHI a fourni des orientations sur la manière dont l'IA pourrait contribuer à la sécurité des patients grâce à l'identification précoce des signes de détérioration et au regroupement des événements indésirables graves afin d'en tirer des enseignements. S'appuyant sur ces travaux, le réseau des responsables qualité de l'IHI, qui rassemble des leaders de plusieurs pays, étudie activement comment l'IA peut améliorer concrètement les pratiques courantes en matière de qualité et de sécurité des soins.

Les discussions récentes au sein du réseau CQO ont porté spécifiquement sur les applications potentielles de l'IA dans l'analyse et le signalement des incidents de sécurité. Des points de vue divergents ont émergé. Plusieurs responsables soulignent que l'utilisation de l'IA risque de simplifier à l'excès des événements complexes et de passer à côté du contexte, notamment lorsque les enquêtes et les ressources sous-jacentes sont insuffisantes. L'IA pourrait creuser les inégalités si ses algorithmes sont biaisés. D'autres entrevoient le potentiel de l'IA pour identifier plus tôt les tendances, faciliter l'apprentissage rapide et renforcer l'analyse thématique d'un grand nombre d'événements. Nombreux sont ceux qui s'accordent à dire que la valeur de l'IA repose sur des cas d'utilisation clairs, une conception systématique et des données fiables et objectives.

Cet échange s'appuie sur les travaux d'autres chercheurs, tels que Sorlie et al ., De Micco et al. , l'Institut Lucian Leape de l'IHI , et d'autres encore, qui ont souligné le potentiel des outils d'IA générative pour faciliter le signalement, l'identification, l'analyse et la réduction des événements indésirables liés aux soins de santé. Peu de données concrètes démontrent l'impact (ou les risques) de telles utilisations ; pourtant, certains établissements de santé ont adopté des outils d'IA pour optimiser les processus de prise en charge.

Face à ces perspectives contrastées et à l'exploration continue des capacités de l'IA, il est important pour les responsables qualité d'évaluer à la fois les avantages et les risques liés à l'utilisation de l'IA.

Opportunités et risques à prendre en compte

L'utilisation de l'IA pour le signalement et l'analyse des incidents de sécurité pourrait présenter plusieurs avantages potentiels, notamment :

• Possibilité de rapports d'événements plus rapides grâce à l'efficacité, la facilité d'utilisation et l'alignement avec les flux de travail de reporting et d'examen des événements permis par la technologie.
• Des rapports de meilleure qualité grâce à l'inclusion de données pertinentes qui pourraient autrement ne pas être prises en compte dans le rapport initial.
• Des pistes pour prendre en compte des données susceptibles d'être négligées.
• Développement d'outils d'IA pour inciter au signalement précoce des signaux en amont indiquant un danger, plutôt que d'attendre la confirmation des événements.
• Identification des tendances dans les rapports agrégés pour une reconnaissance plus rapide des schémas.
• Rechercher des actions et des solutions plus efficaces et fondées sur des données probantes pour atténuer les risques et prévenir les préjudices.

Les risques potentiels liés au déploiement de l'IA pour l'analyse des incidents de sécurité avant d'avoir suffisamment de preuves de son efficacité comprennent :

• Si les rapports ne comportent pas suffisamment de détails ou de contexte sociotechnique, la synthèse par l'IA peut aboutir à des généralisations qui ne tiennent pas compte des causes profondes et des facteurs contributifs.
• Le remplacement d'une analyse par IA par un processus plus délibératif impliquant de multiples parties prenantes pourrait ne pas être aussi pertinent, car les personnes comprennent mieux le système et les conditions que les outils d'IA à ce stade.
• Des recommandations et des solutions de sécurité sous-optimales peuvent résulter d'inexactitudes, de biais ou de limitations des données d'entraînement de l'IA.

Il est important d'établir une structure de gouvernance de l'IA , d'inclure le personnel chargé de la qualité et de la sécurité dans la supervision de l'IA et de veiller à ce que les algorithmes d'IA ne propagent pas de biais et d'inégalités.

Premiers pas avec l'IA pour les analyses d'événements de sécurité

Les technologies d'IA offrent un ensemble d'outils, mais le signalement des événements indésirables reste un processus. Dans tous les établissements de santé, il est crucial d'améliorer la qualité du signalement et de l'analyse des événements indésirables. Une recommandation essentielle pour tous les responsables qualité est d'évaluer leurs processus actuels d'analyse des événements afin d'identifier les points faibles et d'améliorer les approches existantes. Il est indispensable d'utiliser des processus tels que l'analyse des causes profondes (ACR ²⁾ et l'analyse des causes communes, et de veiller à ce que les considérations sociotechniques pertinentes aux événements — notamment la parole des patients et le point de vue de leurs familles — soient prises en compte dans les rapports.

En s'appuyant sur les principes de l'amélioration continue de la qualité, les organismes de santé peuvent concevoir et tester des solutions d'IA pour l'analyse des incidents liés à la sécurité. Voici quelques questions clés à se poser :

1. À quoi ressemblerait un flux de travail idéal pour l'identification, le signalement, l'analyse et la résolution des événements indésirables liés à la sécurité, compte tenu des besoins et des limites des systèmes actuels (par exemple, le temps, les obstacles informatiques, les contraintes de ressources) ?
2. Quel rôle la technologie, notamment l'IA, peut-elle jouer pour concrétiser ce processus d'analyse des événements ?

L'objectif de l'IA en santé est d'améliorer le jugement humain, et non de le remplacer. En renforçant les processus de signalement des incidents, en appliquant les principes de l'amélioration continue et en garantissant une gouvernance et un contrôle rigoureux, les responsables qualité peuvent concevoir des outils d'IA qui favorisent l'apprentissage au lieu de le complexifier. La voie la plus prometteuse est celle où la technologie amplifie, et non remplace, l'expertise des personnes au plus près des patients.

Nikki Tennermann, LICSW, MBA, est directrice de projet senior et Jeff Rakover, MPP, est directeur à l' Institute for Healthcare Improvement.

Nous remercions les responsables qualité qui ont apporté leur contribution à cet article : Lori Pelletier, PhD, MBA, directrice de la qualité et de la sécurité des patients, Connecticut Children's ; James Hoffman, PharmD, MS, vice-président principal, Qualité et sécurité, St. Jude Children's ; Navneet Marwaha, MD, directrice de la qualité et de la sécurité des patients, Northern Light Health ; Sean Martin, MHS, RRT, vice-président, Services cliniques et équité en santé, directeur de la qualité, Peterborough Regional Health Centre ; et Amar Shah, MBBS, MBA, directeur clinique national pour l'amélioration, Angleterre.

Photo prise par Accuray sur Unsplash

Vous pourriez également être intéressé par :

• Apprenez-en davantage sur le réseau CQO
• Rapport de IHI Lucian Leape Institute sur la sécurité des patients et l'IA  
• Tirer parti de l'IA pour soutenir l'amélioration
• Analyses et actions des causes profondes (RCA ² )
• Éditorial du BMJ Qualité et Sécurité : Penser et s’organiser en systèmes : repenser le problème de longue date de l’apprentissage à partir des incidents
• Point de vue du BMJ sur la qualité et la sécurité : Faire progresser l’IA dans le secteur de la santé : trois rôles stratégiques pour les responsables de la qualité et de la sécurité