Potencial y riesgos del uso de la IA para la revisión de incidentes de seguridad

La IA se está extendiendo rápidamente en el sector sanitario, pero la evidencia que demuestra cómo mejora la calidad y la seguridad aún está en desarrollo. Un informe del Instituto Lucian Leape del IHI ofreció orientación sobre cómo la IA podría contribuir a la seguridad del paciente mediante la identificación temprana de señales asociadas al deterioro y la recopilación de eventos adversos graves para aprender de los daños. Partiendo de esta base, la Red de Directores de Calidad (CQO) del IHI, que incluye a líderes de diversos países, está explorando activamente cómo la IA puede beneficiar significativamente el trabajo rutinario en materia de calidad y seguridad.

Las recientes discusiones dentro de la Red CQO se han centrado específicamente en las posibles aplicaciones de la IA en la revisión y el reporte de incidentes de seguridad. Han surgido diferentes puntos de vista. Varios líderes advierten que el uso de la IA conlleva el riesgo de simplificar en exceso eventos complejos y perder contexto, especialmente cuando las investigaciones y los recursos subyacentes son insuficientes. La IA podría ampliar las brechas de equidad si los algoritmos son sesgados. Otros ven potencial en la IA para identificar patrones con anticipación, apoyar el aprendizaje rápido y fortalecer el análisis temático en grandes volúmenes de eventos. Muchos coinciden en que el valor de la IA depende de casos de uso claros, un diseño sistemático y datos confiables e imparciales.

Este intercambio se basa en el trabajo de otros autores, como Sorlie et al ., De Micco et al. , el Instituto Lucian Leape del IHI y otros, quienes han destacado el potencial de las herramientas de IA generativa para respaldar la notificación, identificación, análisis y mitigación de eventos adversos en la atención médica. Si bien existen pocas evidencias en el mundo real que demuestren el impacto (o los riesgos) de tales usos, algunas organizaciones de atención médica han adoptado herramientas de IA para identificar flujos de trabajo relacionados con el soporte.

Ante estas perspectivas contrapuestas y la continua exploración de las capacidades de la IA, es importante que los líderes de calidad evalúen tanto los beneficios como los riesgos del uso de la IA.

Oportunidades y riesgos a considerar

Se pueden obtener varios beneficios potenciales de la IA para la notificación y revisión de incidentes de seguridad, entre ellos:

• Posibilidad de agilizar la elaboración de informes de eventos gracias a la eficiencia que ofrece la tecnología, su facilidad de uso y su alineación con los flujos de trabajo de elaboración de informes y revisión de eventos.
• Informes de mayor calidad mediante la inclusión de datos relevantes que de otro modo no se captarían en el informe inicial.
• Sugerencias para tener en cuenta datos que podrían pasarse por alto.
• Desarrollo de herramientas de IA para fomentar la notificación temprana de señales de alerta que indiquen posibles daños, en lugar de analizar los eventos confirmados posteriormente.
• Identificación de tendencias en informes agregados para un reconocimiento de patrones más rápido.
• Buscar acciones y soluciones más contundentes y basadas en la evidencia para mitigar los riesgos y prevenir los daños.

Entre los posibles riesgos de implementar la IA para la revisión de incidentes de seguridad antes de contar con evidencia suficiente de su efectividad se incluyen:

• Si los informes no tienen suficiente detalle o contexto sociotécnico, la síntesis mediante IA puede dar lugar a generalizaciones que no abordan las causas fundamentales ni los factores que contribuyen a ellas.
• La sustitución del análisis mediante IA por un proceso más deliberativo entre múltiples partes interesadas puede no ser tan sólida, ya que las personas comprenden mejor el sistema y las condiciones que las herramientas de IA en esta etapa.
• Las recomendaciones y soluciones de seguridad subóptimas pueden deberse a imprecisiones, sesgos o limitaciones en los datos de entrenamiento de la IA.

Es importante establecer una estructura de gobernanza de la IA , incluir personal de calidad y seguridad en la supervisión de la IA y garantizar que los algoritmos de IA no propaguen sesgos ni desigualdades.

Primeros pasos con la IA para la revisión de eventos de seguridad

Las tecnologías de IA ofrecen un conjunto de herramientas, pero la notificación de incidentes de seguridad es un proceso. En todos los entornos sanitarios, es fundamental mejorar la calidad de la notificación y revisión de incidentes de seguridad. Una recomendación clave para todos los responsables de calidad es evaluar sus procesos actuales de revisión de incidentes para identificar deficiencias y mejorar los enfoques existentes. Es esencial utilizar procesos como el análisis de causa raíz (RCA ²⁾ y el análisis de causa común, y garantizar que se aborden en los informes las consideraciones sociotécnicas relevantes para los incidentes, incluyendo la opinión del paciente y la perspectiva de la familia.

Utilizando la ciencia de la mejora de la calidad, las organizaciones de atención médica pueden diseñar y probar soluciones de IA para la revisión de eventos de seguridad. Las preguntas clave a considerar son:

1. ¿Cómo sería un flujo de trabajo ideal para la identificación, notificación, análisis y resolución de eventos adversos de seguridad, teniendo en cuenta las necesidades y limitaciones de los sistemas actuales (por ejemplo, tiempo, barreras informáticas, limitaciones de recursos)?
2. ¿Qué papel puede desempeñar la tecnología, incluida la IA, para hacer realidad ese flujo de trabajo de revisión de eventos?

El objetivo de la IA en la atención médica es potenciar el juicio humano, no sustituirlo. Al fortalecer los procesos de notificación de seguridad existentes, aplicar la ciencia de la mejora y garantizar una gobernanza y supervisión sólidas, los responsables de la calidad pueden diseñar herramientas de IA que impulsen el aprendizaje en lugar de complicarlo. El camino más prometedor es aquel en el que la tecnología amplifica, en lugar de sustituir, la experiencia de las personas más directamente involucradas en la atención al paciente.

Nikki Tennermann, LICSW, MBA, es Directora Sénior de Proyectos y Jeff Rakover, MPP, es Director del Institute for Healthcare Improvement.

Agradecemos a los líderes en calidad que aportaron sus perspectivas para la elaboración de este artículo: Lori Pelletier, PhD, MBA, Directora de Calidad y Seguridad del Paciente de Connecticut Children's; James Hoffman, PharmD, MS, Vicepresidente Sénior de Calidad y Seguridad de St. Jude Children's; Navneet Marwaha, MD, Director de Calidad y Seguridad del Paciente de Northern Light Health; Sean Martin, MHS, RRT, Vicepresidente de Servicios Clínicos y Equidad en Salud, Director de Calidad del Peterborough Regional Health Centre; y Amar Shah, MBBS, MBA, Director Clínico Nacional para la Mejora de Inglaterra.

Foto de Accuray en Unsplash

También te puede interesar:

• Obtén más información sobre la red CQO.
• Informe del IHI Lucian Leape Institute sobre seguridad del paciente e inteligencia artificial.  
• Aprovechar la IA para apoyar la mejora
• Análisis de la causa raíz y acciones (RCA ² )
• Editorial de BMJ Quality and Safety: Pensar y organizar en sistemas: replantear el problema de larga data del aprendizaje a partir de incidentes
• Punto de vista de BMJ sobre calidad y seguridad: Impulsando la IA en la atención médica: tres roles estratégicos para los líderes de calidad y seguridad.