Informe del grupo de expertos

Seguridad del paciente e inteligencia artificial: oportunidades y desafíos para la prestación de atención médica

El panel de expertos del IHI Lucian Leape Institute (LLI) revisó y debatió tres casos de uso que destacan áreas donde la inteligencia artificial generativa (genAI) podría tener un impacto significativo en la seguridad del paciente: soporte para la documentación, soporte para la toma de decisiones clínicas y chatbots de atención al paciente. El panel también debatió las implicaciones más amplias de genAI para el campo de la seguridad del paciente y la labor de los profesionales de la seguridad.

El objetivo del panel de expertos fue identificar áreas en las que genAI podría mejorar la seguridad, nombrar amenazas potenciales y sugerir formas de maximizar los beneficios y minimizar los daños.

Basándose en la revisión y el debate del panel de expertos sobre las implicaciones de la IA para la seguridad del paciente, el LLI publicó un informe, Seguridad del paciente e inteligencia artificial: oportunidades y desafíos para la prestación de atención , que resume:

• Para los tres casos de uso, los posibles beneficios, riesgos y desafíos de la implementación de genAI en la atención clínica;
• Una revisión detallada de las estrategias de mitigación y monitoreo y las recomendaciones del grupo de expertos; y
• Una evaluación de las implicaciones de genAI para el campo de la seguridad del paciente.

Junto con estas recomendaciones, se deben implementar medidas de protección adicionales en función de las siguientes preocupaciones destacadas por el panel:

• Confiar únicamente en los médicos para verificar la precisión de los resultados y recomendaciones de la IA es una estrategia de seguridad poco confiable.
• El riesgo de pérdida de habilidades es alto y requerirá estrategias de mitigación proactivas.
• Las eficiencias impulsadas por la IA simplemente resultarán en más tareas asignadas a los médicos, sin ningún alivio de su carga de trabajo actual ni de su carga cognitiva.

Hallazgos clave

• GenAI llegó para quedarse y crecerá y evolucionará rápidamente.
• Existen beneficios y riesgos potenciales que deben abordarse.
• Muchas de las preocupaciones en materia de seguridad están relacionadas con la confiabilidad, que surge en parte de la precisión y en parte de los desafíos de determinar qué información es confiable.
• Es necesario considerar otras cuestiones importantes relacionadas con la seguridad, incluida la transparencia, la importancia de la conexión humana, la equidad y más.
• Algunos desafíos serán abordados por organismos reguladores o de acreditación a nivel federal; muchos serán determinados a nivel local, en particular por los programas de gobernanza y seguridad dentro de los sistemas de salud.

Recomendaciones del panel de expertos

Los miembros del panel se muestran entusiasmados con el potencial de las herramientas genAI para reducir el agotamiento y la carga cognitiva de los profesionales clínicos, facilitar la implementación de prácticas basadas en la evidencia, mejorar la precisión diagnóstica y, potencialmente, reducir los costos. También expresaron su preocupación por los numerosos riesgos potenciales para la seguridad del paciente que deben identificarse, mitigarse y monitorearse.

En el marco del desarrollo continuo de herramientas genAI y su integración en la prestación de atención clínica, el panel de expertos formuló las siguientes recomendaciones:

• Servir y salvaguardar al paciente.
• Aprenda con los médicos, interactúe con ellos y escúchelos.
• Evaluar y garantizar la eficacia de la IA y su ausencia de sesgos.
• Establecer una gobernanza, supervisión y orientación estrictas en materia de IA tanto para los sistemas de prestación de servicios de salud individuales como para el gobierno federal.
• Sea intencional con el diseño, la implementación y la evaluación continua de las herramientas de IA.
• Participar en el aprendizaje colaborativo en todos los sistemas de atención sanitaria.

Consideraciones para grupos clave

El informe también incluye recomendaciones específicas y estrategias de mitigación para grupos clave:

• Pacientes y defensores de los pacientes
• médicos clínicos
• Profesionales de la calidad y la seguridad del paciente
• Sistemas de atención sanitaria
• Desarrolladores de GenAI
• Investigadores
• Reguladores y formuladores de políticas

IHI agradece a la Fundación Gordon y Betty Moore por su generoso financiamiento que apoyó la convocatoria del panel de expertos y la creación y difusión del informe.

Panel de expertos

El IHI Lucian Leape Institute agradece a los expertos que contribuyeron a este trabajo. [El asterisco (*) indica los miembros del LLI].

Copresidentes

• Robert Wachter, MD,* Profesor y Presidente del Departamento de Medicina de la Universidad de California, San Francisco
• Dr. Kaveh Shojania, profesor y vicepresidente (Calidad e Innovación), Departamento de Medicina, Universidad de Toronto

Participantes expertos

• Nasim Afsar, MD, MBA, MHM, Director de Salud, Oracle
• David Bates, MD, MS, Jefe de Medicina Interna General, Hospital Brigham and Women's; Profesor de Medicina, Facultad de Medicina de Harvard
• Leah Binder, MA, MGA, presidenta y directora ejecutiva de The Leapfrog Group
• David Classen, MD, MS, Profesor de Medicina, Facultad de Medicina de la Universidad de Utah; Director de Información Médica, Pascal Metrics
• Pamela Cipriano, PhD, RN, NEA-BC, FAAN, Presidenta del Consejo Internacional de Enfermeras; Profesora de la Facultad de Enfermería de la Universidad de Virginia
• Patricia Folcarelli, PhD, MA, RN, vicepresidenta sénior de Servicios de Atención al Paciente y directora de enfermería del Centro Médico Beth Israel Deaconess
• Tejal Gandhi, MD, MPH, CPPS, Director de Seguridad y Transformación, Press Ganey
• Eric Horvitz, MD, PhD, Director Científico de Microsoft
• Gary Kaplan, MD, FACMPE,* Ex ​​director ejecutivo de Virginia Mason Franciscan Health; presidente del Lucian Leape Institute
• Della Lin, MS, MD, FASA, Consultora; Directora Ejecutiva, Fundación para la Seguridad del Paciente de Anestesia; Líder Médica, Hawaii Safer Care
• Kedar Mate, MD,* Presidente y Director Ejecutivo del Institute for Healthcare Improvement
• Muhammad Mamdani, MPH, MA, PharmD, Vicepresidente de Ciencia de Datos y Análisis Avanzado, Unity Health Toronto
• Patricia McGaffigan, MS, CPPS, Vicepresidenta de Seguridad del Paciente, Institute for Healthcare Improvement
• Genevieve Melton-Meaux, MD, PhD, directora de análisis e innovación asistencial, M Health Fairview
• Eric Poon, MD, MPH, Director de Información de Salud, Duke Health
• Vardit Ravitsky, PhD, presidente y director ejecutivo del Centro Hastings
• Dra. Tina Shah, MPH, directora clínica de Abridge
• Dr. Rod Tarrago, director de informática clínica, Amazon Web Services, Academic Medicine
• Beth Daley Ullem, MBA, cofundadora de Pacientes por la Seguridad del Paciente; copresidenta del Comité Directivo de IA de SPS; miembro de la Junta Directiva del Institute for Healthcare Improvement

Revisores externos: expertos en seguridad del paciente e inteligencia artificial y miembros de LLI*

• Julia Adler-Milstein, PhD, Profesora y Jefa de la División de Informática Clínica y Transformación Digital, Universidad de California, San Francisco
• Brian Anderson, MD, presidente y director ejecutivo de la Coalición para la IA en Salud (CHAI)
• Joanne Disch, PhD, RN, FAAN,* Profesora ad Honorem, Escuela de Enfermería de la Universidad de Minnesota
• Michael Howell, MD, MPH, Director Clínico y Director Adjunto de Salud, Google
• Bob Kocher, MD, Profesor Adjunto, Departamento de Políticas de Salud de la Universidad de Stanford; Investigador Principal No Residente, Centro Schaffer de la USC; Socio, Venrock
• Julianne Morath, BSN, MS, CPPS,* Coach y consultora de liderazgo; profesora afiliada, Departamento de Medicina, Universidad de Washington, Seattle
• Charles Vincent, PhD, MPhil,* Profesor de Psicología, Universidad de Oxford; Profesor Emérito de Investigación en Seguridad Clínica, Imperial College, Londres
• Daniel Yang, MD, Vicepresidente de IA y Tecnologías Emergentes, Kaiser Permanente

Recursos adicionales

• Informe de Innovación del IHI : Inteligencia artificial en la atención médica: implicaciones para la seguridad de los pacientes y los trabajadores
• Aprendiendo juntos: preguntas y perspectivas sobre inteligencia artificial y mejora de la calidad
• Cinco conclusiones de un debate sobre IA generativa y mejora de la calidad
• Inteligencia artificial, privacidad de datos y cómo mantener seguros a los pacientes en línea
• La generación actual de herramientas de IA: tres consideraciones para los líderes de calidad
• Inteligencia artificial en la atención médica: Peter Lee sobre empatía, empoderamiento y equidad

• El impacto de la IA en la seguridad de los pacientes (grabación del seminario web del IHI : 19 de agosto de 2024)
  En este seminario web provocador y oportuno, expertos en seguridad de renombre mundial compartirán conocimientos y recomendaciones de un informe reciente sobre la seguridad del paciente y la inteligencia artificial (IA), incluido un análisis de los beneficios, los riesgos y el monitoreo y la mitigación de riesgos para tres aplicaciones clínicas de IA generativa.

• El impacto de la IA en la seguridad del paciente (grabación del seminario web del IHI : 11 de septiembre de 2024)
  En este seminario web, expertos en seguridad de renombre mundial explorarán cómo la inteligencia artificial generativa tiene el potencial de transformar el trabajo de los profesionales de la calidad y la seguridad del paciente.

Acerca del IHI Lucian Leape Institute

Integrado por líderes de opinión internacionales con un interés común en la seguridad del paciente, el IHI Lucian Leape Institute (LLI) funciona como un grupo de expertos para identificar nuevos enfoques para mejorar la seguridad del paciente.

Obtenga más información sobre LLI