Transparencia y capacitación: claves para una IA confiable en la atención médica

A medida que las tecnologías de inteligencia artificial (IA) se vuelven más comunes en la atención médica, desde el apoyo a la toma de decisiones clínicas hasta los asistentes de documentación con escucha ambiental, los sistemas de salud se enfrentan a dos desafíos críticos e interconectados: la transparencia en el uso de la IA (tanto con los pacientes como con el personal) y la educación de los usuarios sobre su uso adecuado. Los pacientes valoran saber cuándo la IA les ayuda en su atención (la mayoría prefiere estar informada), y los profesionales sanitarios necesitan formación práctica para usar la IA de forma eficaz y ética. Abordar con éxito estas áreas puede generar confianza en los pacientes, fomentar una adopción adecuada y mitigar los riesgos en la implementación de la IA en la atención médica.

Reconociendo esto, la Alianza de Liderazgo IHI —una red de organizaciones sanitarias que colaboran para cumplir plenamente la promesa del Triple Objetivo— reunió a 10 organizaciones sanitarias diversas en un espacio de Aceleración para identificar directrices prácticas para la adopción de IA en diversos entornos y sistemas. Tras meses de colaboración, estos líderes se centraron en generar perspectivas pragmáticas y prácticas para reducir la brecha entre la innovación y la práctica práctica. La gobernanza de la IA se trató en un artículo anterior, y aquí compartimos perspectivas clave sobre la transparencia y la educación en IA que las organizaciones sanitarias pueden implementar hoy mismo.

La importancia de la transparencia de la IA para pacientes y médicos

Existe una creciente conciencia entre los pacientes y el público sobre el papel de la IA en la vida diaria, incluyendo su aplicación en la atención médica. Las encuestas indican que la mayoría de los pacientes prefieren estar informados cuando se utiliza IA durante su atención. Si bien las explicaciones técnicas detalladas pueden no ser necesarias, las personas generalmente buscan garantías de que las aplicaciones de IA se gestionen de forma responsable y segura. La transparencia organizacional —garantizar que los profesionales sanitarios y el personal sepan cuándo y cómo utilizar las herramientas de IA— también se considera importante para mantener la seguridad y la rendición de cuentas.

Una comunicación clara sobre el uso de la IA puede fomentar la confianza entre pacientes y profesionales sanitarios. Si los pacientes se enteran de la presencia de IA sin previo aviso, podría afectar negativamente su percepción de la atención. Por otro lado, informar a los pacientes sobre el uso de la IA, cuando corresponda, puede contribuir a su compromiso y confianza en los servicios sanitarios. Para los profesionales sanitarios, comprender qué herramientas de IA están autorizadas y son adecuadas les permite proporcionar información precisa a los pacientes e incorporarlas en su práctica según sea necesario.

Informar a los pacientes sobre la IA: equilibrar la transparencia y el consentimiento

Las organizaciones pueden informar eficazmente a los pacientes sobre la IA mediante un enfoque de transparencia escalonado:

• Divulgación general: Para usos rutinarios de IA (como ayudar a radiólogos o redactar notas de visitas), proporcione un aviso general mediante actualizaciones de políticas o comunicaciones generales. Este "consentimiento comunitario" mantiene informados a los pacientes sin requerir el consentimiento individual en cada ocasión.
• Transparencia en el punto de atención: Si la IA interactúa directamente con los pacientes (p. ej., tecnología de grabación ambiental que graba conversaciones), utilice folletos, folletos o notificaciones verbales claras en el punto de atención. Esto tranquiliza a los pacientes y busca su consentimiento sin necesidad de papeleo adicional.
• IA de alto riesgo/autónoma o humana fuera del circuito (HOOTL): para la IA que opera de forma independiente o representa un riesgo significativo, busque el consentimiento informado explícito o tenga conversaciones detalladas antes de su uso, similar al consentimiento para pruebas invasivas.
• Comunicación continua: actualice periódicamente a los pacientes sobre nuevas herramientas de IA a través de correos electrónicos, portales de pacientes o resúmenes de atención (por ejemplo, etiquetando las secciones como "asistidas por IA").
• Claridad y accesibilidad : evite los detalles técnicos; concéntrese en por qué se utiliza la IA y sus beneficios para la atención al paciente.

Este enfoque proporciona transparencia sin abrumar a los pacientes, fomentando la confianza y manteniendo una atención eficiente.

Un ejemplo concreto: la transparencia de la IA ambiental Scribe

Una clínica de atención primaria implementó un sistema de IA ambiental que registra las conversaciones entre médico y paciente (con consentimiento) para crear notas clínicas. El enfoque de transparencia escalonada se utiliza de la siguiente manera:

• Notificación al paciente: Avisos en las salas de examen, la documentación y el portal del paciente informan a los pacientes que su visita podría ser grabada por una IA segura para fines de documentación. Se les informa a los pacientes que el audio es confidencial, se usa solo para notas y pueden optar por no participar o hacer preguntas.
• Asentimiento verbal: Los médicos recuerdan a los pacientes sobre la transcripción de IA al inicio de la consulta, explicando sus beneficios y asegurándoles que la grabación se eliminará después de tomar notas. Los pacientes pueden rechazarla en cualquier momento.
• Resultado: Los ensayos clínicos mostraron una alta aceptación por parte de los pacientes, con explicaciones claras. Los médicos informaron una mayor atención a los pacientes, y las encuestas indicaron que los profesionales clínicos les dedicaron una atención completa el 90 % del tiempo, en comparación con el 49 % anterior. Este enfoque de transparencia y autorización fomenta la confianza y respeta la autonomía.

Educar y capacitar a los usuarios de IA: garantizar un uso seguro y eficaz

Los profesionales sanitarios deben recibir una formación exhaustiva para comprender tanto las capacidades como las limitaciones de las herramientas de IA. Una mala comprensión de estas puede llevar a un uso indebido o a la falta de adopción, por lo que una formación integral y unas directrices claras son esenciales. A continuación, se presentan los aspectos clave de la formación en IA que recomendamos para el personal sanitario:

• Capacitación específica para cada rol: adapte los módulos de capacitación a los diferentes roles del personal, centrándose en tareas prácticas y escenarios relevantes para cada grupo.
• Sea práctico: Evite los detalles técnicos excesivos. Enfatice el uso, las limitaciones y la interpretación de las herramientas, destacando las aplicaciones prácticas y el uso responsable.
• Formatos atractivos: Utilice métodos interactivos como videos, talleres, hojas de consejos y simulaciones para un aprendizaje breve y práctico. Contrate a "campeones de IA" para apoyar a sus compañeros.
• Políticas y pautas: asegúrese de que los usuarios conozcan las políticas de la organización, las herramientas aprobadas, las reglas de privacidad de datos y la respuesta adecuada a errores o fallos de funcionamiento de la IA.
• Acceso a más información: proporcione acceso fácil a información detallada de la herramienta, como resúmenes de validación o preguntas frecuentes, para generar confianza y comprensión de los usuarios.
• Mecanismos de retroalimentación: configure canales de retroalimentación sencillos para que los usuarios de primera línea puedan informar problemas, hacer preguntas y contribuir a las mejoras.
• Capacitación continua y de actualización : ofrecer educación continua a través de actualizaciones y repasos, pasando del uso básico a la optimización a medida que el personal gana confianza.

Formalización de la transparencia y la rendición de cuentas

Muchas organizaciones están creando políticas formales para promover la transparencia en torno al uso de la IA:

• Política de Transparencia de la IA: Desarrollar una declaración oficial que describa cuándo se utiliza la IA, la notificación a los pacientes, el consentimiento, la privacidad y la supervisión humana. La aprobación de la junta directiva puede ayudar a asignar recursos para capacitación y supervisión.
• Avisos de privacidad: agregar un lenguaje claro en los Avisos de prácticas de privacidad (NPP) para informar a los pacientes sobre el uso de IA en su atención, enfatizando la supervisión y las salvaguardas del médico.
• Gobernanza y supervisión: establezca o asigne un comité de supervisión para monitorear la implementación de la IA, garantizar el cumplimiento, realizar un seguimiento de los comentarios y mantener la capacitación actualizada.
• Marco de Consentimiento Basado en el Riesgo: Clasifique las herramientas de IA por nivel de riesgo: las herramientas de bajo riesgo pueden requerir solo una divulgación general, mientras que las de alto riesgo requieren consentimiento explícito. Defina estas categorías para que el personal comprenda los protocolos de consentimiento.

En última instancia, fomentar la confianza a través de la apertura y la educación ayuda a garantizar a los pacientes que la IA se utiliza de manera responsable, anticipando preocupaciones y fortaleciendo la confianza pública en la atención médica.

Conclusión: Fomentar una cultura de transparencia y aprendizaje

La integración efectiva de la inteligencia artificial en la atención médica depende fundamentalmente de una transparencia significativa y una educación integral. Es fundamental que los pacientes estén informados constantemente cuando la IA interviene en su atención, independientemente de su familiaridad con los detalles técnicos, garantizando así que sigan participando activamente y conscientemente en su proceso de tratamiento. De igual manera, los profesionales clínicos y el personal sanitario deben abordar la implementación de herramientas de IA con confianza, respaldados por sólidos programas de capacitación y directrices operativas claras.

La atención médica es inherentemente colaborativa, y a medida que los sistemas de IA se convierten en miembros integrales de este equipo, es importante introducir y capacitar estas tecnologías con la misma diligencia que se aplica al personal nuevo. Al adoptar una estrategia abierta y deliberada para la incorporación de la IA, las organizaciones pueden optimizar las ventajas de estas tecnologías —como una mayor eficiencia, una mejor comprensión y un mejor apoyo—, a la vez que mantienen firmemente la confianza y la seguridad del paciente.

Para obtener más información sobre la IHI Leadership Alliance y las oportunidades de participar en futuros Aceleradores de IA, visite nuestro sitio web.

Brett Moran, MD, es vicepresidente sénior y director de salud de Parkland Health.

Amy Weckman, MSN, APRN-CNP, CPHQ, CPPS, es directora de IHI .

Natalie Martínez, MPH, es Gerente de Proyectos del IHI .

Foto de rawpixel.com

También te puede interesar:

• Gobernanza de la IA: maximizar los beneficios y minimizar los daños para pacientes, proveedores y sistemas de salud
• Podcast Enciende las Luces: Inteligencia Artificial para la Atención Médica a toda velocidad

• Lea más sobre la IHI Leadership Alliance y cómo unirse a este grupo de innovadores.