Gobernanza de la IA: maximizar los beneficios y minimizar los daños para pacientes, proveedores y sistemas de salud

La inteligencia artificial está transformando rápidamente la atención médica; sin embargo, las directrices prácticas para su gobernanza siguen siendo limitadas, especialmente para organizaciones que carecen de equipos o infraestructura dedicados a la IA. Para abordar esta deficiencia, la Alianza de Liderazgo del IHI convocó un Acelerador de IA*, que reunió a líderes de 10 organizaciones de atención médica diversas para ir más allá de la teoría general e identificar estrategias viables para una implementación responsable y eficaz de la IA.

A medida que la inteligencia artificial (IA) se integra cada vez más en el ecosistema sanitario, las estructuras de gobernanza deben evolucionar para garantizar que su uso sea seguro, eficaz y responsable. Desde la supervisión previa a la implementación hasta el seguimiento posterior a la comercialización, los sistemas de salud se enfrentan al reto de gestionar no solo la tecnología en sí, sino también sus implicaciones organizativas, éticas y clínicas.

Las conversaciones sobre la gobernanza de la IA en diversas organizaciones sanitarias revelan la necesidad crucial de una orientación práctica, escalable y centrada en los resultados de los pacientes. A continuación, se presentan cuatro conclusiones clave del Acelerador de IA de Leadership Alliance que los sistemas sanitarios pueden aplicar al desarrollar o perfeccionar sus estructuras de gobernanza de la IA.

1. Adoptar un enfoque de gobernanza amplio e integrado

Ya sean grupos independientes o integrados en estructuras existentes, las estructuras de gobernanza de la IA deben ser integrales e integrar tanto la experiencia en el dominio del contenido como la competencia en IA. A continuación, se presentan algunas de las características importantes de la gobernanza de la IA:

• Multidisciplinario : Las estructuras de gobernanza deben reunir a las partes interesadas relevantes, como la informática médica, el liderazgo clínico, el ámbito legal, el cumplimiento, la seguridad y la calidad, la ciencia de datos, la bioética y los defensores de los pacientes.
• Integrado : La gobernanza de la IA debe convertirse en una parte rutinaria del ecosistema más amplio del sistema de salud, no una   grupo ad hoc con un proceso de extremo a extremo: validación previa a la implementación, umbrales explícitos de aprobación o no aprobación y monitoreo continuo una vez en funcionamiento.
• Altamente funcional : como mínimo, el grupo debe establecer una política de IA empresarial, priorizar los casos de uso, evaluar el riesgo y el impacto de la IA y definir explícitamente qué se considera "IA gobernable".

2. Construir una gobernanza con capacidades escalables y una rendición de cuentas clara

Un modelo práctico de gobernanza de la IA debe ser escalable a diversas funciones e instituciones, desde grandes centros académicos hasta hospitales de protección social más pequeños. Considere los siguientes principios estructurales:

• Coordinación central con rendición de cuentas local : la gobernanza debe aclarar quién tiene el control, cómo se informa el daño y cómo funciona la escalada cuando surgen problemas de rendimiento de la IA.
• Gestión de inventario y ciclo de vida : mantenga una lista activa de todas las herramientas de IA en uso e implemente procesos estructurados de evaluación y monitoreo.
• Evaluación equilibrada : Evite sobreevaluar o subestimar las herramientas de IA. La gobernanza debe facilitar evaluaciones razonables y contextualizadas del rendimiento del modelo.

3. Priorizar los resultados del paciente sobre el rendimiento del modelo

La gobernanza de la IA debería centrarse menos en la precisión técnica de un modelo aislado y más en el impacto real en los resultados de los pacientes. Los laboratorios de verificación, si bien son útiles, pueden resultar insuficientes si los modelos se prueban en entornos que no reflejan la diversidad ni los entornos de atención del mundo real. Los sistemas de salud deberían considerar:

• ¿Esta herramienta de IA mejora los resultados para nuestra población de pacientes?
• ¿Cuál es el nivel mínimo aceptable de beneficio y cuánto riesgo de daño estamos dispuestos a aceptar?
• ¿Cómo monitoreamos el desempeño de la IA luego de su implementación y señalamos cuando comienza a tener un rendimiento inferior al esperado?

Esta mentalidad ayuda a garantizar que el marco de gobernanza esté adaptado a la relevancia clínica y la responsabilidad en lugar de a métricas de modelos abstractos.

4. Prepararse para las lagunas regulatorias y desarrollar la supervisión interna

Existe una notable ausencia de regulación federal consistente en torno a la IA en la atención médica. Esto deja a los usuarios finales (médicos, equipos de TI y líderes de sistemas) como principales responsables de determinar qué es seguro, eficaz y apropiado. En respuesta, los sistemas de salud deberían:

• Establecer mecanismos internos de denuncia de daños y definir claramente las vías de escalada.
• Establecer estándares mínimos para el intercambio de datos y las relaciones con los proveedores para controlar el riesgo y proteger la información del paciente.
• Abogar y diseñar procesos de vigilancia posterior a la comercialización, incluidas reevaluaciones rutinarias de modelos y auditorías de desempeño.
• Incluir aplicaciones de IA no clínicas (por ejemplo, automatización de documentación, procesamiento de reclamaciones) en la gobernanza, asegurándose de que también demuestren valor organizacional.

La responsabilidad invertida —donde el sistema de salud es responsable de la validación de la IA en lugar del proveedor o el regulador— requiere un enfoque deliberado y autónomo que sea cauteloso pero no paralizante.

Conclusión

Ya sea un gran centro médico académico o un pequeño hospital comunitario, el objetivo de la gobernanza de la IA es el mismo: maximizar los beneficios y minimizar los daños para los pacientes, los proveedores y el sistema. Al adoptar una estructura de gobernanza amplia e integrada, priorizar los resultados centrados en el paciente y prepararse para la incertidumbre regulatoria, las organizaciones sanitarias pueden aprovechar responsablemente el poder de la IA.

La gobernanza no es solo una salvaguardia, sino el marco que lo mantiene todo unido. A medida que la IA se convierte en un elemento permanente de la atención médica, una gobernanza reflexiva marcará la diferencia entre las herramientas que simplemente funcionan y las que realmente transforman la atención.

* Un Acelerador es una iniciativa de la Alianza de Liderazgo que reúne a líderes del sector salud para impulsar mejoras en el campo e impulsar un cambio transformador en la atención médica. Un grupo global de colaboradores incuba teorías de diseño de sistemas emergentes y no probadas, desarrolla y amplía su experiencia en la materia y prueba modelos de implementación. Para obtener más información sobre la IHI Leadership Alliance y las oportunidades de participar en futuros Aceleradores de IA, visite nuestro sitio web.

El Dr. Charles E. Binkley, MD, FACS, HEC-C, es el Director de Ética y Calidad de IA en Hackensack Meridian Health y Profesor Asociado de Cirugía en la Facultad de Medicina de Hackensack Meridian.

Amy Weckman, MSN, APRN-CNP, CPHQ, CPPS, es directora de IHI .

Natalie Martínez, MPH, es Gerente de Proyectos del IHI .

Foto de Freepik

También te puede interesar:

• Informe del IHI Lucian Leape Institute : Seguridad del paciente e inteligencia artificial: oportunidades y desafíos para la prestación de atención médica
• Podcast Enciende las Luces: Inteligencia Artificial para la Atención Médica a toda velocidad
• Artículo sobre innovación en salud: Por qué es crucial involucrar a las enfermeras en los procesos de desarrollo de IA

• Lea más sobre la IHI Leadership Alliance y cómo unirse a este grupo de innovadores.