Governança de IA: maximizando benefícios e minimizando danos para pacientes, provedores e sistemas de saúde

A inteligência artificial está transformando rapidamente a área da saúde, mas as orientações práticas para sua governança ainda são limitadas – especialmente para organizações sem equipes ou infraestrutura dedicadas à IA. Para suprir essa lacuna, a Aliança de Liderança do IHI convocou um Acelerador de IA*, reunindo líderes de 10 organizações de saúde diversas para ir além da teoria de alto nível e identificar estratégias acionáveis ​​para uma implementação responsável e eficaz da IA.

À medida que a inteligência artificial (IA) se torna cada vez mais incorporada ao ecossistema da saúde, as estruturas de governança precisam evoluir para garantir que seu uso seja seguro, eficaz e responsável. Da supervisão pré-implantação ao monitoramento pós-comercialização, os sistemas de saúde enfrentam o desafio de gerenciar não apenas a tecnologia em si, mas também suas implicações organizacionais, éticas e clínicas.

As discussões sobre governança de IA em diversas organizações de saúde revelam a necessidade crítica de orientações práticas, escaláveis ​​e focadas nos resultados dos pacientes. A seguir, quatro conclusões importantes do Acelerador de IA da Leadership Alliance que os sistemas de saúde podem aplicar ao desenvolver ou refinar suas estruturas de governança de IA.

1. Adote uma abordagem de governança ampla e integrada

Sejam as estruturas de governança de IA grupos autônomos ou integradas a estruturas existentes, elas devem ser abrangentes e integrar tanto a expertise em conteúdo de domínio quanto a competência em IA. Abaixo estão algumas das características importantes da governança de IA:

• Multidisciplinar : as estruturas de governança devem reunir as partes interessadas relevantes, como informática médica, liderança clínica, jurídico, conformidade, segurança e qualidade, ciência de dados, bioética e defensores dos pacientes.
• Integrado : a governança da IA ​​deve se tornar uma parte rotineira do ecossistema mais amplo do sistema de saúde, não uma   grupo ad hoc com um processo de ponta a ponta: validação pré-implementação, limites explícitos de aprovação/reprovação e monitoramento contínuo após a ativação.
• Altamente funcional : no mínimo, o grupo deve definir uma política de IA empresarial, priorizar casos de uso, avaliar o risco e o impacto da IA ​​e definir explicitamente o que conta como “IA governável”.

2. Construir governança com capacidades escaláveis ​​e responsabilização clara

Um modelo prático de governança de IA deve ser capaz de escalar para diversas funções e instituições — desde grandes centros acadêmicos até hospitais menores com redes de segurança. Considere os seguintes princípios estruturais:

• Coordenação central com responsabilidade local : a governança deve esclarecer quem tem o controle, como os danos são relatados e como a escalada funciona quando surgem problemas de desempenho da IA.
• Gerenciamento de inventário e ciclo de vida : mantenha uma lista ativa de todas as ferramentas de IA em uso e implemente processos estruturados de avaliação e monitoramento.
• Avaliação equilibrada : evite super ou subavaliar ferramentas de IA. A governança deve facilitar avaliações razoáveis ​​e contextualizadas do desempenho do modelo.

3. Priorize os resultados do paciente em detrimento do desempenho do modelo

A governança da IA ​​deve se concentrar menos na precisão técnica de um modelo isolado e mais no impacto real nos resultados dos pacientes. Laboratórios de garantia, embora úteis, podem ser insuficientes se os modelos forem testados em ambientes que não refletem a diversidade ou os cenários de atendimento do mundo real. Os sistemas de saúde devem considerar:

• Esta ferramenta de IA melhora os resultados para nossa população de pacientes?
• Qual é o nível mínimo aceitável de benefício e quanto risco de dano estamos dispostos a aceitar?
• Como monitoramos o desempenho da IA ​​após a implantação e sinalizamos quando ela começa a apresentar desempenho inferior?

Essa mentalidade ajuda a garantir que a estrutura de governança esteja ajustada à relevância clínica e à responsabilidade, em vez de métricas de modelos abstratos.

4. Prepare-se para lacunas regulatórias e crie supervisão interna

Há uma notável ausência de regulamentação federal consistente em torno da IA ​​na área da saúde. Isso deixa os usuários finais — médicos, equipes de TI e líderes de sistema — os principais responsáveis ​​por determinar o que é seguro, eficaz e apropriado. Em resposta, os sistemas de saúde devem:

• Estabeleça mecanismos internos de denúncia de danos e defina claramente os caminhos de escalonamento.
• Defina padrões mínimos para compartilhamento de dados e relacionamentos com fornecedores para controlar riscos e proteger as informações dos pacientes.
• Defender e elaborar processos de vigilância pós-comercialização, incluindo reavaliação de modelos de rotina e auditorias de desempenho.
• Inclua aplicativos de IA não clínicos (por exemplo, automação de documentação, processamento de reivindicações) na governança, garantindo que eles também demonstrem valor organizacional.

A responsabilidade invertida — em que o sistema de saúde é responsável pela validação da IA ​​em vez do fornecedor ou regulador — exige uma abordagem deliberada e autogerida que seja cautelosa, mas não paralisante.

Conclusão

Seja você um grande centro médico acadêmico ou um pequeno hospital comunitário, o objetivo da governança de IA é o mesmo: maximizar os benefícios e minimizar os danos para pacientes, provedores e o sistema. Ao adotar uma estrutura de governança ampla e integrada, priorizando resultados centrados no paciente e se preparando para a incerteza regulatória, as organizações de saúde podem aproveitar o poder da IA ​​de forma responsável.

Governança não é apenas uma salvaguarda — é a estrutura que mantém tudo unido. À medida que a IA se torna um elemento permanente na área da saúde, uma governança criteriosa fará a diferença entre ferramentas que meramente funcionam e aquelas que realmente transformam o atendimento.

* Um Acelerador é uma iniciativa da Aliança de Liderança que reúne líderes da área da saúde para promover melhorias na área e impulsionar mudanças transformadoras na área. Um grupo global de colaboradores incuba teorias de design de sistemas emergentes e não testadas, desenvolve e expande a expertise no assunto e testa modelos de implementação. Para saber mais sobre a IHI Leadership Alliance e oportunidades de participar de futuros Aceleradores de IA, visite nosso site.

O Dr. Charles E. Binkley, MD, FACS, HEC-C, é o Diretor de Ética e Qualidade de IA na Hackensack Meridian Health e Professor Associado de Cirurgia na Hackensack Meridian School of Medicine.

Amy Weckman, MSN, APRN-CNP, CPHQ, CPPS, é Diretora do IHI .

Natalie Martinez, MPH, é gerente de projetos do IHI .

Foto de Freepik

Você também pode estar interessado em:

• Relatório do IHI Lucian Leape Institute : Segurança do Paciente e Inteligência Artificial: Oportunidades e Desafios para a Prestação de Cuidados
• Podcast Turn on the Lights: IA em alta velocidade na área da saúde
• Artigo sobre inovação em saúde: Por que é crucial envolver enfermeiros nos processos de desenvolvimento de IA

• Saiba mais sobre a IHI Leadership Alliance e como se juntar a este grupo de inovadores