Transparência e Treinamento: Chaves para uma IA Confiável na Assistência Médica

À medida que as tecnologias de inteligência artificial (IA) se tornam mais comuns na área da saúde – desde o suporte à decisão clínica até assistentes de documentação com escuta ambiente – os sistemas de saúde enfrentam dois desafios críticos e interligados: ser transparentes sobre o uso da IA ​​(com pacientes e equipe) e educar os usuários sobre o uso adequado da IA. Os pacientes apreciam saber quando a IA auxilia em seus cuidados (a maioria prefere ser informada), e os médicos precisam de treinamento prático para usar a IA de forma eficaz e ética. Abordar essas áreas com sucesso pode construir a confiança do paciente, incentivar a adoção adequada e mitigar os riscos na implantação da IA ​​na área da saúde.

Reconhecendo isso, a Aliança de Liderança do IHI – uma rede de organizações de saúde que colaboram para cumprir integralmente a promessa do Triplo Objetivo – reuniu 10 organizações de saúde diversas em um espaço de Aceleração para identificar orientações práticas para a adoção de IA em diversos cenários e sistemas. Ao longo de meses de colaboração, esses líderes se concentraram em criar insights pragmáticos e acionáveis ​​para preencher a lacuna entre a inovação e a prática no mundo real. A governança de IA foi abordada em um artigo anterior, e aqui compartilhamos insights importantes sobre transparência e educação em IA que as organizações de saúde podem implementar hoje.

A importância da transparência da IA ​​para pacientes e médicos

Há uma conscientização crescente entre pacientes e o público em geral sobre o papel da IA ​​na vida cotidiana, incluindo sua aplicação na área da saúde. Pesquisas indicam que a maioria dos pacientes prefere ser informada sobre o uso da IA ​​durante seus cuidados. Embora explicações técnicas detalhadas possam não ser necessárias, os indivíduos geralmente buscam garantias de que os aplicativos de IA sejam gerenciados de forma responsável e segura. A transparência organizacional – garantir que médicos e funcionários estejam cientes de quando e como usar ferramentas de IA – também é considerada importante para manter a segurança e a responsabilização.

A comunicação clara sobre o uso da IA ​​pode promover a confiança entre pacientes e profissionais de saúde. Se os pacientes tomarem conhecimento do uso da IA ​​sem notificação prévia, isso poderá afetar negativamente sua percepção do atendimento. Por outro lado, informar os pacientes sobre o uso da IA, quando apropriado, pode contribuir para o engajamento e a confiança dos pacientes nos serviços de saúde. Para os médicos, entender quais ferramentas de IA são autorizadas e apropriadas para uso permite que eles forneçam informações precisas aos pacientes e incorporem essas ferramentas em sua prática conforme necessário.

Informando os pacientes sobre IA: equilibrando transparência e consentimento

As organizações podem informar efetivamente os pacientes sobre IA usando uma abordagem de transparência em camadas:

• Divulgação geral: Para usos rotineiros de IA (como auxílio a radiologistas ou elaboração de notas de consulta), forneça um aviso geral por meio de atualizações de políticas ou comunicações amplas. Esse "consentimento da comunidade" mantém os pacientes informados sem exigir consentimento individual em cada uso.
• Transparência no Ponto de Atendimento: Se a IA interagir diretamente com os pacientes (por exemplo, com tecnologia de gravação de conversas por escriba ambiente), utilize folhetos, panfletos ou notificações verbais claras no ponto de atendimento. Isso tranquiliza os pacientes e busca seu consentimento sem burocracia adicional.
• IA de alto risco/autônoma ou humano fora do circuito (HOOTL): para IA que opera de forma independente ou representa risco significativo, busque consentimento informado explícito ou tenha discussões detalhadas antes do uso, semelhante ao consentimento para testes invasivos.
• Comunicação contínua: atualize regularmente os pacientes sobre novas ferramentas de IA por meio de e-mails, portais de pacientes ou resumos de cuidados (por exemplo, rotulando seções como “assistidas por IA”).
• Clareza e acessibilidade : evite detalhes técnicos; concentre-se no motivo pelo qual a IA é usada e seus benefícios para o atendimento ao paciente.

Essa abordagem proporciona transparência sem sobrecarregar os pacientes, promovendo confiança e mantendo um atendimento eficiente.

Um caso em questão: transparência do Ambient AI Scribe

Uma clínica de atenção primária introduziu um escriba de IA ambiente que registra conversas entre médico e paciente (com consentimento) para criar notas clínicas. A abordagem de transparência em camadas é usada da seguinte forma:

• Notificação ao Paciente: Avisos nas salas de exame, em documentos e no portal do paciente informam aos pacientes que sua consulta pode ser gravada por uma IA segura para fins de documentação. Os pacientes são informados de que o áudio é confidencial, usado apenas para anotações, e que podem optar por não participar ou fazer perguntas.
• Consentimento verbal: Os médicos lembram os pacientes sobre a transcrição da IA ​​no início da consulta, explicando seus benefícios e garantindo que a gravação seja apagada após a tomada de notas. Os pacientes podem recusar a qualquer momento.
• Resultado: Os ensaios clínicos demonstraram alta aceitação pelos pacientes, com explicações claras. Os médicos relataram maior foco nos pacientes, e pesquisas indicaram que os clínicos dedicavam atenção exclusiva em 90% do tempo — em comparação com 49%. Essa abordagem de transparência e permissão incentiva a confiança e respeita a autonomia.

Educar e treinar usuários de IA: garantindo uso seguro e eficaz

Os profissionais de saúde devem ser exaustivamente treinados para compreender tanto as capacidades quanto as limitações das ferramentas de IA. A má compreensão dessas capacidades pode levar ao uso indevido ou à falta de adoção, portanto, treinamento abrangente e diretrizes claras são essenciais. A seguir, apresentamos os principais aspectos da educação e treinamento em IA que recomendamos para a força de trabalho da área da saúde:

• Treinamento específico para cada função: adapte os módulos de treinamento às diferentes funções da equipe, com foco em tarefas práticas e cenários relevantes para cada grupo.
• Mantenha a praticidade: evite detalhes técnicos excessivos. Enfatize o uso, as limitações e a interpretação das ferramentas, destacando aplicações práticas e o uso responsável.
• Formatos envolventes: Use métodos interativos como vídeos, workshops, folhas de dicas e simulações para um aprendizado breve e prático. Contrate "campeões da IA" para apoiar os colegas.
• Políticas e diretrizes: garanta que os usuários conheçam as políticas organizacionais, as ferramentas aprovadas, as regras de privacidade de dados e a resposta adequada a erros ou mau funcionamento da IA.
• Acesso a mais informações: forneça acesso fácil a informações detalhadas da ferramenta, como resumos de validação ou perguntas frequentes, para gerar confiança e compreensão do usuário.
• Mecanismos de feedback: configure canais de feedback diretos para que os usuários da linha de frente possam relatar problemas, fazer perguntas e contribuir com melhorias.
• Treinamento contínuo e de atualização : ofereça educação contínua por meio de atualizações e atualizações, mudando do uso básico para a otimização à medida que a equipe ganha confiança.

Formalizando a transparência e a responsabilização

Muitas organizações estão criando políticas formais para promover a transparência em torno do uso da IA:

• Política de Transparência de IA: Elabore uma declaração oficial descrevendo quando a IA é usada, notificação ao paciente, consentimento, privacidade e supervisão humana. O endosso do conselho pode ajudar a alocar recursos para treinamento e supervisão.
• Avisos de privacidade: adicione linguagem clara nos Avisos de práticas de privacidade (NPP) para informar os pacientes sobre o uso de IA em seus cuidados, enfatizando a supervisão e as salvaguardas do médico.
• Governança e supervisão: crie ou designe um comitê de supervisão para monitorar a implementação da IA, garantir a conformidade, acompanhar o feedback e manter o treinamento atualizado.
• Estrutura de Consentimento Baseada em Risco: Classifique as ferramentas de IA por nível de risco — ferramentas de baixo risco podem exigir apenas divulgação geral, enquanto ferramentas de alto risco exigem consentimento explícito. Defina essas categorias para que a equipe entenda os protocolos de consentimento.

Em última análise, promover a confiança por meio da abertura e da educação ajuda a garantir aos pacientes que a IA é usada de forma responsável, prevenindo preocupações e fortalecendo a confiança do público nos cuidados de saúde.

Conclusão: Promover uma cultura de transparência e aprendizagem

A integração eficaz da inteligência artificial na assistência médica depende fundamentalmente de transparência significativa e educação abrangente. É essencial que os pacientes sejam informados de forma consistente sobre a participação da IA ​​em seus cuidados, independentemente de sua familiaridade com detalhes técnicos, garantindo que permaneçam engajados e participantes conscientes do processo de tratamento. Da mesma forma, médicos e profissionais de saúde devem abordar a implementação de ferramentas de IA com confiança, apoiados por programas de treinamento robustos e diretrizes operacionais claras.

A assistência médica é inerentemente colaborativa e, à medida que os sistemas de IA se tornam membros integrais dessa equipe, é importante introduzir e treinar essas tecnologias com a mesma diligência aplicada aos novos profissionais. Ao adotar uma estratégia aberta e deliberada para incorporar a IA, as organizações podem otimizar as vantagens dessas tecnologias – como maior eficiência, insights aprimorados e suporte aprimorado – ao mesmo tempo em que preservam firmemente a confiança e a segurança do paciente.

Para saber mais sobre a IHI Leadership Alliance e oportunidades de participar de futuros Aceleradores de IA, visite nosso site.

Brett Moran, MD, é vice-presidente sênior e diretor de saúde da Parkland Health.

Amy Weckman, MSN, APRN-CNP, CPHQ, CPPS, é Diretora do IHI .

Natalie Martinez, MPH, é gerente de projetos do IHI .

Foto de rawpixel.com

Você também pode estar interessado em:

• Governança de IA: maximizando benefícios e minimizando danos para pacientes, provedores e sistemas de saúde
• Podcast Turn on the Lights: IA em alta velocidade na área da saúde

• Saiba mais sobre a IHI Leadership Alliance e como se juntar a este grupo de inovadores