Potencial e Armadilhas do Uso de IA para Revisão de Eventos de Segurança

A inteligência artificial (IA) está se disseminando rapidamente na área da saúde, mas as evidências de como ela melhora a qualidade e a segurança ainda estão em desenvolvimento. Um relatório do Instituto Lucian Leape do IHI ofereceu orientações sobre como a IA pode apoiar a segurança do paciente por meio da identificação precoce de sinais associados à deterioração e da agregação de eventos adversos graves para aprender com os danos. Com base nisso, a Rede de Diretores de Qualidade (CQO) do IHI, que inclui líderes de diversos países, está explorando ativamente como a IA pode beneficiar de forma significativa o trabalho rotineiro de qualidade e segurança.

Discussões recentes na Rede CQO têm se concentrado especificamente nas potenciais aplicações da IA ​​na revisão e no relato de eventos adversos. Surgiram diferentes pontos de vista. Vários líderes alertam que o uso da IA ​​pode simplificar demais eventos complexos e levar à perda de contexto, especialmente quando as investigações e os recursos subjacentes são insuficientes. A IA pode ampliar as desigualdades se os algoritmos forem tendenciosos. Outros veem potencial na IA para identificar padrões precocemente, apoiar o aprendizado rápido e fortalecer a análise temática em grandes volumes de eventos. Muitos concordam que o valor da IA ​​depende de casos de uso claros, design sistemático e dados confiáveis ​​e imparciais.

Esta troca de informações baseia-se em trabalhos de outros autores, como Sorlie et al ., De Micco et al. , o Instituto Lucian Leape do IHI e outros, que observaram o potencial das ferramentas de IA generativa para apoiar a notificação, a identificação, a análise e a mitigação de eventos adversos na área da saúde. Há poucas evidências concretas que demonstrem o impacto (ou os riscos) de tais usos; no entanto, algumas organizações de saúde adotaram ferramentas de IA para identificar fluxos de trabalho relacionados ao suporte.

Em meio a essas perspectivas contrastantes e à exploração contínua das capacidades da IA, é importante que os líderes da qualidade avaliem tanto os benefícios quanto os riscos do uso da IA.

Oportunidades e riscos a considerar

Diversos benefícios potenciais da IA ​​para o reporte e análise de eventos de segurança podem ser alcançados, incluindo:

• Possibilidade de relatórios de eventos mais rápidos devido à eficiência proporcionada pela tecnologia, facilidade de uso e alinhamento com os fluxos de trabalho de relatórios e revisão de eventos.
• Relatórios de maior qualidade são obtidos pela inclusão de dados relevantes que, de outra forma, poderiam não ser capturados no relatório inicial.
• Sugestões para considerar dados que poderiam ser negligenciados.
• Desenvolvimento de ferramentas de IA para estimular a comunicação precoce de sinais que indicam danos, em vez de analisar eventos já confirmados.
• Identificação de tendências em relatórios agregados para reconhecimento de padrões mais rápido.
• Buscar ações e soluções mais eficazes e baseadas em evidências para mitigar riscos e prevenir danos.

Os possíveis riscos da implementação de IA para revisão de eventos de segurança antes de haver evidências suficientes de sua eficácia incluem:

• Se os relatórios não contiverem detalhes suficientes ou contexto sociotécnico, a síntese por IA poderá resultar em generalizações que não abordam as causas principais e os fatores contribuintes.
• A substituição da análise por IA por um processo mais deliberativo entre múltiplas partes interessadas pode não ser tão robusta, visto que as pessoas compreendem o sistema e as condições melhor do que as ferramentas de IA conseguem nesta fase.
• Recomendações e soluções de segurança abaixo do ideal podem resultar de imprecisões, vieses ou limitações nos dados de treinamento da IA.

É importante estabelecer uma estrutura de governança de IA , incluir pessoal de qualidade e segurança na supervisão da IA ​​e garantir que os algoritmos de IA não estejam propagando preconceitos e desigualdades.

Introdução à IA para análises de eventos de segurança

As tecnologias de IA oferecem um conjunto de ferramentas, mas a notificação de eventos adversos é um processo. Em todos os contextos de saúde, existe uma necessidade crítica de melhorar a qualidade da notificação e revisão de eventos adversos. Uma recomendação fundamental para todos os líderes de qualidade é avaliar seus processos atuais de revisão de eventos para identificar pontos fracos e aprimorar as abordagens existentes. É essencial utilizar processos como a Análise de Causa Raiz ² (ACR 2) e a análise de causa comum, além de garantir que as considerações sociotécnicas relevantes para os eventos — incluindo a voz do paciente e as perspectivas da família — sejam abordadas nos relatórios.

Utilizando a ciência da melhoria da qualidade, as organizações de saúde podem então projetar e testar soluções de IA para a revisão de eventos adversos. Questões-chave a serem consideradas são:

1. Como seria um fluxo de trabalho ideal para a identificação, notificação, análise e resolução de eventos adversos de segurança, considerando as necessidades e limitações dos sistemas atuais (por exemplo, tempo, barreiras de TI, restrições de recursos)?
2. Que papel pode desempenhar a tecnologia, incluindo a IA, para concretizar esse fluxo de trabalho de revisão de eventos?

O objetivo da IA ​​na área da saúde é aprimorar o julgamento humano, não substituí-lo. Ao fortalecer os processos de notificação de segurança existentes, aplicar a ciência da melhoria e garantir uma governança e supervisão robustas, os líderes da qualidade podem moldar ferramentas de IA que impulsionem o aprendizado em vez de complicá-lo. O caminho mais promissor é aquele em que a tecnologia amplifica, e não substitui, a expertise das pessoas mais próximas do cuidado ao paciente.

Nikki Tennermann, LICSW, MBA, é Diretora Sênior de Projetos e Jeff Rakover, MPP, é Diretor do Institute for Healthcare Improvement.

Somos gratos aos líderes da área da qualidade que contribuíram com suas perspectivas para este artigo: Lori Pelletier, PhD, MBA, Diretora de Qualidade e Segurança do Paciente do Connecticut Children's; James Hoffman, PharmD, MS, Vice-Presidente Sênior de Qualidade e Segurança do St. Jude Children's; Navneet Marwaha, MD, Diretor de Qualidade e Segurança do Paciente do Northern Light Health; Sean Martin, MHS, RRT, Vice-Presidente de Serviços Clínicos e Equidade em Saúde, Diretor de Qualidade do Peterborough Regional Health Centre; e Amar Shah, MBBS, MBA, Diretor Clínico Nacional de Melhoria, Inglaterra.

Foto de Accuray no Unsplash

Você também pode se interessar por:

• Saiba mais sobre a Rede CQO
• Relatório do IHI Lucian Leape Institute sobre segurança do paciente e IA  
• Aproveitando a IA para apoiar a melhoria
• Análises e Ações de Causa Raiz (ACR ² )
• Editorial do BMJ Quality and Safety: Pensando e organizando em sistemas: reformulando o antigo problema de aprender com incidentes.
• Ponto de vista da BMJ sobre qualidade e segurança: Avançando a IA na área da saúde: três funções estratégicas para líderes de qualidade e segurança