Segurança do Paciente e Inteligência Artificial

Relatório do Painel de Especialistas do IHI Lucian Leape Institute
Segurança do Paciente e Inteligência Artificial
Segurança do Paciente e Inteligência Artificial
"Como uma ferramenta de suporte, a IA pode economizar tempo dos médicos e ajudá-los a avaliar casos de pacientes, melhorar a precisão do diagnóstico e reduzir custos, orientando os médicos para os exames mais econômicos."
Relatório do Painel de Especialistas do IHI Lucian Leape Institute
Segurança do Paciente e Inteligência Artificial
Segurança do Paciente e Inteligência Artificial
"Embora a IA genética possa melhorar a qualidade do atendimento, reduzir custos e aprimorar as experiências dos pacientes e dos médicos, essas ferramentas também apresentam falhas que podem comprometer a segurança do paciente."
Relatório do Painel de Especialistas do IHI Lucian Leape Institute
Segurança do Paciente e Inteligência Artificial
Segurança do Paciente e Inteligência Artificial
"Os chatbots oferecem a oportunidade de expandir o acesso ao atendimento e democratizar o acesso a informações confiáveis sobre assistência médica."
Relatório do Painel de Especialistas do IHI Lucian Leape Institute
Segurança do Paciente e Inteligência Artificial
Segurança do Paciente e Inteligência Artificial
"A necessidade de supervisão humana dos resultados clínicos da genAI representará um grande desafio para a segurança do paciente."
Relatório do Painel de Especialistas
Segurança do Paciente e Inteligência Artificial: Oportunidades e Desafios para a Prestação de Cuidados
O painel de especialistas do IHI Lucian Leape Institute analisou e discutiu três casos de uso que destacam áreas onde a inteligência artificial generativa (genAI) pode impactar significativamente a segurança do paciente: suporte à documentação, suporte à decisão clínica e chatbots voltados para o paciente. O painel também discutiu as implicações mais amplas da genAI para a área da segurança do paciente e o trabalho dos profissionais de segurança.
O objetivo do painel de especialistas era identificar áreas onde a genAI poderia aumentar a segurança, nomear ameaças potenciais e sugerir maneiras de maximizar os benefícios e minimizar os danos.
Com base na revisão e discussão do painel de especialistas sobre as implicações da IA para a segurança do paciente, o LLI publicou um relatório, Segurança do Paciente e Inteligência Artificial: Oportunidades e Desafios para a Prestação de Cuidados , que resume:
- Para os três casos de uso, os potenciais benefícios, riscos e desafios da implementação da genAI no atendimento clínico;
- Uma revisão detalhada das estratégias de mitigação e monitoramento e das recomendações do painel de especialistas; e
- Uma avaliação das implicações da genAI para o campo da segurança do paciente.
Juntamente com essas recomendações, outras medidas de proteção devem ser implementadas com base nas seguintes preocupações destacadas pelo painel:
- Confiar apenas nos médicos para verificar a precisão dos resultados e recomendações da IA é uma estratégia de segurança não confiável.
- O risco de desqualificação é alto e exigirá estratégias proativas de mitigação.
- As eficiências impulsionadas pela IA simplesmente resultarão em mais tarefas atribuídas aos médicos, sem alívio de sua carga de trabalho e carga cognitiva atuais.
Principais descobertas
- A GenAI veio para ficar e crescerá e evoluirá rapidamente.
- Há benefícios e riscos potenciais que devem ser abordados.
- Muitas das preocupações com segurança estão relacionadas à confiabilidade, que decorrem em parte da precisão e em parte dos desafios de descobrir quais informações são confiáveis.
- Outras questões importantes relacionadas à segurança precisam ser consideradas, incluindo transparência, a importância da conexão humana, equidade e muito mais.
- Alguns desafios serão abordados por órgãos reguladores ou de acreditação em nível federal; muito será determinado localmente, particularmente por programas de governança e segurança dentro dos sistemas de saúde.
Recomendações do Painel de Especialistas
Os membros do painel estão entusiasmados com o potencial das ferramentas de IA genética para reduzir o esgotamento e a carga cognitiva dos médicos, facilitar a implementação de práticas baseadas em evidências, melhorar a precisão diagnóstica e, potencialmente, reduzir custos. Eles também levantaram preocupações sobre os inúmeros riscos potenciais à segurança do paciente que precisam ser identificados, mitigados e monitorados.
Na busca pelo desenvolvimento contínuo de ferramentas genAI e sua integração na prestação de cuidados clínicos, o painel de especialistas fez as seguintes recomendações:
- Atender e proteger o paciente.
- Aprenda com os médicos, envolva-os e ouça-os.
- Avalie e garanta a eficácia da IA e a ausência de viés.
- Estabelecer governança, supervisão e orientação rigorosas de IA tanto para sistemas individuais de prestação de serviços de saúde quanto para o governo federal.
- Seja intencional com o design, implementação e avaliação contínua de ferramentas de IA.
- Participe da aprendizagem colaborativa em todos os sistemas de saúde.
Considerações para grupos-chave
O relatório também inclui recomendações específicas e estratégias de mitigação para grupos-chave:
- Pacientes e defensores de pacientes
- Clínicos
- Profissionais de qualidade e segurança do paciente
- Sistemas de saúde
- Desenvolvedores GenAI
- Pesquisadores
- Reguladores e formuladores de políticas
O IHI é grato à Fundação Gordon e Betty Moore pelo generoso financiamento que apoiou a convocação do painel de especialistas e a criação e disseminação do relatório.
Relatório de Segurança do Paciente e IA
O relatório completo inclui a análise do painel de três casos de uso clínico (benefícios, riscos e desafios), recomendações e estratégias de mitigação, uma avaliação do impacto da genAI no campo da segurança do paciente e considerações para grupos-chave.
Ver relatório
Painel de Especialistas
O IHI Lucian Leape Institute agradece aos especialistas que contribuíram para este trabalho. [Asterisco (*) indica membros do LLI.]
Copresidentes
- Robert Wachter, MD,* Professor e Presidente do Departamento de Medicina da Universidade da Califórnia, São Francisco
- Kaveh Shojania, MD, Professor e Vice-Presidente (Qualidade e Inovação), Departamento de Medicina, Universidade de Toronto
Participantes especialistas
- Nasim Afsar, MD, MBA, MHM, Diretor de Saúde, Oracle
- David Bates, MD, MS, Chefe de Medicina Interna Geral, Hospital Brigham and Women's; Professor de Medicina, Escola Médica de Harvard
- Leah Binder, MA, MGA, Presidente e CEO, The Leapfrog Group
- David Classen, MD, MS, Professor de Medicina, Faculdade de Medicina da Universidade de Utah; Diretor de Informações Médicas, Pascal Metrics
- Pamela Cipriano, PhD, Enfermeira, NEA-BC, FAAN, Presidente, Conselho Internacional de Enfermeiros; Professora, Escola de Enfermagem da Universidade da Virgínia
- Patricia Folcarelli, PhD, MA, RN, Vice-presidente Sênior, Serviços de Atendimento ao Paciente e Diretora de Enfermagem, Beth Israel Deaconess Medical Center
- Tejal Gandhi, MD, MPH, CPPS, Diretor de Segurança e Transformação, Press Ganey
- Eric Horvitz, MD, PhD, Diretor Científico, Microsoft
- Gary Kaplan, MD, FACMPE,* Ex-CEO, Virginia Mason Franciscan Health; Presidente, Lucian Leape Institute
- Della Lin, MS, MD, FASA, Consultora; Diretora Executiva, Anesthesia Patient Safety Foundation; Médica Líder, Hawaii Safer Care
- Kedar Mate, MD,* Presidente e CEO, Institute for Healthcare Improvement
- Muhammad Mamdani, MPH, MA, PharmD, Vice-presidente, Ciência de Dados e Análise Avançada, Unity Health Toronto
- Patricia McGaffigan, MS, CPPS, Vice-presidente de Segurança do Paciente, Institute for Healthcare Improvement
- Genevieve Melton-Meaux, MD, PhD, Diretora de Análise e Inovação em Cuidados, M Health Fairview
- Eric Poon, MD, MPH, Diretor de Informações de Saúde, Duke Health
- Vardit Ravitsky, PhD, Presidente e CEO, The Hastings Center
- Tina Shah, MD, MPH, Diretora Clínica, Abridge
- Rod Tarrago, MD, Líder de Informática Clínica, Amazon Web Services, Medicina Acadêmica
- Beth Daley Ullem, MBA, cofundadora da Patients for Patient Safety; copresidente do Comitê Diretor de IA da SPS; conselho de diretores do Institute for Healthcare Improvement
Revisores externos: Especialistas em segurança do paciente e IA e membros do LLI*
- Julia Adler-Milstein, PhD, Professora e Chefe da Divisão de Informática Clínica e Transformação Digital, Universidade da Califórnia, São Francisco
- Brian Anderson, MD, Presidente e CEO da Coalition for Health AI (CHAI)
- Joanne Disch, PhD, RN, FAAN,* Professora ad Honorem, Escola de Enfermagem da Universidade de Minnesota
- Michael Howell, MD, MPH, Diretor Clínico e Vice-Diretor de Saúde, Google
- Bob Kocher, MD, Professor Adjunto, Departamento de Política de Saúde da Universidade Stanford; Pesquisador Sênior Não Residente, USC Schaffer Center; Sócio, Venrock
- Julianne Morath, BSN, MS, CPPS,* Coach de Liderança e Consultora; Professora Afiliada, Departamento de Medicina, Universidade de Washington, Seattle
- Charles Vincent, PhD, MPhil,* Professor de Psicologia, Universidade de Oxford; Professor Emérito de Pesquisa em Segurança Clínica, Imperial College, Londres
- Daniel Yang, MD, Vice-presidente de IA e Tecnologias Emergentes, Kaiser Permanente
Recursos adicionais
- Relatório de Inovação do IHI : Inteligência Artificial na Assistência à Saúde: Implicações para a Segurança do Paciente e da Força de Trabalho
- Aprendendo Juntos: Perguntas e Insights sobre Inteligência Artificial e Melhoria da Qualidade
- 5 conclusões de uma discussão sobre IA generativa e QI
- Inteligência Artificial, Privacidade de Dados e Como Manter os Pacientes Seguros Online
- A geração atual de ferramentas de IA: três considerações para líderes de qualidade
- Inteligência Artificial na Saúde: Peter Lee sobre Empatia, Empoderamento e Equidade
O Impacto da IA na Segurança dos Pacientes (gravação do webinar do IHI : 19 de agosto de 2024)
Neste webinar provocativo e oportuno, especialistas em segurança de renome mundial compartilharão insights e recomendações de um relatório recente sobre segurança do paciente e inteligência artificial (IA), incluindo uma análise dos benefícios, riscos e monitoramento e mitigação de riscos para três aplicações clínicas de IA generativa.O Impacto da IA no Campo da Segurança do Paciente (gravação do webinar do IHI : 11 de setembro de 2024)
Neste webinar, especialistas em segurança de renome mundial explorarão como a inteligência artificial generativa tem o potencial de transformar o trabalho dos profissionais de segurança do paciente e de qualidade.
Sobre o IHI Lucian Leape Institute
Composto por líderes de pensamento internacionais com um interesse comum na segurança do paciente, o IHI Lucian Leape Institute funciona como um grupo de reflexão para identificar novas abordagens para melhorar a segurança do paciente.