Relatório do Painel de Especialistas

Segurança do Paciente e Inteligência Artificial: Oportunidades e Desafios para a Prestação de Cuidados

O painel de especialistas do IHI Lucian Leape Institute analisou e discutiu três casos de uso que destacam áreas onde a inteligência artificial generativa (genAI) pode impactar significativamente a segurança do paciente: suporte à documentação, suporte à decisão clínica e chatbots voltados para o paciente. O painel também discutiu as implicações mais amplas da genAI para a área da segurança do paciente e o trabalho dos profissionais de segurança.

O objetivo do painel de especialistas era identificar áreas onde a genAI poderia aumentar a segurança, nomear ameaças potenciais e sugerir maneiras de maximizar os benefícios e minimizar os danos.

Com base na revisão e discussão do painel de especialistas sobre as implicações da IA ​​para a segurança do paciente, o LLI publicou um relatório, Segurança do Paciente e Inteligência Artificial: Oportunidades e Desafios para a Prestação de Cuidados , que resume:

• Para os três casos de uso, os potenciais benefícios, riscos e desafios da implementação da genAI no atendimento clínico;
• Uma revisão detalhada das estratégias de mitigação e monitoramento e das recomendações do painel de especialistas; e
• Uma avaliação das implicações da genAI para o campo da segurança do paciente.

Juntamente com essas recomendações, outras medidas de proteção devem ser implementadas com base nas seguintes preocupações destacadas pelo painel:

• Confiar apenas nos médicos para verificar a precisão dos resultados e recomendações da IA ​​é uma estratégia de segurança não confiável.
• O risco de desqualificação é alto e exigirá estratégias proativas de mitigação.
• As eficiências impulsionadas pela IA simplesmente resultarão em mais tarefas atribuídas aos médicos, sem alívio de sua carga de trabalho e carga cognitiva atuais.

Principais descobertas

• A GenAI veio para ficar e crescerá e evoluirá rapidamente.
• Há benefícios e riscos potenciais que devem ser abordados.
• Muitas das preocupações com segurança estão relacionadas à confiabilidade, que decorrem em parte da precisão e em parte dos desafios de descobrir quais informações são confiáveis.
• Outras questões importantes relacionadas à segurança precisam ser consideradas, incluindo transparência, a importância da conexão humana, equidade e muito mais.
• Alguns desafios serão abordados por órgãos reguladores ou de acreditação em nível federal; muito será determinado localmente, particularmente por programas de governança e segurança dentro dos sistemas de saúde.

Recomendações do Painel de Especialistas

Os membros do painel estão entusiasmados com o potencial das ferramentas de IA genética para reduzir o esgotamento e a carga cognitiva dos médicos, facilitar a implementação de práticas baseadas em evidências, melhorar a precisão diagnóstica e, potencialmente, reduzir custos. Eles também levantaram preocupações sobre os inúmeros riscos potenciais à segurança do paciente que precisam ser identificados, mitigados e monitorados.

Na busca pelo desenvolvimento contínuo de ferramentas genAI e sua integração na prestação de cuidados clínicos, o painel de especialistas fez as seguintes recomendações:

• Atender e proteger o paciente.
• Aprenda com os médicos, envolva-os e ouça-os.
• Avalie e garanta a eficácia da IA ​​e a ausência de viés.
• Estabelecer governança, supervisão e orientação rigorosas de IA tanto para sistemas individuais de prestação de serviços de saúde quanto para o governo federal.
• Seja intencional com o design, implementação e avaliação contínua de ferramentas de IA.
• Participe da aprendizagem colaborativa em todos os sistemas de saúde.

Considerações para grupos-chave

O relatório também inclui recomendações específicas e estratégias de mitigação para grupos-chave:

• Pacientes e defensores de pacientes
• Clínicos
• Profissionais de qualidade e segurança do paciente
• Sistemas de saúde
• Desenvolvedores GenAI
• Pesquisadores
• Reguladores e formuladores de políticas

O IHI é grato à Fundação Gordon e Betty Moore pelo generoso financiamento que apoiou a convocação do painel de especialistas e a criação e disseminação do relatório.

Painel de Especialistas

O IHI Lucian Leape Institute agradece aos especialistas que contribuíram para este trabalho. [Asterisco (*) indica membros do LLI.]

Copresidentes

• Robert Wachter, MD,* Professor e Presidente do Departamento de Medicina da Universidade da Califórnia, São Francisco
• Kaveh Shojania, MD, Professor e Vice-Presidente (Qualidade e Inovação), Departamento de Medicina, Universidade de Toronto

Participantes especialistas

• Nasim Afsar, MD, MBA, MHM, Diretor de Saúde, Oracle
• David Bates, MD, MS, Chefe de Medicina Interna Geral, Hospital Brigham and Women's; Professor de Medicina, Escola Médica de Harvard
• Leah Binder, MA, MGA, Presidente e CEO, The Leapfrog Group
• David Classen, MD, MS, Professor de Medicina, Faculdade de Medicina da Universidade de Utah; Diretor de Informações Médicas, Pascal Metrics
• Pamela Cipriano, PhD, Enfermeira, NEA-BC, FAAN, Presidente, Conselho Internacional de Enfermeiros; Professora, Escola de Enfermagem da Universidade da Virgínia
• Patricia Folcarelli, PhD, MA, RN, Vice-presidente Sênior, Serviços de Atendimento ao Paciente e Diretora de Enfermagem, Beth Israel Deaconess Medical Center
• Tejal Gandhi, MD, MPH, CPPS, Diretor de Segurança e Transformação, Press Ganey
• Eric Horvitz, MD, PhD, Diretor Científico, Microsoft
• Gary Kaplan, MD, FACMPE,* Ex-CEO, Virginia Mason Franciscan Health; Presidente, Lucian Leape Institute
• Della Lin, MS, MD, FASA, Consultora; Diretora Executiva, Anesthesia Patient Safety Foundation; Médica Líder, Hawaii Safer Care
• Kedar Mate, MD,* Presidente e CEO, Institute for Healthcare Improvement
• Muhammad Mamdani, MPH, MA, PharmD, Vice-presidente, Ciência de Dados e Análise Avançada, Unity Health Toronto
• Patricia McGaffigan, MS, CPPS, Vice-presidente de Segurança do Paciente, Institute for Healthcare Improvement
• Genevieve Melton-Meaux, MD, PhD, Diretora de Análise e Inovação em Cuidados, M Health Fairview
• Eric Poon, MD, MPH, Diretor de Informações de Saúde, Duke Health
• Vardit Ravitsky, PhD, Presidente e CEO, The Hastings Center
• Tina Shah, MD, MPH, Diretora Clínica, Abridge
• Rod Tarrago, MD, Líder de Informática Clínica, Amazon Web Services, Medicina Acadêmica
• Beth Daley Ullem, MBA, cofundadora da Patients for Patient Safety; copresidente do Comitê Diretor de IA da SPS; conselho de diretores do Institute for Healthcare Improvement

Revisores externos: Especialistas em segurança do paciente e IA e membros do LLI*

• Julia Adler-Milstein, PhD, Professora e Chefe da Divisão de Informática Clínica e Transformação Digital, Universidade da Califórnia, São Francisco
• Brian Anderson, MD, Presidente e CEO da Coalition for Health AI (CHAI)
• Joanne Disch, PhD, RN, FAAN,* Professora ad Honorem, Escola de Enfermagem da Universidade de Minnesota
• Michael Howell, MD, MPH, Diretor Clínico e Vice-Diretor de Saúde, Google
• Bob Kocher, MD, Professor Adjunto, Departamento de Política de Saúde da Universidade Stanford; Pesquisador Sênior Não Residente, USC Schaffer Center; Sócio, Venrock
• Julianne Morath, BSN, MS, CPPS,* Coach de Liderança e Consultora; Professora Afiliada, Departamento de Medicina, Universidade de Washington, Seattle
• Charles Vincent, PhD, MPhil,* Professor de Psicologia, Universidade de Oxford; Professor Emérito de Pesquisa em Segurança Clínica, Imperial College, Londres
• Daniel Yang, MD, Vice-presidente de IA e Tecnologias Emergentes, Kaiser Permanente

Recursos adicionais

• Relatório de Inovação do IHI : Inteligência Artificial na Assistência à Saúde: Implicações para a Segurança do Paciente e da Força de Trabalho
• Aprendendo Juntos: Perguntas e Insights sobre Inteligência Artificial e Melhoria da Qualidade
• 5 conclusões de uma discussão sobre IA generativa e QI
• Inteligência Artificial, Privacidade de Dados e Como Manter os Pacientes Seguros Online
• A geração atual de ferramentas de IA: três considerações para líderes de qualidade
• Inteligência Artificial na Saúde: Peter Lee sobre Empatia, Empoderamento e Equidade

• O Impacto da IA ​​na Segurança dos Pacientes (gravação do webinar do IHI : 19 de agosto de 2024)
  Neste webinar provocativo e oportuno, especialistas em segurança de renome mundial compartilharão insights e recomendações de um relatório recente sobre segurança do paciente e inteligência artificial (IA), incluindo uma análise dos benefícios, riscos e monitoramento e mitigação de riscos para três aplicações clínicas de IA generativa.

• O Impacto da IA ​​no Campo da Segurança do Paciente (gravação do webinar do IHI : 11 de setembro de 2024)
  Neste webinar, especialistas em segurança de renome mundial explorarão como a inteligência artificial generativa tem o potencial de transformar o trabalho dos profissionais de segurança do paciente e de qualidade.

Sobre o IHI Lucian Leape Institute

Composto por líderes de pensamento internacionais com um interesse comum na segurança do paciente, o IHI Lucian Leape Institute funciona como um grupo de reflexão para identificar novas abordagens para melhorar a segurança do paciente.

Saiba mais sobre o LLI