Gouvernance de l'IA : maximiser les avantages et minimiser les dommages pour les patients, les prestataires et les systèmes de santé

L'intelligence artificielle transforme rapidement les soins de santé, mais les orientations pratiques pour sa gouvernance restent limitées, en particulier pour les organisations dépourvues d'équipes ou d'infrastructures dédiées à l'IA. Pour combler cette lacune, l' IHI Leadership Alliance a organisé un accélérateur d'IA*, réunissant des dirigeants de dix organisations de santé différentes afin d'aller au-delà de la théorie de haut niveau et d'identifier des stratégies concrètes pour une mise en œuvre responsable et efficace de l'IA.

Alors que l'intelligence artificielle (IA) s'intègre de plus en plus à l'écosystème de la santé, les structures de gouvernance doivent évoluer pour garantir une utilisation sûre, efficace et responsable. De la supervision préalable au déploiement à la surveillance post-commercialisation, les systèmes de santé sont confrontés au défi de gérer non seulement la technologie elle-même, mais aussi ses implications organisationnelles, éthiques et cliniques.

Les discussions autour de la gouvernance de l'IA au sein de divers organismes de santé révèlent un besoin crucial de directives pratiques, évolutives et axées sur les résultats pour les patients. Voici quatre points clés du Leadership Alliance AI Accelerator que les systèmes de santé peuvent appliquer lors du développement ou de l'amélioration de leurs structures de gouvernance de l'IA.

1. Adopter une approche de gouvernance large et intégrée

Que les structures de gouvernance de l'IA soient des groupes autonomes ou intégrées à des structures existantes, elles doivent être complètes et intégrer à la fois l'expertise du domaine et les compétences en IA. Voici quelques caractéristiques importantes de la gouvernance de l'IA :

• Multidisciplinaire : Les structures de gouvernance doivent rassembler les parties prenantes concernées, telles que l’informatique médicale, la direction clinique, les services juridiques, la conformité, la sécurité et la qualité, la science des données, la bioéthique et les défenseurs des patients.
• Intégrée : la gouvernance de l’IA devrait devenir une partie courante de l’écosystème plus large du système de santé, et non une   groupe ad hoc avec un processus de bout en bout : validation préalable à la mise en œuvre, seuils explicites de validation/d'interdiction et surveillance continue une fois en ligne.
• Hautement fonctionnel : Au minimum, le groupe doit définir la politique d’IA de l’entreprise, hiérarchiser les cas d’utilisation, évaluer les risques et l’impact de l’IA et définir explicitement ce qui compte comme « IA gouvernable ».

2. Construire une gouvernance avec des capacités évolutives et une responsabilité claire

Un modèle de gouvernance de l'IA pratique doit pouvoir s'adapter à diverses fonctions et institutions, des grands centres universitaires aux petits hôpitaux de sécurité sociale. Tenez compte des principes structurels suivants :

• Coordination centrale avec responsabilité locale : la gouvernance doit clarifier qui a le contrôle, comment les dommages sont signalés et comment fonctionne l'escalade lorsque des problèmes de performances de l'IA surviennent.
• Gestion des stocks et du cycle de vie : Maintenir une liste active de tous les outils d’IA utilisés et mettre en œuvre des processus d’évaluation et de suivi structurés.
• Évaluation équilibrée : éviter de surévaluer ou de sous-évaluer les outils d'IA. La gouvernance doit faciliter des évaluations raisonnables et contextuelles des performances des modèles.

3. Prioriser les résultats des patients plutôt que la performance du modèle

La gouvernance de l'IA devrait se concentrer moins sur la précision technique d'un modèle isolé et davantage sur son impact réel sur les résultats des patients. Les laboratoires d'assurance, bien qu'utiles, peuvent s'avérer insuffisants si les modèles sont testés dans des environnements qui ne reflètent pas la diversité ou les contextes de soins réels. Les systèmes de santé devraient prendre en compte :

• Cet outil d’IA améliore-t-il les résultats pour notre population de patients ?
• Quel est le niveau minimum acceptable de bénéfice et quel niveau de risque de préjudice sommes-nous prêts à accepter ?
• Comment surveiller les performances de l’IA après son déploiement et signaler quand elle commence à sous-performer ?

Cet état d’esprit permet de garantir que le cadre de gouvernance est adapté à la pertinence clinique et à la responsabilité plutôt qu’à des mesures de modèles abstraits.

4. Préparez-vous aux lacunes réglementaires et renforcez la surveillance interne

Il existe une absence notable de réglementation fédérale cohérente concernant l'IA dans le secteur de la santé. Il incombe donc aux utilisateurs finaux (cliniciens, équipes informatiques et responsables système) de déterminer ce qui est sûr, efficace et approprié. En conséquence, les systèmes de santé devraient :

• Établir des mécanismes internes de signalement des préjudices et définir clairement les voies d’escalade.
• Établissez des normes minimales pour le partage des données et les relations avec les fournisseurs afin de contrôler les risques et de protéger les informations des patients.
• Promouvoir et concevoir des processus de surveillance post-commercialisation, y compris la réévaluation de routine des modèles et les audits de performance.
• Inclure les applications d’IA non cliniques (par exemple, l’automatisation de la documentation, le traitement des réclamations) dans la gouvernance, en veillant à ce qu’elles démontrent également une valeur organisationnelle.

Le renversement de responsabilité — où le système de santé est responsable de la validation de l’IA plutôt que le fournisseur ou le régulateur — nécessite une approche délibérée et autonome qui soit prudente mais pas paralysante.

Résumé

Que vous soyez un grand centre médical universitaire ou un petit hôpital communautaire, l'objectif de la gouvernance de l'IA est le même : maximiser les bénéfices et minimiser les dommages pour les patients, les prestataires et le système. En adoptant une structure de gouvernance large et intégrée, en privilégiant les résultats centrés sur le patient et en se préparant à l'incertitude réglementaire, les établissements de santé peuvent exploiter la puissance de l'IA de manière responsable.

La gouvernance n'est pas seulement une protection : c'est le cadre qui maintient l'ensemble. À mesure que l'IA s'impose comme un élément incontournable des soins de santé, une gouvernance réfléchie fera la différence entre des outils qui fonctionnent simplement et ceux qui transforment véritablement les soins.

* Un Accélérateur est une initiative de l'Alliance de leadership qui rassemble des leaders du secteur de la santé afin de promouvoir des améliorations dans le domaine et de favoriser une transformation profonde des soins. Un groupe mondial de collaborateurs incube des théories de conception de systèmes, nouvelles ou non, développe et approfondit son expertise et teste des modèles de mise en œuvre. Pour en savoir plus sur l' IHI Leadership Alliance et les possibilités de participation aux futurs Accélérateurs d'IA, veuillez consulter notre site web.

Le Dr Charles E. Binkley, MD, FACS, HEC-C, est directeur de l'éthique et de la qualité de l'IA chez Hackensack Meridian Health et professeur associé de chirurgie à la Hackensack Meridian School of Medicine.

Amy Weckman, MSN, APRN-CNP, CPHQ, CPPS, est directrice de IHI .

Natalie Martinez, MPH, est chef de projet IHI .

Photo de Freepik

Vous pourriez également être intéressé par :

• Rapport de IHI Lucian Leape Institute : Sécurité des patients et intelligence artificielle : opportunités et défis pour la prestation de soins
• Podcast « Allumez les lumières » : l'IA dans le domaine de la santé à grande vitesse
• Article sur l'innovation dans le secteur de la santé : Pourquoi il est crucial d'impliquer les infirmières dans les processus de développement de l'IA
• En savoir plus sur l' IHI Leadership Alliance et comment rejoindre ce groupe d'innovateurs
• Inscrivez-vous au cours en ligne « Faire travailler l'IA pour vous »