par Dans son communiqué de presse daté du 18 janvier 2024, l’Organisation mondiale de la Santé (OMS) rend publiques les nouvelles lignes directrices sur l’éthique et la gouvernance des grands modèles multimodaux (LMM). Il s’agit d’un type de technologie d’intelligence artificielle (IA) générative à croissance rapide qui s’applique à l’ensemble des soins de santé.
Quid de l’intelligence artificielle ?
Selon le site https://www.cnil.fr/ l’intelligence artificielle (ou IA) représente tout outil utilisé par une machine afin de reproduire des comportements liés aux humains, tels que le raisonnement, la planification et la créativité. De plus en plus présente dans notre quotidien, elle n’est pas une technologie à proprement parler mais plutôt un domaine scientifique dans lequel des outils peuvent être classés lorsqu’ils respectent certains critères. Cette notion peut être élargie en incluant les comportements dépassant les capacités humaines, puisque les ordinateurs actuels parviennent aujourd’hui à les surpasser dans certaines tâches (bien que la compétence de l’ordinateur s’arrête généralement à l’exécution de cette tâche). À titre d’exemple, le système d’IA AlphaGo, capable de battre le champion du jeu de go Lee Sedol, est très doué pour élaborer des stratégies à ce jeu, mais ses capacités s’arrêtent ici. Il sera incapable de jouer aux échecs ou d’effectuer d’autres tâches tant que celles-ci ne lui auront pas été inculquées. Tout système mettant en œuvre des mécanismes proches de celui d’un raisonnement humain pourrait ainsi être qualifié d’intelligence artificielle.
Les lignes directrices de l’OMS énoncent plus de 40 recommandations à l’intention des gouvernements, des entreprises technologiques et des fournisseurs de soins de santé afin d’assurer l’utilisation appropriée des MMT pour promouvoir et protéger la santé des populations.
« Les technologies d’IA générative ont le potentiel d’améliorer les soins de santé, mais seulement si ceux qui développent, réglementent et utilisent ces technologies identifient et prennent pleinement en compte les risques associés », a déclaré le Dr Jeremy Farrar, scientifique en chef de l’OMS. « Nous avons besoin d’informations et de politiques transparentes pour gérer la conception, le développement et l’utilisation des LMM afin d’obtenir de meilleurs résultats en matière de santé et de surmonter les inégalités persistantes en matière de santé. »
Avantages et risques potentiels
Les nouvelles lignes directrices de l’OMS décrivent cinq grandes applications des LMM pour la santé :
- Diagnostic et soins cliniques, comme répondre aux questions écrites des patients ;
- Utilisation guidée par le patient, par exemple pour l’examen des symptômes et le traitement ;
- Tâches de bureau et administratives, telles que documenter et résumer les visites des patients dans les dossiers de santé électroniques ;
- la formation médicale et infirmière, y compris la mise à disposition de stagiaires avec des rencontres simulées avec des patients ;
- La recherche scientifique et le développement de médicaments, y compris pour identifier de nouveaux composés.
Bien que les LMM commencent à être utilisés à des fins spécifiques liées à la santé, il existe également des risques documentés de produire des déclarations fausses, inexactes, biaisées ou incomplètes, ce qui pourrait nuire aux personnes qui utilisent ces informations pour prendre des décisions en matière de santé. De plus, les LMM peuvent être formés sur la base de données de mauvaise qualité ou biaisées, que ce soit en fonction de la race, de l’origine ethnique, de l’ascendance, du sexe, de l’identité de genre ou de l’âge.
Les lignes directrices détaillent également les risques plus larges pour les systèmes de santé, tels que l’accessibilité et l’abordabilité des LMM les plus performants. Les LMMS peuvent également encourager le « biais d’automatisation » de la part des professionnels de la santé et des patients, qui négligent des erreurs qui auraient autrement été identifiées ou des choix difficiles sont indûment délégués à un LMM. Les LMM, comme d’autres formes d’IA, sont également vulnérables aux risques de cybersécurité qui pourraient mettre en danger les informations des patients ou la fiabilité de ces algorithmes et de la prestation de soins de santé en général.
Pour créer des MMT sûres et efficaces, l’OMS souligne la nécessité d’impliquer les différentes parties prenantes : gouvernements, entreprises technologiques, prestataires de soins de santé, patients et société civile, à tous les stades de développement et de déploiement de ces technologies, y compris leur surveillance et leur réglementation.
« Les gouvernements de tous les pays doivent coopérer pour réglementer efficacement le développement et l’utilisation des technologies d’IA, telles que les LMM », a déclaré le Dr Alain Labrique, Directeur de l’OMS pour la santé numérique et l’innovation à la Division des sciences.
Principales recommandations
Les nouvelles lignes directrices de l’OMS comprennent des recommandations à l’intention des gouvernements, qui ont la responsabilité première d’établir des normes pour l’élaboration et le déploiement des LMM, ainsi que pour leur intégration et leur utilisation à des fins de santé publique et médicales. Par exemple, les gouvernements devraient :
- Investir ou fournir une infrastructure publique ou à but non lucratif, y compris la puissance de calcul et les ensembles de données publics, accessible aux développeurs des secteurs public, privé et sans but lucratif, qui exige des utilisateurs qu’ils adhèrent à des principes et à des valeurs éthiques en échange de l’accès.
- Utiliser les lois, les politiques et les règlements pour s’assurer que les LMM et les applications utilisées dans les soins de santé et la médecine, quels que soient les risques ou les avantages associés à la technologie de l’IA, respectent les obligations éthiques et les normes en matière de droits de la personne qui affectent, par exemple, la dignité, l’autonomie ou la vie privée d’une personne.
- Confiez à un organisme de réglementation existant ou nouveau le soin d’évaluer et d’approuver les MMT et les demandes destinées à être utilisées dans le domaine des soins de santé ou de la médecine, dans la mesure où les ressources le permettent.
- Mettre en place des audits post-publication et des évaluations d’impact obligatoires, y compris pour la protection des données et les droits de l’homme, par des tiers indépendants lorsqu’un LMM est déployé à grande échelle. L’audit et les analyses d’impact devraient être publiés et inclure des résultats et des impacts ventilés par type d’utilisateur, y compris, par exemple, en fonction de l’âge, de la race ou du handicap.
