Pour réglementer et gouverner l'IA, l'OMS a publié de nouvelles directives qui fournissent six principes pour limiter les risques et maximiser les opportunités intrinsèques à l'IA pour la santé.
Gouverner l'IA
De l'OMS Éthique et gouvernance de l'intelligence artificielle pour la santé le rapport souligne que l'IA peut être et est déjà utilisée dans certains pays riches pour améliorer la rapidité et la précision du diagnostic et du dépistage des maladies ; aider aux soins cliniques; renforcer la recherche en santé et le développement de médicaments; et soutenir diverses interventions de santé publique, y compris la riposte aux épidémies et la gestion des systèmes de santé.
L'IA pourrait également donner aux patients les moyens de mieux contrôler leurs propres soins de santé et permettre aux pays pauvres en ressources de combler les lacunes en matière d'accès aux services de santé.
Cependant, le rapport met en garde contre une surestimation de ses avantages pour la santé, en particulier au détriment des investissements et des stratégies de base nécessaires pour parvenir à la couverture sanitaire universelle.
Les défis demeurent
Le nouveau rapport de l'OMS souligne que les opportunités et les risques sont liés et met en garde contre la collecte et l'utilisation contraires à l'éthique des données de santé, les biais encodés dans les algorithmes et les risques pour la sécurité des patients, la cybersécurité et l'environnement.
De plus, il avertit que les systèmes formés principalement sur les données collectées auprès des individus dans les pays à revenu élevé peuvent ne pas bien fonctionner pour les individus dans les milieux à revenu faible et intermédiaire.
Dans ce contexte, l'OMS soutient que les systèmes d'IA doivent être soigneusement conçus pour refléter la diversité des contextes socio-économiques et de soins de santé et s'accompagner d'une formation aux compétences numériques et d'un engagement communautaire.
Ceci est particulièrement important pour les travailleurs de la santé qui ont besoin de connaissances numériques ou de recyclage pour faire face à des machines qui pourraient remettre en question la prise de décision et l'autonomie des prestataires et des patients.
Des principes directeurs
Parce que les gens doivent garder le contrôle des systèmes de soins de santé et des décisions médicales, le premier principe directeur est de protéger l'autonomie humaine.
Deuxièmement, les concepteurs d'IA doivent protéger la vie privée et la confidentialité en fournissant aux patients un consentement éclairé valide par le biais de cadres juridiques appropriés.
Pour promouvoir le bien-être humain et l'intérêt public, le troisième principe demande aux concepteurs d'IA de garantir les exigences réglementaires en matière de sécurité, de précision et d'efficacité, y compris des mesures de contrôle de la qualité.
Dans le cadre de la transparence et de la compréhension, le quatrième principe exige que les informations soient publiées ou documentées avant que la technologie d'IA ne soit conçue ou déployée.
Bien que les technologies d'IA effectuent des tâches spécifiques, elles doivent être utilisées de manière responsable, dans des conditions appropriées par des personnes dûment formées, ce qui est le quatrième principe.
Le cinquième est d'assurer l'inclusivité et l'équité afin que l'IA pour la santé soit accessible au plus grand nombre possible de personnes, indépendamment de l'âge, du sexe, de l'origine ethnique ou d'autres caractéristiques protégées par droits de l'homme codes.
Le dernier principe exhorte les concepteurs, les développeurs et les utilisateurs à évaluer de manière transparente les applications lors de leur utilisation réelle afin de déterminer si l'IA répond de manière adéquate et appropriée aux attentes et aux exigences.
