GENÈVE (15 septembre 2021) – La Haut-Commissaire des Nations Unies aux droits de l'homme, Michelle Bachelet, a souligné mercredi la nécessité urgente d'un moratoire sur la vente et l'utilisation de systèmes d'intelligence artificielle (IA) qui présentent un risque grave pour les droits de l'homme jusqu'à ce que des garanties adéquates soient mises en place. lieu. Elle a également appelé à l'interdiction des applications d'IA qui ne peuvent pas être utilisées conformément au droit international des droits de l'homme.
« L'intelligence artificielle peut être une force pour le bien, aidant les sociétés à surmonter certains des grands défis de notre époque. Mais les technologies d'IA peuvent avoir des effets négatifs, voire catastrophiques, si elles sont utilisées sans tenir suffisamment compte de la façon dont elles affectent la vie des gens. droits de l'homme", a déclaré Bachelet.
Dans le cadre de ses travaux* sur la technologie et les droits de l'homme, le Bureau des droits de l'homme des Nations Unies a publié aujourd'hui un rapport qui analyse comment l'IA - y compris le profilage, la prise de décision automatisée et d'autres technologies d'apprentissage automatique - affecte le droit des personnes à la vie privée et d'autres droits, notamment les droits à la santé, à l'éducation, à la liberté de mouvement, à la liberté de réunion pacifique et d'association et à la liberté de expression.
« L'intelligence artificielle atteint désormais presque tous les recoins de notre vie physique et mentale et même nos états émotionnels. Les systèmes d'IA sont utilisés pour déterminer qui obtient les services publics, décider qui a une chance d'être recruté pour un emploi et, bien sûr, ils affectent les informations que les gens voient et peuvent partager en ligne », a déclaré le haut-commissaire.
Le rapport examine comment les États et les entreprises se sont souvent précipités pour intégrer des applications d'IA, sans faire preuve de diligence raisonnable. Il y a déjà eu de nombreux cas de personnes traitées injustement à cause de l'IA, comme se voir refuser des prestations de sécurité sociale en raison d'outils d'IA défectueux ou arrêtées en raison d'une reconnaissance faciale défectueuse.
Le rapport détaille comment les systèmes d'IA reposent sur de grands ensembles de données, avec des informations sur les individus collectées, partagées, fusionnées et analysées de manières multiples et souvent opaques. Les données utilisées pour informer et guider les systèmes d'IA peuvent être défectueuses, discriminatoires, obsolètes ou non pertinentes. Le stockage à long terme des données présente également des risques particuliers, car les données pourraient à l'avenir être exploitées de manière encore inconnue.
« Compte tenu de la croissance rapide et continue de l'IA, combler l'immense écart de responsabilité dans la manière dont les données sont collectées, stockées, partagées et utilisées est l'une des questions les plus urgentes en matière de droits humains auxquelles nous sommes confrontés ».
Michelle Bachelet, haut-commissaire des Nations Unies aux droits de l'homme
Les inférences, les prédictions et la surveillance effectuées par les outils d'IA, y compris la recherche d'informations sur les modèles de comportement humain, soulèvent également de sérieuses questions. Les ensembles de données biaisés sur lesquels s'appuient les systèmes d'IA peuvent conduire à des décisions discriminatoires, et ces risques sont plus aigus pour les groupes déjà marginalisés.
« Le risque de discrimination lié aux décisions fondées sur l'IA - des décisions qui peuvent changer, définir ou nuire à des vies humaines - n'est que trop réel. C'est pourquoi il doit y avoir une évaluation et un suivi systématiques des effets des systèmes d'IA pour identifier et atténuer les risques pour les droits de l'homme », a déclaré Bachelet.
Les entreprises et les États doivent également faire preuve d'une plus grande transparence dans la manière dont ils développent et utilisent l'IA.
« La complexité de l'environnement de données, des algorithmes et des modèles sous-jacents au développement et au fonctionnement des systèmes d'IA, ainsi que le secret intentionnel du gouvernement et des acteurs privés sont des facteurs qui sapent les moyens significatifs pour le public de comprendre les effets des systèmes d'IA sur les droits de l'homme et la société », indique le rapport.
« Nous ne pouvons pas nous permettre de continuer à rattraper le retard concernant l'IA - en autorisant son utilisation avec des limites ou une surveillance limitées ou inexistantes, et en traitant les conséquences presque inévitables sur les droits de l'homme après coup. Le pouvoir de l'IA de servir les gens est indéniable, mais il en va de même de la capacité de l'IA à alimenter les violations des droits humains à une échelle énorme sans pratiquement aucune visibilité. Des mesures sont nécessaires maintenant pour mettre des garde-fous des droits de l'homme sur l'utilisation de l'IA, pour le bien de nous tous », a souligné Bachelet.
La source: UN
Crédit photo : UN News/Daniel Johnson, Haut-Commissaire des Nations Unies aux droits de l'homme, Michelle Bachelet. (déposer)
