In een verklaring op vrijdag zeiden de experts dat opkomende technologieën, waaronder op kunstmatige intelligentie gebaseerde biometrische bewakingssystemen, steeds vaker worden gebruikt "in gevoelige contexten". zonder medeweten of toestemming van individuen
Er moeten 'dringende rode lijnen' worden getrokken
"Dringende en strikte regelgevende rode lijnen zijn nodig voor technologieën die beweren emotie of genderherkenning uit te voeren", zeiden de experts, waaronder Fionnuala Ní Aoláin, speciaal rapporteur voor de bevordering en bescherming van mensenrechten bij de bestrijding van terrorisme.
De Raad voor de mensenrechten-aangestelde experts veroordeelden het toch al "alarmerende" gebruik en de impact van spyware en bewakingstechnologieën op het werk van mensenrechtenverdedigers en journalisten, "vaak onder het mom van maatregelen voor nationale veiligheid en terrorismebestrijding".
Ze riepen ook op tot regulering om de razendsnelle ontwikkeling van generatieve AI aan te pakken die de massaproductie van valse online-inhoud mogelijk maakt die desinformatie en haatdragende taal verspreidt.
Gevolgen in de echte wereld
De experts benadrukten de noodzaak ervoor te zorgen dat deze systemen mensen en gemeenschappen niet verder blootstellen rechten van de mens schendingen, onder meer door de uitbreiding en het misbruik van invasieve bewakingspraktijken die inbreuk maken op het recht op privacy, het plegen van grove mensenrechtenschendingen, waaronder gedwongen verdwijningen, en discriminatie in de hand werken.
Ze spraken ook hun bezorgdheid uit over de eerbiediging van de vrijheid van meningsuiting, gedachte, vredig protest, en voor toegang tot essentiële economische, sociale en culturele rechten en humanitaire diensten.
“Specifieke technologieën en toepassingen moeten helemaal worden vermeden waar de regulering van mensenrechtenklachten is niet mogelijk”, aldus de experts.
De experts spraken ook hun bezorgdheid uit over het feit dat generatieve AI-ontwikkeling wordt aangestuurd door een kleine groep machtige actoren, waaronder bedrijven en investeerders, zonder voldoende vereisten voor het uitvoeren van due diligence op het gebied van mensenrechten of overleg met getroffen personen en gemeenschappen.
En de cruciale taak van interne regulering door inhoudsmoderatie wordt vaak uitgevoerd door individuen in situaties van arbeidsuitbuiting, merkten de onafhankelijke experts op.
Meer transparantie
"Regelgeving is dringend nodig om transparantie te waarborgen, mensen te waarschuwen wanneer ze synthetische media tegenkomen en het publiek te informeren over de trainingsgegevens en -modellen die worden gebruikt", aldus de experts.
De experts herhaalden hun oproep tot voorzichtigheid over het gebruik van digitale technologie in de context van humanitaire crises, van grootschalige gegevensverzameling – inclusief de verzameling van zeer gevoelige biometrische gegevens – tot het gebruik van geavanceerde gerichte bewakingstechnologieën.
"We dringen aan op terughoudendheid bij het gebruik van dergelijke maatregelen totdat de bredere implicaties voor de mensenrechten volledig worden begrepen en er robuuste waarborgen voor gegevensbescherming zijn ingevoerd", zeiden ze.
Versleuteling, privacy voorop
Ze onderstreepten de noodzaak om te zorgen voor technische oplossingen – inclusief sterke end-to-end encryptie en onbelemmerde toegang tot virtuele privénetwerken – en digitale communicatie beveiligen en beschermen.
"Beide industrie en staten moeten ter verantwoording worden geroepen, ook vanwege hun economische, sociale, milieu- en mensenrechteneffecten”, zeiden ze. “De volgende generatie technologieën mogen uitsluitingssystemen niet reproduceren of versterken, discriminatie en patronen van onderdrukking.”
Speciale Rapporteurs en andere rechtenexperts zijn allemaal benoemd door de VN-Mensenrechtenraad, hebben een mandaat om specifieke thematische kwesties of landensituaties te monitoren en erover te rapporteren, zijn geen VN-personeel en ontvangen geen salaris voor hun werk.
