I en uttalelse på fredag sa ekspertene at nye teknologier, inkludert kunstig intelligens-baserte biometriske overvåkingssystemer, i økende grad blir brukt "i sensitive sammenhenger". uten enkeltpersoners viten eller samtykke
'Hastende røde linjer' må tegnes
"Det er behov for presserende og strenge regulatoriske røde linjer for teknologier som hevder å utføre følelser eller kjønnsgjenkjenning," sa ekspertene, som inkluderer Fionnuala Ní Aoláin, spesialrapportør for fremme og beskyttelse av menneskerettigheter samtidig som man bekjemper terrorisme.
De Human Rights Council- Utnevnte eksperter fordømte den allerede "alarmerende" bruken og virkningen av spionprogrammer og overvåkingsteknologier på arbeidet til menneskerettighetsforkjempere og journalister, "ofte under dekke av nasjonal sikkerhet og tiltak mot terrorisme".
De ba også om regulering for å adressere den lynraske utviklingen av generativ AI som muliggjør masseproduksjon av falskt nettinnhold som sprer desinformasjon og hatefulle ytringer.
Virkelige konsekvenser
Ekspertene understreket behovet for å sikre at disse systemene ikke ytterligere utsetter mennesker og lokalsamfunn for menneskerettigheter brudd, inkludert gjennom utvidelse og misbruk av invasiv overvåkingspraksis som krenker retten til privatliv, tilrettelegger for grove menneskerettighetsbrudd, inkludert tvungne forsvinninger og diskriminering.
De uttrykte også bekymring for respekt for ytringsfrihet, tankefrihet, fredelig protest, og for tilgang til viktige økonomiske, sosiale og kulturelle rettigheter og humanitære tjenester.
"Spesifikke teknologier og applikasjoner bør unngås helt der regulering av menneskerettighetsklager er ikke mulig", sa ekspertene.
Ekspertene uttrykte også bekymring for at generativ AI-utvikling er drevet av en liten gruppe mektige aktører, inkludert bedrifter og investorer, uten tilstrekkelige krav til å gjennomføre menneskerettighetsdue diligence eller konsultasjon med berørte enkeltpersoner og lokalsamfunn.
Og den avgjørende jobben med intern regulering gjennom innholdsmoderering, utføres ofte av enkeltpersoner i situasjoner med arbeidsutnyttelse, bemerket de uavhengige ekspertene.
Mer gjennomsiktighet
"Regulering er presserende nødvendig for å sikre åpenhet, varsle folk når de møter syntetiske medier, og informere publikum om treningsdataene og modellene som brukes," sa ekspertene.
Ekspertene gjentok sine oppfordringer til forsiktighet om digital teknologibruk i sammenheng med humanitære kriser, fra storskala datainnsamling – inkludert innsamling av svært sensitive biometriske data – til bruk av avanserte målrettede overvåkingsteknologier.
"Vi oppfordrer til tilbakeholdenhet i bruken av slike tiltak inntil de bredere menneskerettighetsimplikasjonene er fullt ut forstått og robuste sikkerhetstiltak for databeskyttelse er på plass," sa de.
Kryptering, personvern er viktigst
De understreket behovet for å sikre tekniske løsninger – inkludert sterk ende-til-ende-kryptering og uhindret tilgang til virtuelle private nettverk – og sikre og beskytte digital kommunikasjon.
"Både industri og stater må holdes ansvarlige, inkludert for deres økonomiske, sosiale, miljømessige og menneskerettighetspåvirkninger,» sa de. «Neste generasjon teknologier må ikke reprodusere eller forsterke eksklusjonssystemer, diskriminering og undertrykkelsesmønstre.»
Spesialrapportører og andre rettighetseksperter er alle utnevnt av FNs menneskerettighetsråd, har mandat til å overvåke og rapportere om spesifikke tematiske spørsmål eller landsituasjoner, er ikke FN-ansatte og mottar ikke lønn for sitt arbeid.
