In 'n verklaring Vrydag het die kenners gesê dat opkomende tegnologieë, insluitende kunsmatige intelligensie-gebaseerde biometriese toesigstelsels, toenemend "in sensitiewe kontekste" gebruik word. sonder individue se medewete of toestemming
'Dringende rooi lyne' moet getrek word
“Dringende en streng regulatoriese rooi lyne is nodig vir tegnologieë wat daarop aanspraak maak dat hulle emosie- of geslagsherkenning verrig,” sê die kenners, wat Fionnuala Ní Aoláin, Spesiale Rapporteur oor die bevordering en beskerming van menseregte insluit terwyl terrorisme teengestaan word.
Die Menseregte Raad-aangestelde kundiges het die reeds "alarmerende" gebruik en impak van spioenware en toesigtegnologieë op die werk van menseregteverdedigers en joernaliste veroordeel, "dikwels onder die dekmantel van nasionale veiligheid en maatreëls teen terrorisme".
Hulle het ook gevra vir regulering om die blitsvinnige ontwikkeling van generatiewe KI aan te spreek wat massaproduksie van vals aanlyninhoud moontlik maak wat disinformasie en haatspraak versprei.
Werklike wêreld gevolge
Die kenners het beklemtoon dat dit nodig is om te verseker dat hierdie stelsels nie mense en gemeenskappe verder aan blootstel nie menseregte skendings, insluitend deur die uitbreiding en misbruik van indringende toesigpraktyke wat inbreuk maak op die reg op privaatheid, fasiliteer die pleging van growwe menseregteskendings, insluitend gedwonge verdwynings, en diskriminasie.
Hulle het ook kommer uitgespreek oor respek vir vryhede van uitdrukking, denke, vreedsame protes, en vir toegang tot noodsaaklike ekonomiese, sosiale en kulturele regte, en humanitêre dienste.
“Spesifieke tegnologieë en toepassings moet heeltemal vermy word waar die regulering van menseregteklagtes is nie moontlik nie,” het die kenners gesê.
Die kenners het ook kommer uitgespreek dat generatiewe KI-ontwikkeling gedryf word deur 'n klein groep kragtige akteurs, insluitend besighede en beleggers, sonder voldoende vereistes vir die uitvoer van menseregte-omsigtigheidsondersoeke of konsultasie met geaffekteerde individue en gemeenskappe.
En die deurslaggewende taak van interne regulering deur inhoudmoderering, word dikwels deur individue in situasies van arbeidsuitbuiting uitgevoer, het die onafhanklike kenners opgemerk.
meer deursigtigheid
"Regulasie is dringend nodig om deursigtigheid te verseker, mense te waarsku wanneer hulle sintetiese media teëkom, en die publiek in te lig oor die opleidingsdata en -modelle wat gebruik word," het die kenners gesê.
Die kenners het hul oproepe tot versigtigheid herhaal oor die gebruik van digitale tegnologie in die konteks van humanitêre krisisse, van grootskaalse data-insameling – insluitend die insameling van hoogs sensitiewe biometriese data – tot die gebruik van gevorderde geteikende toesigtegnologieë.
“Ons dring aan op selfbeheersing in die gebruik van sulke maatreëls totdat die breër menseregte-implikasies ten volle verstaan word en robuuste databeskermingsvoorsorgmaatreëls in plek is,” het hulle gesê.
Enkripsie, privaatheid uiters belangrik
Hulle het die behoefte onderstreep om tegniese oplossings te verseker – insluitend sterk end-tot-end-enkripsie en onbelemmerde toegang tot virtuele privaat netwerke – en digitale kommunikasie beveilig en beskerm.
'Albei industrie en state moet aanspreeklik gehou word, insluitend vir hul ekonomiese, sosiale, omgewings- en menseregte-impakte,” het hulle gesê. “Die volgende generasie tegnologie moet nie stelsels van uitsluiting reproduseer of versterk nie, diskriminasie en patrone van onderdrukking.”
Spesiale Rapporteurs en ander regte-kundiges word almal deur die VN se Menseregteraad aangestel, het 'n mandaat om spesifieke tematiese kwessies of landsituasies te monitor en daaroor verslag te doen, is nie VN-personeel nie en ontvang nie 'n salaris vir hul werk nie.
