V pátečním prohlášení experti uvedli, že vznikající technologie, včetně biometrických sledovacích systémů založených na umělé inteligenci, jsou stále častěji používány „v citlivých kontextech“. bez vědomí nebo souhlasu jednotlivců
Musí být nakresleny „naléhavé červené čáry“.
„U technologií, které tvrdí, že rozpoznávají emoce nebo pohlaví, jsou naléhavé a přísné regulační červené čáry,“ uvedli odborníci, mezi něž patří Fionnuala Ní Aoláin, zvláštní zpravodajka pro prosazování a ochranu lidských práv při boji proti terorismu.
Projekt Rada pro lidská právaJmenovaní experti odsoudili již tak „alarmující“ používání a dopady spywaru a sledovacích technologií na práci obránců lidských práv a novinářů, „často pod rouškou národní bezpečnosti a protiteroristických opatření“.
Vyzvali také k regulaci, která by řešila bleskově rychlý vývoj generativní umělé inteligence, která umožňuje masovou produkci falešného online obsahu, který šíří dezinformace a nenávistné projevy.
Důsledky reálného světa
Odborníci zdůraznili, že je třeba zajistit, aby tyto systémy dále nevystavovaly lidi a komunity lidská práva porušování, včetně rozšiřování a zneužívání invazivních sledovacích praktik, které porušují právo na soukromí, usnadňují páchání hrubého porušování lidských práv, včetně násilných zmizení, a diskriminace.
Vyjádřili také znepokojení nad dodržováním svobody projevu, myšlení, pokojný protest, a pro přístup k základním hospodářským, sociálním a kulturním právům a humanitárním službám.
„Konkrétním technologiím a aplikacím by se mělo zcela vyhnout regulace stížností na lidská práva není možná“, uvedli odborníci.
Odborníci také vyjádřili obavy, že vývoj generativní umělé inteligence je řízen malou skupinou mocných aktérů, včetně podniků a investorů, bez odpovídajících požadavků na provádění náležité péče o lidská práva nebo konzultace s dotčenými jednotlivci a komunitami.
A klíčovou práci vnitřní regulace prostřednictvím moderování obsahu často vykonávají jednotlivci v situacích pracovního vykořisťování, poznamenali nezávislí odborníci.
Více transparentnosti
„Nařízení je naléhavě potřeba k zajištění transparentnosti, varování lidí, když se setkají se syntetickými médii, a informování veřejnosti o používaných tréninkových datech a modelech,“ uvedli odborníci.
Odborníci zopakovali své výzvy k opatrnosti o využívání digitálních technologií v souvislosti s humanitárními krizemi, od rozsáhlého sběru dat – včetně shromažďování vysoce citlivých biometrických údajů – až po využití pokročilých technologií cíleného sledování.
"Naléhavě žádáme o zdrženlivost v používání takových opatření, dokud nebudou plně pochopeny širší důsledky pro lidská práva a nebudou zavedeny silné záruky ochrany údajů," uvedli.
Šifrování, soukromí prvořadé
Zdůraznili potřebu zajistit technická řešení – včetně silné end-to-end šifrování a neomezený přístup k virtuálním privátním sítím – a zabezpečit a chránit digitální komunikaci.
"Oba průmysl a státy musí nést odpovědnost, včetně jejich ekonomických, sociálních, environmentálních a lidských práv,“ uvedli. „Příští generace technologií nesmí reprodukovat nebo posilovat systémy vyloučenídiskriminace a vzorce útlaku“.
Zvláštní zpravodajové a další odborníci na práva jsou jmenováni Radou OSN pro lidská práva, jsou pověřeni monitorováním a podáváním zpráv o konkrétních tematických otázkách nebo situacích v jednotlivých zemích, nejsou zaměstnanci OSN a za svou práci nedostávají plat.
