ŽENEVA (15. září 2021) – Vysoká komisařka OSN pro lidská práva Michelle Bacheletová ve středu zdůraznila naléhavou potřebu moratoria na prodej a používání systémů umělé inteligence (AI), které představují vážné riziko pro lidská práva, dokud nebudou zavedena odpovídající ochranná opatření. místo. Vyzvala také k zákazu aplikací umělé inteligence, které nelze používat v souladu s mezinárodním právem v oblasti lidských práv.
„Umělá inteligence může být silou dobra a pomáhá společnostem překonat některé z velkých výzev naší doby. Technologie umělé inteligence však mohou mít negativní, dokonce katastrofální účinky, pokud jsou používány bez dostatečného ohledu na to, jak ovlivňují lidské zdraví. lidská práva“ řekla Bachelet.
V rámci své práce* v oblasti technologií a lidských práv dnes Úřad pro lidská práva OSN zveřejnil a zprávy která analyzuje, jak umělá inteligence – včetně profilování, automatizovaného rozhodování a dalších technologií strojového učení – ovlivňuje právo lidí na soukromí a další práva, včetně práv na zdraví, vzdělání, svobodu pohybu, svobodu pokojného shromažďování a sdružování a svobodu výraz.
„Umělá inteligence nyní zasahuje téměř do všech koutů našich fyzických a duševních životů a dokonce i emocionálních stavů. Systémy umělé inteligence se používají k určování toho, kdo získá veřejné služby, k rozhodování o tom, kdo má šanci být přijat do zaměstnání, a samozřejmě ovlivňují, jaké informace lidé vidí a mohou sdílet online,“ řekl vysoký komisař.
Zpráva se zabývá tím, jak státy i podniky často spěchaly se začleňováním aplikací umělé inteligence, přičemž neprováděly náležitou péči. Již došlo k mnoha případům, kdy se s lidmi kvůli umělé inteligenci zacházelo nespravedlivě, například jim byly odepřeny dávky sociálního zabezpečení kvůli chybným nástrojům umělé inteligence nebo byly zatčeny kvůli chybnému rozpoznávání obličeje.
Zpráva podrobně popisuje, jak systémy umělé inteligence spoléhají na velké soubory dat, přičemž informace o jednotlivcích jsou shromažďovány, sdíleny, slučovány a analyzovány mnoha a často neprůhlednými způsoby. Údaje používané k informování a vedení systémů umělé inteligence mohou být chybné, diskriminační, zastaralé nebo irelevantní. Dlouhodobé uchovávání dat také představuje zvláštní rizika, protože data by mohla být v budoucnu zneužívána dosud neznámými způsoby.
„Vzhledem k rychlému a neustálému růstu AI je vyplnění obrovské mezery v odpovědnosti ve způsobu shromažďování, ukládání, sdílení a používání dat jednou z nejnaléhavějších otázek lidských práv, kterým čelíme.
Michelle Bachelet, vysoká komisařka OSN pro lidská práva
Odvozování, předpovědi a monitorování prováděné nástroji AI, včetně hledání vhledů do vzorců lidského chování, také vyvolávají vážné otázky. Předpojaté soubory dat, na které se systémy umělé inteligence spoléhají, mohou vést k diskriminačním rozhodnutím a tato rizika jsou nejnaléhavější pro již tak marginalizované skupiny.
„Riziko diskriminace spojené s rozhodnutími řízenými umělou inteligencí – rozhodnutími, která mohou změnit, definovat nebo poškodit lidské životy – je až příliš reálné. To je důvod, proč je třeba systematicky posuzovat a monitorovat účinky systémů umělé inteligence, abychom identifikovali a zmírnili rizika v oblasti lidských práv,“ uvedla Bacheletová.
Společnosti a státy také potřebují mnohem větší transparentnost v tom, jak vyvíjejí a používají AI.
„Složitost datového prostředí, algoritmů a modelů, které jsou základem vývoje a provozu systémů umělé inteligence, stejně jako záměrné utajení vládních a soukromých subjektů jsou faktory, které podkopávají smysluplné způsoby, jak veřejnost porozumět účinkům systémů umělé inteligence na lidská práva a společnost. ,“ uvádí zpráva.
„Nemůžeme si dovolit pokračovat v dohánění umělé inteligence – umožnit její používání s omezenými nebo žádnými hranicemi nebo dohledem a následně se vypořádat s téměř nevyhnutelnými důsledky pro lidská práva. Síla umělé inteligence sloužit lidem je nepopiratelná, ale také schopnost umělé inteligence přispívat k porušování lidských práv v obrovském měřítku a prakticky bez viditelnosti. Nyní je třeba jednat, aby se používání umělé inteligence postavilo na ochranu lidských práv, pro dobro nás všech,“ zdůraznila Bacheletová.
Zdroj: UN
Fotografický kredit: Zprávy OSN/Daniel Johnson Vysoká komisařka OSN pro lidská práva Michelle Bachelet. (soubor)
