GENÈVE (15 September 2021) - VN Hoë Kommissaris vir Menseregte Michelle Bachelet het Woensdag die dringende behoefte beklemtoon vir 'n moratorium op die verkoop en gebruik van kunsmatige intelligensie (KI) stelsels wat 'n ernstige risiko vir menseregte inhou totdat voldoende veiligheidsmaatreëls ingestel word. plek. Sy het ook gevra dat KI-toepassings wat nie in ooreenstemming met internasionale menseregtewetgewing gebruik kan word nie, verbied word.
“Kunsmatige intelligensie kan 'n krag ten goede wees, wat samelewings help om sommige van die groot uitdagings van ons tyd te oorkom. Maar KI-tegnologieë kan negatiewe, selfs katastrofiese, uitwerkings hê as dit gebruik word sonder voldoende inagneming van hoe dit mense se menseregte,” het Bachelet gesê.
As deel van sy werk* oor tegnologie en menseregte, het die VN se Menseregtekantoor vandag 'n verslag wat ontleed hoe KI – insluitend profilering, geoutomatiseerde besluitneming en ander masjienleertegnologieë – mense se reg op privaatheid en ander regte beïnvloed, insluitend die regte op gesondheid, onderwys, vryheid van beweging, vryheid van vreedsame vergadering en assosiasie, en vryheid van uitdrukking.
“Kunsmatige intelligensie strek nou tot byna elke hoek van ons fisiese en geestelike lewens en selfs emosionele toestande. KI-stelsels word gebruik om te bepaal wie openbare dienste kry, om te besluit wie 'n kans het om vir 'n werk gewerf te word, en dit beïnvloed natuurlik watter inligting mense sien en aanlyn kan deel,” het die Hoë Kommissaris gesê.
Die verslag kyk na hoe state en besighede dikwels gehaas het om KI-toepassings in te sluit, sonder om behoorlike omsigtigheid uit te voer. Daar was reeds talle gevalle van mense wat onregverdig behandel is as gevolg van KI, soos wat sosiale sekerheidsvoordele geweier is weens foutiewe KI-gereedskap of gearresteer is weens gebrekkige gesigsherkenning.
Die verslag beskryf hoe KI-stelsels op groot datastelle staatmaak, met inligting oor individue wat op veelvuldige en dikwels ondeursigtige maniere versamel, gedeel, saamgevoeg en ontleed word. Die data wat gebruik word om KI-stelsels in te lig en te lei, kan foutief, diskriminerend, verouderd of irrelevant wees. Langtermynberging van data hou ook besondere risiko's in, aangesien data in die toekoms op nog onbekende maniere ontgin kan word.
"Gegewe die vinnige en voortdurende groei van KI, is die vul van die enorme aanspreeklikheidsgaping in hoe data ingesamel, gestoor, gedeel en gebruik word, een van die dringendste menseregtevrae waarmee ons te kampe het."
Michelle Bachelet, VN hoë kommissaris vir menseregte
Die afleidings, voorspellings en monitering wat deur KI-instrumente uitgevoer word, insluitend die soeke na insigte in patrone van menslike gedrag, laat ook ernstige vrae ontstaan. Die bevooroordeelde datastelle waarop KI-stelsels staatmaak, kan lei tot diskriminerende besluite, en hierdie risiko's is die akuutste vir reeds gemarginaliseerde groepe.
“Die risiko van diskriminasie wat verband hou met KI-gedrewe besluite – besluite wat menselewens kan verander, definieer of beskadig – is te reëel. Dit is hoekom daar sistematiese assessering en monitering van die uitwerking van KI-stelsels moet wees om menseregterisiko's te identifiseer en te versag,” het Bachelet gesê.
Daar moet ook baie groter deursigtigheid deur maatskappye en state wees in hoe hulle KI ontwikkel en gebruik.
“Die kompleksiteit van die data-omgewing, algoritmes en modelle onderliggend aan die ontwikkeling en werking van KI-stelsels, sowel as opsetlike geheimhouding van die regering en private akteurs is faktore wat betekenisvolle maniere vir die publiek ondermyn om die uitwerking van KI-stelsels op menseregte en die samelewing te verstaan. ,” lui die verslag.
“Ons kan nie bekostig om voort te gaan om KI in te haal nie – om die gebruik daarvan toe te laat met beperkte of geen grense of toesig, en om die byna onvermydelike gevolge vir menseregte agterna te hanteer nie. Die krag van KI om mense te dien is onmiskenbaar, maar so ook KI se vermoë om menseregteskendings op 'n enorme skaal met feitlik geen sigbaarheid te voed nie. Optrede is nou nodig om menseregte-relings op die gebruik van KI te plaas, tot voordeel van ons almal,” het Bachelet beklemtoon.
Bron: UN
Fotokrediet: UN News/Daniel JohnsonVN Hoë Kommissaris vir Menseregte Michelle Bachelet. (lêer)
