“Ons probeer die gebruik van kunsmatige intelligensie beperk in daardie gebiede waar ons dit as 'n ernstige probleem vir die fundamentele regte en vryhede van burgers beskou.
Evaluasies van hierdie tipe toepassing is dikwels onbetroubaar en skep 'n risiko van diskriminasie. Ons wil nie tegnologiese vooruitgang stop nie, maar om die gebruik daarvan so te stel om basiese menseregte te waarborg,” het die leier van die Bulgaarse Sosialiste in die EP Petar Vitanov op 'n perskonferensie met joernaliste gesê.
Die rede is sy verslag oor die toepassings van kunsmatige intelligensie in wetstoepassing, waaroor die Europese Parlement vandag gestem het. Die onderwerp van kunsmatige intelligensie is lank reeds die onderwerp van ernstige besprekings in die plenaire vergadering. Die hoofdebat is waar die lyn lê tussen die gebruik daarvan in die naam van sekuriteit en die risiko van misbruik en diskriminasie.
Die gebruik van kunsmatige intelligensie in verskeie openbare sfere groei teen 'n ongekende tempo. Die voorspelling van misdade en die identifisering van moontlike toekomstige oortreders vind nou nie net in rolprente plaas nie. Kunsmatige intelligensie herken gesigte, stemme, gang.
Slim stelsels verwerk groot hoeveelhede data, op grond waarvan hulle mense klassifiseer en hul toekomstige gedrag voorspel. Slim toepassings is egter geensins onfeilbaar nie, en 'n aantal NRO's erken reeds die risiko van skewe uitkomste en diskriminasie teen kwesbare groepe.
Vitanov se verslag laat die vraag ontstaan hoe objektief die beoordeling van rekenaars is en waar ons die grens moet stel om nie in 'n Orwell-verhaal te leef nie. Hy vra vir beperkings en menslike beheer oor die gebruik van kunsmatige intelligensie in wetstoepassing en vir 'n verbod op gesigsherkenning in openbare plekke.
“Ons het reeds ’n aantal gevalle waarin mense onregverdig behandel word weens kunsmatige intelligensie – hulle word sosiale voordele geweier weens die foute van instrumente wat op kunsmatige intelligensie gebaseer is of hulle word gearresteer as gevolg van onbetroubare gesigsherkenning. Ek is nie verbaas dat die slagoffers altyd die armes, immigrante, anderskleuriges, Oos-Europeërs is nie,” het Vitanov vroeër in die plenaire saal van die Europese Parlement gesê.
"Persoonlike erkenning in openbare plekke skend privaatheid, die reg op mening en uitdrukking, die reg om met ander te assosieer en om anoniem te bly," het die MEP in 'n onderhoud met die gesaghebbende koerant Politico gesê. Dit kan veroorsaak dat mense nooit aan vreedsame betogings of protes deelneem nie. Aan die ander kant, van 'n metode om sekuriteit te verseker, kan gesigsherkenning maklik 'n manier van massa-toesig word.
“Ek wil nie veiligheid en vryheid teëstaan nie, maar tegnologiese vooruitgang moet nie tot nadeel van menseregte. Kunsmatige intelligensie kan gevaarlik wees, hetsy deur demokratiese of outoritêre regerings gebruik, omdat dit dikwels foute maak en die resultate verdraai. Ons moet versigtig wees – goeie bedoelings regverdig nie altyd die middele nie. As wetgewers het ons 'n groot verantwoordelikheid teenoor Europese burgers, "het Vitanov bygevoeg.
