Die Parlement het Woensdag die Wet op Kunsmatige Intelligensie goedgekeur wat veiligheid en voldoening aan fundamentele regte verseker, terwyl innovasie ’n hupstoot gee.
Die regulasie, in Desember in onderhandelinge met lidlande ooreengekom 2023, is deur MEP's onderskryf met 523 stemme voor, 46 teen en 49 onthoudings.
Dit het ten doel om fundamentele regte, demokrasie, die oppergesag van die reg en omgewingsvolhoubaarheid teen hoërisiko-KI te beskerm, terwyl dit innovasie bevorder en Europa as 'n leier op die gebied vestig. Die regulasie stel verpligtinge vir KI op grond van die potensiële risiko's en vlak van impak daarvan.
Verbande toepassings
Die nuwe reëls verbied sekere KI-toepassings wat burgers se regte bedreig, insluitend biometriese kategoriseringstelsels gebaseer op sensitiewe kenmerke en onbedoelde skraap van gesigsbeelde van die internet of CCTV-materiaal om gesigsherkenningsdatabasisse te skep. Emosie-herkenning in die werkplek en skole, sosiale telling, voorspellende polisiëring (wanneer dit uitsluitlik gebaseer is op die profilering van 'n persoon of die assessering van hul eienskappe), en KI wat menslike gedrag manipuleer of mense se kwesbaarhede uitbuit, sal ook verbied word.
Wetstoepassingsvrystellings
Die gebruik van biometriese identifikasiestelsels (RBI) deur wetstoepassing is in beginsel verbied, behalwe in volledig gelysde en nou omskrewe situasies. “Intydse” RBI kan slegs ontplooi word indien streng voorsorgmaatreëls nagekom word, bv. die gebruik daarvan is beperk in tyd en geografiese omvang en onderhewig aan spesifieke vooraf geregtelike of administratiewe magtiging. Sulke gebruike kan byvoorbeeld 'n geteikende soektog na 'n vermiste persoon of die voorkoming van 'n terreuraanval insluit. Die gebruik van sulke stelsels post-facto ("post-afgeleë RBI") word beskou as 'n hoërisiko-gebruiksgeval, wat geregtelike magtiging vereis wat aan 'n kriminele oortreding gekoppel word.
Verpligtinge vir hoërisiko-stelsels
Duidelike verpligtinge word ook vir ander hoërisiko-KI-stelsels voorsien (weens hul aansienlike potensiële skade aan gesondheid, veiligheid, fundamentele regte, omgewing, demokrasie en die oppergesag van die reg). Voorbeelde van hoërisiko-KI-gebruike sluit in kritieke infrastruktuur, onderwys en beroepsopleiding, indiensneming, noodsaaklike private en openbare dienste (bv. gesondheidsorg, bankwese), sekere stelsels in wetstoepassing, migrasie en grensbestuur, geregtigheid en demokratiese prosesse (bv. beïnvloeding van verkiesings) . Sulke stelsels moet risiko's assesseer en verminder, gebruikslogboeke in stand hou, deursigtig en akkuraat wees, en menslike toesig verseker. Burgers sal die reg hê om klagtes oor KI-stelsels in te dien en verduidelikings te ontvang oor besluite gebaseer op hoërisiko-KI-stelsels wat hul regte beïnvloed.
Deursigtigheidsvereistes
Algemene AI-stelsels (GPAI) en die GPAI-modelle waarop hulle gebaseer is, moet aan sekere deursigtigheidsvereistes voldoen, insluitend voldoening aan EU-kopieregwetgewing en die publisering van gedetailleerde opsommings van die inhoud wat vir opleiding gebruik word. Die kragtiger GPAI-modelle wat sistemiese risiko's kan inhou, sal bykomende vereistes in die gesig staar, insluitend die uitvoering van model-evaluasies, assessering en versagting van sistemiese risiko's, en verslagdoening oor voorvalle.
Boonop moet kunsmatige of gemanipuleerde beelde, oudio- of video-inhoud ("deepfakes") duidelik as sodanig gemerk word.
Maatreëls om innovasie en KMO's te ondersteun
Regulerende sandkaste en werklike toetsing sal op nasionale vlak gevestig moet word, en toeganklik gemaak moet word vir KMO's en begin-ups, om innoverende KI te ontwikkel en op te lei voordat dit op die mark geplaas word.
Aanhalings
Tydens die plenêre debat op Dinsdag, die Interne Markkomitee mederapporteur Brando Benifei (S&D, Italië) gesê: “Ons het uiteindelik die wêreld se eerste bindende wet oor kunsmatige intelligensie, om risiko's te verminder, geleenthede te skep, diskriminasie te bekamp en deursigtigheid te bring. Danksy die Parlement sal onaanvaarbare KI-praktyke in Europa verbied word en die regte van werkers en burgers beskerm word. Die KI-kantoor sal nou ingestel word om maatskappye te ondersteun om aan die reëls te begin voldoen voordat dit in werking tree. Ons het verseker dat mense en Europese waardes die middelpunt van KI se ontwikkeling is”.
Mederapporteur van die Komitee vir Burgerlike Vryhede Dragos Tudorache (Renew, Roemenië) gesê: “Die EU het gelewer. Ons het die konsep van kunsmatige intelligensie gekoppel aan die fundamentele waardes wat die basis van ons samelewings vorm. Baie werk lê egter voor wat verder gaan as die KI-wet self. KI sal ons druk om die sosiale kontrak in die hart van ons demokrasieë, ons onderwysmodelle, arbeidsmarkte en die manier waarop ons oorlogvoering voer, te heroorweeg. Die KI-wet is 'n beginpunt vir 'n nuwe model van bestuur wat rondom tegnologie gebou is. Ons moet nou daarop fokus om hierdie wet in die praktyk toe te pas”.
Volgende stappe
Die regulasie is steeds onderhewig aan 'n finale prokureur-linguistkontrole en sal na verwagting finaal aanvaar word voor die einde van die wetgewer (deur die sg. regstelling prosedure). Die wet moet ook formeel deur die Raad onderskryf word.
Dit sal twintig dae na sy publikasie in die amptelike Tydskrif in werking tree en ten volle van toepassing wees 24 maande na sy inwerkingtreding, behalwe vir: verbod op verbode praktyke, wat ses maande na die inwerkingtredingsdatum sal geld; praktykkodes (nege maande na inwerkingtreding); algemene KI-reëls insluitend bestuur (12 maande na inwerkingtreding); en verpligtinge vir hoërisiko-stelsels (36 maande).
agtergrond
Die Wet op Kunsmatige Intelligensie reageer direk op burgers se voorstelle van die Conference on the Future of Europe (COFE), mees konkreet op voorstel 12(10) oor die verbetering van EU se mededingendheid in strategiese sektore, voorstel 33(5) op 'n veilige en betroubare samelewing, insluitend die bekamping van disinformasie en om te verseker dat mense uiteindelik in beheer is, voorstel 35 op die bevordering van digitale innovasie, (3) terwyl menslike toesig verseker word en (8) betroubare en verantwoordelike gebruik van KI, die stel van voorsorgmaatreëls en die versekering van deursigtigheid, en voorstel 37 (3) oor die gebruik van KI en digitale gereedskap om burgers se toegang tot inligting te verbeter, insluitend persone met gestremdhede.
