Woensdag keurde het parlement de Wet op de Kunstmatige Intelligentie goed, die de veiligheid en de naleving van de grondrechten garandeert en tegelijkertijd de innovatie stimuleert.
De verordening, overeengekomen tijdens de onderhandelingen met de lidstaten in december 2023 werd door de leden van het Europees Parlement goedgekeurd met 523 stemmen voor, 46 tegen en 49 onthoudingen.
Het heeft tot doel de grondrechten, de democratie, de rechtsstaat en de duurzaamheid van het milieu te beschermen tegen risicovolle AI, terwijl innovatie wordt gestimuleerd en Europa een leider op dit gebied wordt. De verordening stelt verplichtingen voor AI vast op basis van de potentiële risico’s en de omvang van de impact ervan.
Verboden applicaties
De nieuwe regels verbieden bepaalde AI-toepassingen die de rechten van burgers bedreigen, waaronder biometrische categorisatiesystemen op basis van gevoelige kenmerken en het ongericht schrapen van gezichtsbeelden van internet of CCTV-beelden om databases voor gezichtsherkenning te creëren. Emotieherkenning op de werkvloer en op scholen, sociale scores, voorspellend politiewerk (wanneer dit uitsluitend gebaseerd is op het profileren van een persoon of het beoordelen van hun kenmerken) en AI die menselijk gedrag manipuleert of de kwetsbaarheden van mensen uitbuit, zullen ook verboden worden.
Vrijstellingen voor wetshandhaving
Het gebruik van biometrische identificatiesystemen (RBI) door rechtshandhavingsinstanties is in principe verboden, behalve in uitputtend opgesomde en nauw gedefinieerde situaties. “Real-time” RBI kan alleen worden ingezet als aan strikte waarborgen wordt voldaan. Het gebruik ervan is bijvoorbeeld beperkt in tijd en geografische reikwijdte en is onderworpen aan specifieke voorafgaande rechterlijke of administratieve toestemming. Dergelijke toepassingen kunnen bijvoorbeeld het gericht zoeken naar een vermiste persoon of het voorkomen van een terroristische aanslag omvatten. Het post-facto gebruik van dergelijke systemen (“post-remote RBI”) wordt beschouwd als een gebruiksscenario met een hoog risico, waarbij rechterlijke toestemming vereist is in verband met een strafbaar feit.
Verplichtingen voor systemen met een hoog risico
Er zijn ook duidelijke verplichtingen voorzien voor andere AI-systemen met een hoog risico (vanwege hun aanzienlijke potentiële schade aan de gezondheid, de veiligheid, de grondrechten, het milieu, de democratie en de rechtsstaat). Voorbeelden van risicovol gebruik van AI zijn onder meer kritieke infrastructuur, onderwijs en beroepsopleiding, werkgelegenheid, essentiële particuliere en publieke diensten (bijvoorbeeld gezondheidszorg, banken), bepaalde systemen op het gebied van wetshandhaving, migratie en grensbeheer, justitie en democratische processen (bijvoorbeeld het beïnvloeden van verkiezingen). . Dergelijke systemen moeten risico's beoordelen en verminderen, gebruikslogboeken bijhouden, transparant en accuraat zijn en zorgen voor menselijk toezicht. Burgers zullen het recht hebben om klachten in te dienen over AI-systemen en uitleg te krijgen over beslissingen op basis van risicovolle AI-systemen die hun rechten aantasten.
Transparantievereisten
General-purpose AI (GPAI)-systemen, en de GPAI-modellen waarop ze zijn gebaseerd, moeten aan bepaalde transparantievereisten voldoen, waaronder naleving van de EU-auteursrechtwetgeving en het publiceren van gedetailleerde samenvattingen van de inhoud die voor training wordt gebruikt. De krachtigere GPAI-modellen die systeemrisico's zouden kunnen opleveren, zullen te maken krijgen met aanvullende vereisten, waaronder het uitvoeren van modelevaluaties, het beoordelen en beperken van systeemrisico's en het rapporteren over incidenten.
Bovendien moeten kunstmatige of gemanipuleerde afbeeldingen, audio- of video-inhoud (“deepfakes”) duidelijk als zodanig worden geëtiketteerd.
Maatregelen ter ondersteuning van innovatie en het MKB
Er zullen op nationaal niveau regelgevingssandboxen en tests in de praktijk moeten worden opgezet en toegankelijk moeten worden gemaakt voor het MKB en start-ups, om innovatieve AI te ontwikkelen en op te leiden voordat deze op de markt wordt gebracht.
Zitate
Tijdens het plenaire debat op dinsdag was de Commissie interne markt co-rapporteur Brando Benifei (S&D, Italië) zei: “We hebben eindelijk de eerste bindende wet ter wereld over kunstmatige intelligentie, om risico’s te verminderen, kansen te creëren, discriminatie te bestrijden en transparantie te brengen. Dankzij het Parlement zullen onaanvaardbare AI-praktijken in Europa worden verboden en zullen de rechten van werknemers en burgers worden beschermd. Het AI Office wordt nu opgezet om bedrijven te ondersteunen om aan de regels te gaan voldoen voordat deze van kracht worden. We hebben ervoor gezorgd dat de mens en de Europese waarden centraal staan in de ontwikkeling van AI.”
Corapporteur van de Commissie Burgerlijke Vrijheden Dragos Tudorache (Renew, Roemenië) zei: “De EU heeft resultaten geboekt. We hebben het concept van kunstmatige intelligentie gekoppeld aan de fundamentele waarden die de basis vormen van onze samenlevingen. Er ligt echter nog veel werk voor de boeg dat verder gaat dan de AI Act zelf. AI zal ons ertoe aanzetten het sociale contract dat de kern vormt van onze democratieën, onze onderwijsmodellen, arbeidsmarkten en de manier waarop we oorlog voeren, te heroverwegen. De AI-wet is een startpunt voor een nieuw bestuursmodel dat rond technologie is opgebouwd. We moeten ons nu concentreren op het in de praktijk brengen van deze wet.”
Volgende stappen
De verordening is nog onderworpen aan een laatste juristen-linguïstencontrole en zal naar verwachting vóór het einde van de zittingsperiode definitief worden aangenomen (via de zogenaamde rectificatie procedure). De wet moet ook formeel worden goedgekeurd door de Raad.
Het zal twintig dagen na de bekendmaking ervan in het Publicatieblad in werking treden en 24 maanden na de inwerkingtreding ervan volledig van toepassing zijn, met uitzondering van: het verbod op verboden praktijken, dat zes maanden na de datum van inwerkingtreding van toepassing zal zijn; praktijkcodes (negen maanden na inwerkingtreding); AI-regels voor algemene doeleinden, inclusief governance (twaalf maanden na de inwerkingtreding); en verplichtingen voor risicovolle systemen (12 maanden).
Achtergrond
De Artificial Intelligence Act is een directe reactie op de voorstellen van burgers van de Conferentie over de Toekomst van Europa (COFE), en het meest concreet voorstel 12(10) over het vergroten van het concurrentievermogen van de EU in strategische sectoren, voorstel 33(5) over een veilige en betrouwbare samenleving, inclusief het tegengaan van desinformatie en het garanderen dat de mens uiteindelijk de controle heeft, voorstel 35 ter bevordering van digitale innovatie, (3) en tegelijkertijd zorgen voor menselijk toezicht en (8) betrouwbaar en verantwoord gebruik van AI, het stellen van waarborgen en het waarborgen van transparantie, en voorstel 37 (3) over het gebruik van AI en digitale instrumenten om de toegang van burgers tot informatie, inclusief personen met een handicap, te verbeteren.
