Vandaag de dag, de Europese Wet op de Kunstmatige Intelligentie (AI-wet), 's werelds eerste alomvattende regelgeving op het gebied van kunstmatige intelligentie, treedt in werking. De AI-wet is bedoeld om ervoor te zorgen dat de in de EU ontwikkelde en gebruikte AI betrouwbaar is, met waarborgen om de fundamentele rechten van mensen te beschermen. De verordening heeft tot doel een geharmoniseerde interne markt voor AI in de EU tot stand te brengen, waardoor de introductie van deze technologie wordt gestimuleerd het creëren van een ondersteunende omgeving voor innovatie en investeringen.
De AI-wet introduceert een toekomstgerichte definitie van AI, gebaseerd op een productveiligheids- en risicogebaseerde aanpak in de EU:
- Minimaal risico: De meeste AI-systemen, zoals AI-aanbevelingssystemen en spamfilters, vallen in deze categorie. Deze systemen hebben geen verplichtingen op grond van de AI-wet vanwege hun minimale risico voor burgers. rechten en veiligheid. Bedrijven kunnen vrijwillig aanvullende gedragscodes aannemen.
- Specifiek transparantierisico: AI-systemen zoals chatbots moeten gebruikers duidelijk laten weten dat ze interactie hebben met een machine. Bepaalde door AI gegenereerde inhoud, inclusief deep fakes, moet als zodanig worden geëtiketteerd en gebruikers moeten worden geïnformeerd wanneer biometrische categorisatie- of emotieherkenningssystemen worden gebruikt. Bovendien zullen aanbieders systemen zo moeten ontwerpen dat synthetische audio-, video-, tekst- en beeldinhoud wordt gemarkeerd in een machinaal leesbaar formaat en detecteerbaar is als kunstmatig gegenereerd of gemanipuleerd.
- Hoog risico: AI-systemen die als een hoog risico zijn geïdentificeerd, zullen hieraan moeten voldoen strenge eisen, inclusief systemen voor risicobeperking, hoge kwaliteit van datasets, loggen van activiteiten, gedetailleerde documentatie, duidelijke gebruikersinformatie, menselijk toezicht en een hoog niveau van robuustheid, nauwkeurigheid en cyberbeveiliging. Regelgevingssandboxen zullen verantwoorde innovatie en de ontwikkeling van compatibele AI-systemen vergemakkelijken. Dergelijke risicovolle AI-systemen omvatten bijvoorbeeld AI-systemen die worden gebruikt voor werving, of om te beoordelen of iemand recht heeft op een lening, of om autonome robots te laten draaien.
- Onaanvaardbaar risico: AI-systemen die als een duidelijke bedreiging voor de fundamentele rechten van mensen worden beschouwd, zullen dat ook zijn verboden. Dit omvat AI-systemen of toepassingen die menselijk gedrag manipuleren om de vrije wil van gebruikers te omzeilen, zoals speelgoed dat gebruik maakt van stemondersteuning dat gevaarlijk gedrag van minderjarigen aanmoedigt, systemen die 'sociale scores' door overheden of bedrijven mogelijk maken, en bepaalde toepassingen van voorspellend politiewerk. Bovendien zal bepaald gebruik van biometrische systemen verboden worden, bijvoorbeeld systemen voor emotieherkenning die op de werkplek worden gebruikt en sommige systemen voor het categoriseren van mensen of realtime biometrische identificatie op afstand voor wetshandhavingsdoeleinden in publiek toegankelijke ruimtes (op enkele uitzonderingen na).
Als aanvulling op dit systeem introduceert de AI-wet ook regels voor zogenaamde AI-modellen voor algemene doeleinden, dit zijn zeer capabele AI-modellen die zijn ontworpen om een breed scala aan taken uit te voeren, zoals het genereren van mensachtige tekst. AI-modellen voor algemene doeleinden worden steeds vaker gebruikt als componenten van AI-toepassingen. De AI-wet zal zorgen voor transparantie in de waardeketen en mogelijke systeemrisico’s van de meest capabele modellen aanpakken.
Toepassing en handhaving van de AI-regels
De lidstaten hebben tot 2 augustus 2025 de tijd om nationale bevoegde autoriteiten aan te wijzen, die toezicht zullen houden op de toepassing van de regels voor AI-systemen en markttoezichtactiviteiten zullen uitvoeren. De Commissie AI-kantoor zal het belangrijkste uitvoeringsorgaan voor de AI-wet op EU-niveau zijn, evenals de handhaver van de regels voor algemene doeleinden AI-modellen.
Drie adviesorganen zullen de implementatie van de regels ondersteunen. De Europese Raad voor Kunstmatige Intelligentie zal zorgen voor een uniforme toepassing van de AI-wet in de hele wereld EU lidstaten en zal optreden als het belangrijkste orgaan voor de samenwerking tussen de Commissie en de lidstaten. Een wetenschappelijk panel van onafhankelijke deskundigen zal technisch advies en input geven over handhaving. Dit panel kan met name waarschuwingen sturen naar het AI Office over risico's die verband houden met AI-modellen voor algemeen gebruik. Ook het AI Office kan begeleiding krijgen van een adviesforum, samengesteld uit een diverse groep belanghebbenden.
Bedrijven die zich niet aan de regels houden, krijgen een boete. Boetes kunnen oplopen tot 7% van de mondiale jaaromzet voor overtredingen van verboden AI-toepassingen, tot 3% voor overtredingen van andere verplichtingen en tot 1.5% voor het verstrekken van onjuiste informatie.
Volgende stappen
Het merendeel van de regels van de AI-wet zal vanaf 2 augustus 2026 van toepassing worden. Verboden op AI-systemen die geacht worden een onaanvaardbaar risico te vormen, zullen echter al na zes maanden van toepassing zijn, terwijl de regels voor zogenaamde General-Purpose AI-modellen daarna van toepassing zullen zijn. 12 maanden.
Om de overgangsperiode vóór volledige implementatie te overbruggen, heeft de Commissie het initiatief genomen AI-pact. Dit initiatief nodigt AI-ontwikkelaars uit om vóór de wettelijke deadlines vrijwillig de belangrijkste verplichtingen van de AI-wet over te nemen.
De Commissie ontwikkelt ook richtlijnen om te definiëren en gedetailleerd te beschrijven hoe de AI-wet moet worden geïmplementeerd en om co-reguleringsinstrumenten zoals normen en praktijkcodes te faciliteren. De Commissie is geopend een oproep tot het indienen van blijken van belangstelling om deel te nemen aan het opstellen van de eerste AI-praktijkcode voor algemene doeleinden, evenals overleg met meerdere belanghebbenden het geven van de mogelijkheid aan alle belanghebbenden om hun zegje te doen over de eerste Praktijkcode onder de AI-wet.
Achtergrond
Op 9 december 2023, de De Commissie was ingenomen met het politieke akkoord over de AI-wet. Op 24 januari 2024 de Commissie heeft een pakket maatregelen gelanceerd om Europese startups en kmo’s te ondersteunen bij de ontwikkeling van betrouwbare AI. Op 29 mei 2024 heeft de Commissie onthulde het AI-kantoor. Op 9 juli 2024 de gewijzigde EuroHPC JU-verordening in werking getreden, waardoor de oprichting van AI-fabrieken mogelijk wordt. Hierdoor kunnen speciale AI-supercomputers worden gebruikt voor de training van General Purpose AI (GPAI)-modellen.
Voortgezet onafhankelijk, op bewijs gebaseerd onderzoek geproduceerd door het Gemeenschappelijk Centrum voor Onderzoek (JRC) is van fundamenteel belang geweest bij het vormgeven van het AI-beleid van de EU en het garanderen van de effectieve uitvoering ervan.
