Vandag is die Europese Wet op Kunsmatige Intelligensie (KI-wet), die wêreld se eerste omvattende regulasie oor kunsmatige intelligensie, tree in werking. Die KI-wet is ontwerp om te verseker dat KI wat in die EU ontwikkel en gebruik word, betroubaar is, met voorsorgmaatreëls om mense se fundamentele regte te beskerm. Die regulasie het ten doel om 'n geharmoniseerde interne mark vir KI in die EU te vestig, wat die opname van hierdie tegnologie aanmoedig en 'n ondersteunende omgewing te skep vir innovasie en belegging.
Die KI-wet stel 'n vooruitskouende definisie van KI bekend, gebaseer op 'n produkveiligheid en risiko-gebaseerde benadering in die EU:
- Minimale risiko: Die meeste KI-stelsels, soos KI-geaktiveerde aanbevelingstelsels en strooiposfilters, val in hierdie kategorie. Hierdie stelsels het geen verpligtinge ingevolge die KI-wet nie as gevolg van hul minimale risiko vir burgers se regte en veiligheid. Maatskappye kan vrywillig bykomende gedragskodes aanvaar.
- Spesifieke deursigtigheidsrisiko: KI-stelsels soos chatbots moet duidelik aan gebruikers bekend maak dat hulle met 'n masjien interaksie het. Sekere KI-gegenereerde inhoud, insluitend diep vervalsings, moet as sodanig gemerk word, en gebruikers moet ingelig word wanneer biometriese kategorisering of emosieherkenningstelsels gebruik word. Daarbenewens sal verskaffers stelsels moet ontwerp op 'n manier dat sintetiese oudio-, video-, teks- en beeldinhoud in 'n masjienleesbare formaat gemerk word, en waarneembaar is as kunsmatig gegenereer of gemanipuleer.
- Hoë risiko: Daar sal aan KI-stelsels wat as hoërisiko geïdentifiseer is, moet voldoen streng vereistes, insluitend risikoversagtingstelsels, hoë kwaliteit van datastelle, aanteken van aktiwiteit, gedetailleerde dokumentasie, duidelike gebruikersinligting, menslike toesig, en 'n hoë vlak van robuustheid, akkuraatheid en kuberveiligheid. Regulerende sandkaste sal verantwoordelike innovasie en die ontwikkeling van voldoenende KI-stelsels fasiliteer. Sulke hoërisiko-KI-stelsels sluit byvoorbeeld KI-stelsels in wat gebruik word vir werwing, of om te bepaal of iemand geregtig is om 'n lening te kry, of om outonome robotte te bestuur.
- Onaanvaarbare risiko: KI-stelsels wat as 'n duidelike bedreiging vir die fundamentele regte van mense beskou word, sal wees verbied. Dit sluit KI-stelsels of toepassings in wat menslike gedrag manipuleer om gebruikers se vrye wil te omseil, soos speelgoed wat stemhulp gebruik wat gevaarlike gedrag van minderjariges aanmoedig, stelsels wat 'sosiale puntetelling' deur regerings of maatskappye toelaat, en sekere toepassings van voorspellende polisiëring. Daarbenewens sal sommige gebruike van biometriese stelsels verbied word, byvoorbeeld emosie-herkenningstelsels wat by die werkplek gebruik word en sommige stelsels om mense te kategoriseer of intydse biometriese identifikasie op afstand vir wetstoepassingsdoeleindes in publiek toeganklike ruimtes (met noue uitsonderings).
Om hierdie stelsel aan te vul, stel die KI-wet ook reëls vir sg algemene doel KI-modelle, wat hoogs bekwame KI-modelle is wat ontwerp is om 'n wye verskeidenheid take uit te voer, soos om mensagtige teks te genereer. Algemene KI-modelle word toenemend as komponente van KI-toepassings gebruik. Die KI-wet sal deursigtigheid langs die waardeketting verseker en spreek moontlike sistemiese risiko's van die mees bekwame modelle aan.
Toepassing en afdwinging van die KI-reëls
Lidstate het tot 2 Augustus 2025 om nasionale bevoegde owerhede aan te wys, wat toesig sal hou oor die toepassing van die reëls vir KI-stelsels en marktoesigaktiwiteite sal uitvoer. Die Kommissie se KI-kantoor sal die sleutel-implementeringsliggaam vir die KI-wet op EU-vlak wees, sowel as die handhawer van die reëls vir algemene doeleindes KI modelle.
Drie adviesliggame sal die implementering van die reëls ondersteun. Die Europese Raad vir Kunsmatige Intelligensie sal 'n eenvormige toepassing van die KI-wet dwarsdeur verseker EU Lidstate en sal optree as die hoofliggaam vir samewerking tussen die Kommissie en die lidlande. 'n Wetenskaplike paneel van onafhanklike kundiges sal tegniese advies en insette oor afdwinging bied. Hierdie paneel kan veral waarskuwings aan die KI-kantoor uitreik oor risiko's verbonde aan algemene KI-modelle. Die KI-kantoor kan ook leiding ontvang van 'n adviesforum, saamgestel uit 'n diverse stel belanghebbendes.
Maatskappye wat nie aan die reëls voldoen nie, sal beboet word. Boetes kan tot 7% van die wêreldwye jaarlikse omset styg vir oortredings van verbode KI-toepassings, tot 3% vir oortredings van ander verpligtinge en tot 1.5% vir die verskaffing van verkeerde inligting.
Volgende stappe
Die meerderheid van die reëls van die KI-wet sal op 2 Augustus 2026 begin geld. Verbod op KI-stelsels wat geag word 'n onaanvaarbare risiko inhou sal egter reeds na ses maande geld, terwyl die reëls vir sogenaamde Algemene-Doel KI-modelle sal geld na 12 maande.
Om die oorgangstydperk voor volle implementering te oorbrug, het die Kommissie die KI-verdrag. Hierdie inisiatief nooi KI-ontwikkelaars uit om vrywillig sleutelverpligtinge van die KI-wet aan te neem voor die wetlike sperdatums.
Die Kommissie ontwikkel ook riglyne om te definieer en besonderhede te gee oor hoe die KI-wet geïmplementeer moet word en om mederegulerende instrumente soos standaarde en praktykkodes te fasiliteer. Die Kommissie het geopen 'n oproep om belangstelling te toon om deel te neem aan die opstel van die eerste algemene KI-praktykkode, asook a multi-belanghebbende konsultasie die geleentheid aan alle belanghebbendes te gee om hul sê te sê oor die eerste praktykkode ingevolge die KI-wet.
agtergrond
Op 9 Desember 2023, die Kommissie het die politieke ooreenkoms verwelkom op die KI-wet. Op 24 Januarie 2024 die Kommissie het 'n pakket maatreëls van stapel gestuur Europese startups en KMO's te ondersteun in die ontwikkeling van betroubare KI. Op 29 Mei 2024 het die Kommissie die KI-kantoor onthul. Op 9 Julie 2024 het die gewysigde EuroHPC JU-regulasie in werking getree het, wat dus die opstel van KI-fabrieke moontlik maak. Dit laat toe dat toegewyde KI-superrekenaars gebruik word vir die opleiding van General Purpose KI (GPAI) modelle.
Voortgesette onafhanklike, bewysgebaseerde navorsing vervaardig deur die Gesamentlike Navorsingsentrum (JRC) was fundamenteel in die vorming van die EU se KI-beleide en om die effektiewe implementering daarvan te verseker.
