På onsdagen godkände parlamentet lagen om artificiell intelligens som säkerställer säkerhet och efterlevnad av grundläggande rättigheter, samtidigt som innovation ökar.
Förordningen, enades i förhandlingar med medlemsländerna i december 2023, godkändes av parlamentsledamöter med 523 röster för, 46 emot och 49 nedlagda röster.
Det syftar till att skydda grundläggande rättigheter, demokrati, rättsstatsprincipen och miljömässig hållbarhet från högrisk AI, samtidigt som det främjar innovation och etablerar Europa som ledande på området. Förordningen fastställer skyldigheter för AI baserat på dess potentiella risker och påverkan.
Förbjudna applikationer
De nya reglerna förbjuder vissa AI-applikationer som hotar medborgarnas rättigheter, inklusive biometriska kategoriseringssystem baserade på känsliga egenskaper och oriktad skrapning av ansiktsbilder från internet eller CCTV-bilder för att skapa ansiktsigenkänningsdatabaser. Känsloigenkänning på arbetsplatsen och i skolor, social poängsättning, förutsägande polisarbete (när det enbart bygger på att profilera en person eller bedöma deras egenskaper) och AI som manipulerar mänskligt beteende eller utnyttjar människors sårbarheter kommer också att vara förbjudna.
Undantag för brottsbekämpning
Användning av biometriska identifieringssystem (RBI) av brottsbekämpande myndigheter är i princip förbjuden, förutom i uttömmande uppräknade och snävt definierade situationer. "Realtids" RBI kan endast användas om strikta säkerhetsåtgärder uppfylls, t.ex. dess användning är begränsad i tid och geografiskt omfång och är föremål för särskilda förhandsrättsliga eller administrativa tillstånd. Sådan användning kan till exempel omfatta en riktad sökning av en försvunnen person eller förhindrande av en terroristattack. Att använda sådana system i efterhand ("post-remote RBI") anses vara ett användningsfall med hög risk, som kräver rättslig auktorisation kopplat till ett brott.
Skyldigheter för högrisksystem
Tydliga skyldigheter förutses också för andra högrisk-AI-system (på grund av deras betydande potentiella skada på hälsa, säkerhet, grundläggande rättigheter, miljö, demokrati och rättsstatsprincipen). Exempel på högrisk-AI-användningar inkluderar kritisk infrastruktur, utbildning och yrkesutbildning, sysselsättning, väsentliga privata och offentliga tjänster (t.ex. hälsovård, bank), vissa system inom brottsbekämpning, migration och gränsförvaltning, rättvisa och demokratiska processer (t.ex. valpåverkan) . Sådana system måste bedöma och minska risker, upprätthålla användningsloggar, vara transparenta och korrekta och säkerställa mänsklig tillsyn. Medborgare kommer att ha rätt att lämna in klagomål om AI-system och få förklaringar om beslut baserade på högrisk-AI-system som påverkar deras rättigheter.
Krav på öppenhet
General-purpose AI (GPAI)-system, och GPAI-modellerna de är baserade på, måste uppfylla vissa krav på öppenhet, inklusive efterlevnad av EU:s upphovsrättslagstiftning och publicering av detaljerade sammanfattningar av innehållet som används för utbildning. De mer kraftfulla GPAI-modellerna som kan utgöra systemrisker kommer att möta ytterligare krav, inklusive att utföra modellutvärderingar, bedöma och mildra systemrisker och rapportera om incidenter.
Dessutom måste konstgjorda eller manipulerade bilder, ljud- eller videoinnehåll ("deepfakes") tydligt märkas som sådana.
Åtgärder för att stödja innovation och små och medelstora företag
Regulatoriska sandlådor och verkliga tester kommer att behöva etableras på nationell nivå och göras tillgängliga för små och medelstora företag och nystartade företag, för att utveckla och träna innovativ AI innan den släpps ut på marknaden.
Citat
Under plenardebatten på tisdagen var utskottet för den inre marknaden medföredragande Brando Benifei (S&D, Italien) sa: "Vi har äntligen världens första bindande lag om artificiell intelligens, för att minska risker, skapa möjligheter, bekämpa diskriminering och skapa insyn. Tack vare parlamentet kommer oacceptabel AI-praxis att förbjudas i Europa och arbetarnas och medborgarnas rättigheter kommer att skyddas. AI-kontoret kommer nu att inrättas för att stödja företag att börja följa reglerna innan de träder i kraft. Vi såg till att människor och europeiska värderingar står i centrum för AI:s utveckling”.
Medföredragande för utskottet för medborgerliga fri- och rättigheter Dragos Tudorache (Renew, Rumänien) sa: "EU har levererat. Vi har kopplat begreppet artificiell intelligens till de grundläggande värderingar som ligger till grund för våra samhällen. Men mycket arbete väntar som går utöver själva AI-lagen. AI kommer att driva oss att tänka om det sociala kontraktet i hjärtat av våra demokratier, våra utbildningsmodeller, arbetsmarknader och hur vi bedriver krigföring. AI-lagen är en startpunkt för en ny modell för styrning byggd kring teknik. Vi måste nu fokusera på att omsätta denna lag i praktiken”.
Nästa steg
Förordningen är fortfarande föremål för en slutlig juristlingvistkontroll och förväntas vara slutgiltigt antagen före valperiodens slut (genom s.k. rättelse procedur). Lagen måste också formellt godkännas av rådet.
Det kommer att träda i kraft tjugo dagar efter det att det har offentliggjorts i den officiella tidningen och är fullt tillämpligt 24 månader efter det att det har trätt i kraft, med undantag för: förbud mot förbjudna metoder, som kommer att gälla sex månader efter ikraftträdandet; uppförandekoder (nio månader efter ikraftträdandet); allmänna AI-regler inklusive styrning (12 månader efter ikraftträdandet); och skyldigheter för högrisksystem (36 månader).
Bakgrund
Artificial Intelligence Act svarar direkt på medborgarnas förslag från Conference on the Future of Europe (COFE), mest konkret till förslag 12(10) om att förbättra EU:s konkurrenskraft inom strategiska sektorer, förslag 33(5) om ett säkert och pålitligt samhälle, inklusive att motverka desinformation och se till att människor i slutändan har kontroll, förslag 35 om att främja digital innovation, (3) samtidigt som man säkerställer mänsklig tillsyn och (8) pålitlig och ansvarsfull användning av AI, sätter säkerhetsåtgärder och säkerställer transparens, och förslag 37 (3) om att använda AI och digitala verktyg för att förbättra medborgarnas tillgång till information, inklusive personer med funktionsnedsättning.
