Forskriften, ble enig i forhandlinger med medlemslandene i desember 2023, ble godkjent av MEP-er med 523 stemmer for, 46 mot og 49 avholdende.
Den har som mål å beskytte grunnleggende rettigheter, demokrati, rettsstaten og miljømessig bærekraft fra høyrisiko AI, samtidig som det øker innovasjonen og etablerer Europa som ledende på området. Forskriften etablerer forpliktelser for AI basert på potensielle risikoer og påvirkningsnivå.
Forbudte applikasjoner
De nye reglene forbyr visse AI-applikasjoner som truer borgernes rettigheter, inkludert biometriske kategoriseringssystemer basert på sensitive egenskaper og umålrettet skraping av ansiktsbilder fra internett eller CCTV-opptak for å lage ansiktsgjenkjenningsdatabaser. Følelsesgjenkjenning på arbeidsplassen og skolene, sosial scoring, prediktivt politiarbeid (når det kun er basert på profilering av en person eller vurdering av deres egenskaper), og AI som manipulerer menneskelig atferd eller utnytter folks sårbarheter vil også være forbudt.
Fritak for rettshåndhevelse
Bruk av biometriske identifikasjonssystemer (RBI) av rettshåndhevelse er i prinsippet forbudt, bortsett fra i uttømmende listede og snevert definerte situasjoner. "Sanntids" RBI kan bare distribueres hvis strenge sikkerhetstiltak overholdes, f.eks. bruken er begrenset i tid og geografisk omfang og underlagt spesifikk forhåndsrettslig eller administrativ autorisasjon. Slik bruk kan for eksempel omfatte et målrettet ransaking av en savnet person eller å forhindre et terrorangrep. Bruk av slike systemer post-facto ("post-remote RBI") anses som en høyrisikobrukssak, som krever rettslig autorisasjon knyttet til en straffbar handling.
Forpliktelser for høyrisikosystemer
Klare forpliktelser er også forutsatt for andre høyrisiko AI-systemer (på grunn av deres betydelige potensielle skade på helse, sikkerhet, grunnleggende rettigheter, miljø, demokrati og rettsstaten). Eksempler på høyrisiko-AI-bruk inkluderer kritisk infrastruktur, utdanning og yrkesopplæring, sysselsetting, essensielle private og offentlige tjenester (f.eks. helsevesen, bank), visse systemer innen rettshåndhevelse, migrasjon og grenseforvaltning, rettferdighet og demokratiske prosesser (f.eks. påvirkning av valg) . Slike systemer må vurdere og redusere risiko, vedlikeholde brukslogger, være transparente og nøyaktige og sikre menneskelig tilsyn. Innbyggere vil ha rett til å sende inn klager på AI-systemer og motta forklaringer om beslutninger basert på høyrisiko AI-systemer som påvirker rettighetene deres.
Krav til åpenhet
General-purpose AI (GPAI)-systemer, og GPAI-modellene de er basert på, må oppfylle visse krav til åpenhet, inkludert overholdelse av EUs lov om opphavsrett og publisering av detaljerte sammendrag av innholdet som brukes til opplæring. De kraftigere GPAI-modellene som kan utgjøre systemiske risikoer vil møte ytterligere krav, inkludert å utføre modellevalueringer, vurdere og redusere systemiske risikoer og rapportere om hendelser.
I tillegg må kunstige eller manipulerte bilder, lyd- eller videoinnhold ("deepfakes") tydelig merkes som sådan.
Tiltak for å støtte innovasjon og SMB
Regulatoriske sandkasser og testing i den virkelige verden vil måtte etableres på nasjonalt nivå, og gjøres tilgjengelig for SMBer og nystartede bedrifter, for å utvikle og trene innovativ AI før den kommer ut på markedet.
Quotes
Under plenumsdebatten tirsdag var Internmarkedskomiteen medordfører Brando Benifei (S&D, Italia) sa: «Vi har endelig fått verdens første bindende lov om kunstig intelligens, for å redusere risiko, skape muligheter, bekjempe diskriminering og bringe åpenhet. Takket være parlamentet vil uakseptabel AI-praksis bli forbudt i Europa og rettighetene til arbeidere og borgere vil bli beskyttet. AI-kontoret skal nå opprettes for å støtte bedrifter i å begynne å følge reglene før de trer i kraft. Vi sørget for at mennesker og europeiske verdier er i sentrum av AIs utvikling”.
Medordfører for borgerrettighetsutvalget Dragos Tudorache (Renew, Romania) sa: «EU har levert. Vi har knyttet begrepet kunstig intelligens til de grunnleggende verdiene som ligger til grunn for våre samfunn. Imidlertid venter mye arbeid som går utover selve AI-loven. AI vil presse oss til å revurdere den sosiale kontrakten i hjertet av våre demokratier, våre utdanningsmodeller, arbeidsmarkeder og måten vi driver krigføring på. AI-loven er et utgangspunkt for en ny styringsmodell bygget rundt teknologi. Vi må nå fokusere på å sette denne loven ut i livet».
Neste trinn
Forskriften er fortsatt gjenstand for en endelig advokat-lingvistkontroll og forventes endelig vedtatt innen utgangen av lovgiveren (gjennom den s.k. retting fremgangsmåte). Loven må også formelt godkjennes av rådet.
Den vil tre i kraft tjue dager etter publisering i det offisielle tidsskriftet, og være fullt gjeldende 24 måneder etter ikrafttredelsen, bortsett fra: forbud mot forbudte praksiser, som vil gjelde seks måneder etter ikrafttredelsesdatoen; retningslinjer for praksis (ni måneder etter ikrafttredelse); generelle AI-regler inkludert styring (12 måneder etter ikrafttredelse); og forpliktelser for høyrisikosystemer (36 måneder).
Bakgrunn
Artificial Intelligence Act svarer direkte på innbyggernes forslag fra Conference on the Future of Europe (COFE), mest konkret til forslag 12(10) om å styrke EUs konkurranseevne i strategiske sektorer, forslag 33(5) på et trygt og pålitelig samfunn, inkludert å motvirke desinformasjon og sikre at mennesker til syvende og sist har kontroll, forslag 35 om å fremme digital innovasjon, (3) samtidig som det sikres menneskelig tilsyn og (8) pålitelig og ansvarlig bruk av AI, setter sikkerhetstiltak og sikrer åpenhet, og forslag 37 (3) om bruk av kunstig intelligens og digitale verktøy for å forbedre innbyggeres tilgang til informasjon, inkludert personer med nedsatt funksjonsevne.
