Dag, European Artificial Intelligence Act (AI Act), verdens første omfattende forordning om kunstig intelligens, træder i kraft. AI-loven er designet til at sikre, at AI, der er udviklet og brugt i EU, er troværdig, med garantier for at beskytte folks grundlæggende rettigheder. Formålet med forordningen er at etablere et harmoniseret indre marked for kunstig intelligens i EU, der fremmer udbredelsen af denne teknologi og skabe et støttende miljø til innovation og investering.
AI-loven introducerer en fremadskuende definition af AI, baseret på en produktsikkerheds- og risikobaseret tilgang i EU:
- Minimal risiko: De fleste AI-systemer, såsom AI-aktiverede anbefalingssystemer og spamfiltre, falder ind under denne kategori. Disse systemer står ikke over for nogen forpligtelser i henhold til AI-loven på grund af deres minimale risiko for borgernes rettigheder og sikkerhed. Virksomheder kan frivilligt vedtage yderligere adfærdskodekser.
- Specifik gennemsigtighedsrisiko: AI-systemer som chatbots skal tydeligt oplyse brugerne om, at de interagerer med en maskine. Vist AI-genereret indhold, herunder dybe forfalskninger, skal mærkes som sådan, og brugerne skal informeres, når biometriske kategoriserings- eller følelsesgenkendelsessystemer bliver brugt. Derudover skal udbydere designe systemer på en måde, så syntetisk lyd-, video-, tekst- og billedindhold er markeret i et maskinlæsbart format og kan registreres som kunstigt genereret eller manipuleret.
- Høj risiko: AI-systemer, der er identificeret som højrisiko, skal overholdes strenge krav, herunder risikobegrænsende systemer, høj kvalitet af datasæt, logning af aktivitet, detaljeret dokumentation, klar brugerinformation, menneskeligt tilsyn og et højt niveau af robusthed, nøjagtighed og cybersikkerhed. Regulatoriske sandkasser vil lette ansvarlig innovation og udvikling af kompatible AI-systemer. Sådanne højrisiko AI-systemer omfatter for eksempel AI-systemer, der bruges til rekruttering eller til at vurdere, om nogen er berettiget til at få et lån eller til at drive autonome robotter.
- Uacceptabel risiko: AI-systemer betragtes som en klar trussel mod menneskers grundlæggende rettigheder bandlyst. Dette omfatter AI-systemer eller applikationer, der manipulerer menneskelig adfærd for at omgå brugernes frie vilje, såsom legetøj, der bruger stemmeassistance, der tilskynder til farlig adfærd hos mindreårige, systemer, der tillader "social scoring" af regeringer eller virksomheder, og visse anvendelser af prædiktiv politiarbejde. Derudover vil visse anvendelser af biometriske systemer blive forbudt, for eksempel følelsesgenkendelsessystemer, der bruges på arbejdspladsen og nogle systemer til kategorisering af personer eller realtidsfjernbiometrisk identifikation til retshåndhævelsesformål i offentligt tilgængelige rum (med snævre undtagelser).
For at supplere dette system indfører AI-loven også regler for såkaldte AI-modeller til generelle formål, som er meget dygtige AI-modeller, der er designet til at udføre en lang række opgaver som at generere menneskelignende tekst. Generelle AI-modeller bruges i stigende grad som komponenter i AI-applikationer. AI-loven vil sikre gennemsigtighed langs værdikæden og adresserer mulige systemiske risici ved de mest dygtige modeller.
Anvendelse og håndhævelse af AI-reglerne
Medlemsstaterne har indtil den 2. august 2025 til at udpege nationale kompetente myndigheder, som skal føre tilsyn med anvendelsen af reglerne for AI-systemer og udføre markedsovervågningsaktiviteter. Kommissionens AI Office vil være det centrale implementeringsorgan for AI-loven på EU-plan, såvel som håndhæveren af reglerne til generelle formål AI modeller.
Tre rådgivende organer vil støtte gennemførelsen af reglerne. Det European Artificial Intelligence Board vil sikre en ensartet anvendelse af AI-loven på tværs EU medlemsstaterne og vil fungere som hovedorganet for samarbejdet mellem Kommissionen og medlemsstaterne. Et videnskabeligt panel af uafhængige eksperter vil tilbyde teknisk rådgivning og input om håndhævelse. Dette panel kan især udstede advarsler til AI-kontoret om risici forbundet med AI-modeller til generelle formål. AI-kontoret kan også modtage vejledning fra et rådgivende forum, sammensat af en række forskellige interessenter.
Virksomheder, der ikke overholder reglerne, får bøder. Bøder kan gå op til 7 % af den globale årlige omsætning for overtrædelser af forbudte AI-applikationer, op til 3 % for overtrædelser af andre forpligtelser og op til 1.5 % for at levere forkerte oplysninger.
Næste trin
Størstedelen af reglerne i AI-loven begynder at gælde den 2. august 2026. Forbud mod AI-systemer, der vurderes at udgøre en uacceptabel risiko, vil dog gælde allerede efter seks måneder, mens reglerne for såkaldte General-Purpose AI-modeller vil gælde efter kl. 12 måneder.
For at bygge bro over overgangsperioden før fuld gennemførelse har Kommissionen lanceret AI-pagten. Dette initiativ opfordrer AI-udviklere til frivilligt at vedtage vigtige forpligtelser i AI-loven forud for de juridiske deadlines.
Kommissionen er også ved at udvikle retningslinjer for at definere og detaljere, hvordan AI-loven skal implementeres og lette samreguleringsinstrumenter som standarder og adfærdskodekser. Kommissionen åbnede opfordring til interessetilkendegivelse at deltage i udarbejdelsen af den første almene AI Code of Practice, samt en høring af flere interessenter at give alle interessenter mulighed for at sige deres mening om den første Code of Practice under AI-loven.
Baggrund
På 9 December 2023, den Kommissionen hilste den politiske aftale velkommen om AI-loven. Den 24. januar 2024 Kommissionen har iværksat en pakke af foranstaltninger at støtte europæiske startups og SMV'er i udviklingen af pålidelig AI. Den 29. maj 2024 afslørede AI Office. Den 9. juli 2024 den ændrede EuroHPC JU-forordning trådte i kraft, hvilket muliggør opsætning af AI-fabrikker. Dette gør det muligt at bruge dedikerede AI-supercomputere til træning af GPAI-modeller (General Purpose AI).
Fortsat uafhængig, evidensbaseret forskning produceret af Det Fælles Forskningscenter (JRC) har været grundlæggende i udformningen af EU's AI-politikker og sikring af deres effektive gennemførelse.
