Parlament je v sredo potrdil zakon o umetni inteligenci, ki zagotavlja varnost in skladnost s temeljnimi pravicami ter hkrati spodbuja inovacije.
Uredba, dogovorjeno na pogajanjih z državami članicami decembra 2023 so poslanci potrdili s 523 glasovi za, 46 proti in 49 vzdržanimi glasovi.
Njegov cilj je zaščititi temeljne pravice, demokracijo, pravno državo in okoljsko trajnost pred visoko tvegano umetno inteligenco, hkrati pa spodbujati inovacije in uveljaviti Evropo kot vodilno mesto na tem področju. Uredba določa obveznosti za umetno inteligenco glede na morebitna tveganja in stopnjo vpliva.
Prepovedane aplikacije
Nova pravila prepovedujejo nekatere aplikacije umetne inteligence, ki ogrožajo pravice državljanov, vključno s sistemi biometrične kategorizacije, ki temeljijo na občutljivih značilnostih in neciljanem strganju slik obraza iz interneta ali posnetkov CCTV za ustvarjanje zbirk podatkov za prepoznavanje obrazov. Prepovedano bo tudi prepoznavanje čustev na delovnem mestu in v šolah, družbeno točkovanje, prediktivno policijsko delovanje (kadar temelji izključno na profiliranju osebe ali ocenjevanju njenih lastnosti) in umetna inteligenca, ki manipulira človeško vedenje ali izkorišča ranljivost ljudi.
Izjeme organov pregona
Uporaba biometričnih identifikacijskih sistemov (RBI) s strani organov pregona je načeloma prepovedana, razen v taksativno naštetih in ozko opredeljenih situacijah. RBI v „realnem času“ se lahko uvede samo, če so izpolnjeni strogi zaščitni ukrepi, npr. njegova uporaba je časovno in geografsko omejena ter je predmet posebnega predhodnega sodnega ali upravnega dovoljenja. Take uporabe lahko vključujejo na primer ciljno iskanje pogrešane osebe ali preprečevanje terorističnega napada. Uporaba takšnih sistemov post facto (»post-remote RBI«) velja za primer uporabe z visokim tveganjem, ki zahteva sodno dovoljenje, ki je povezano s kaznivim dejanjem.
Obveznosti za sisteme z visokim tveganjem
Jasne obveznosti so predvidene tudi za druge sisteme umetne inteligence z visokim tveganjem (zaradi njihove znatne potencialne škode za zdravje, varnost, temeljne pravice, okolje, demokracijo in pravno državo). Primeri uporabe umetne inteligence z visokim tveganjem vključujejo kritično infrastrukturo, izobraževanje in poklicno usposabljanje, zaposlovanje, bistvene zasebne in javne storitve (npr. zdravstvo, bančništvo), nekatere sisteme kazenskega pregona, upravljanje migracij in meja, pravosodje in demokratične procese (npr. vplivanje na volitve) . Takšni sistemi morajo oceniti in zmanjšati tveganja, vzdrževati dnevnike uporabe, biti pregledni in natančni ter zagotavljati človeški nadzor. Državljani bodo imeli pravico do vložitve pritožb glede sistemov umetne inteligence in prejemanja pojasnil o odločitvah, ki temeljijo na visoko tveganih sistemih umetne inteligence in vplivajo na njihove pravice.
Zahteve glede preglednosti
Sistemi umetne inteligence za splošni namen (GPAI) in modeli GPAI, na katerih temeljijo, morajo izpolnjevati določene zahteve glede preglednosti, vključno s skladnostjo z zakonodajo EU o avtorskih pravicah in objavo podrobnih povzetkov vsebine, uporabljene za usposabljanje. Zmogljivejši modeli GPAI, ki bi lahko predstavljali sistemska tveganja, se bodo soočili z dodatnimi zahtevami, vključno z izvajanjem vrednotenja modela, ocenjevanjem in zmanjševanjem sistemskih tveganj ter poročanjem o incidentih.
Poleg tega morajo biti umetne ali spremenjene slike, avdio ali video vsebine (»deepfakes«) jasno označene kot take.
Ukrepi za podporo inovativnosti in MSP
Regulativne peskovnike in testiranje v resničnem svetu bo treba vzpostaviti na nacionalni ravni ter omogočiti dostop MSP in novoustanovljenim podjetjem za razvoj in usposabljanje inovativne umetne inteligence pred njeno umestitvijo na trg.
citati
Med plenarno razpravo v torek je soporočevalec odbora za notranji trg Brando Benifei (S&D, Italija) je dejal: »Končno imamo prvi zavezujoč zakon o umetni inteligenci na svetu za zmanjšanje tveganj, ustvarjanje priložnosti, boj proti diskriminaciji in zagotavljanje preglednosti. Zahvaljujoč parlamentu bodo nesprejemljive prakse umetne inteligence v Evropi prepovedane, pravice delavcev in državljanov pa zaščitene. Urad za umetno inteligenco bo zdaj ustanovljen za podporo podjetjem, da začnejo izpolnjevati pravila, preden začnejo veljati. Zagotovili smo, da so ljudje in evropske vrednote v samem središču razvoja umetne inteligence.”
Soporočevalec Odbora za državljanske svoboščine Dragos Tudorache (Renew, Romunija) dejal: „EU je dosegla. Koncept umetne inteligence smo povezali s temeljnimi vrednotami, ki so osnova naših družb. Vendar pa je pred nami še veliko dela, ki presega sam zakon o AI. Umetna inteligenca nas bo spodbudila k ponovnemu premisleku o družbeni pogodbi, ki je v središču naših demokracij, naših izobraževalnih modelih, trgih dela in načinu vojskovanja. Zakon o AI je izhodišče za nov model upravljanja, ki temelji na tehnologiji. Zdaj se moramo osredotočiti na izvajanje tega zakona v praksi.”
Naslednji koraki
Uredba je še v zadnji pravno-jezikoslovni presoji in bo predvidoma dokončno sprejeta pred koncem zakonodajne dobe (prek t.i. popravek postopek). Zakon mora uradno potrditi tudi Svet.
Veljati bo začela dvajset dni po objavi v Uradnem listu, v celoti pa se bo začela uporabljati 24 mesecev po začetku veljavnosti, razen: prepovedi prepovedanih praks, ki bodo veljale šest mesecev po datumu začetka veljavnosti; kodeks ravnanja (devet mesecev po začetku veljavnosti); pravila o umetni inteligenci za splošni namen, vključno z upravljanjem (12 mesecev po začetku veljavnosti); in obveznosti za sisteme z visokim tveganjem (36 mesecev).
Ozadje
Zakon o umetni inteligenci neposredno odgovarja na predloge državljanov Konference o prihodnosti Evrope (COFE), predvsem na predlog 12(10) o povečanju konkurenčnosti EU v strateških sektorjih, predlog 33(5) o varni in zaupanja vredni družbi, vključno z bojem proti dezinformacijam in zagotavljanjem, da imajo ljudje končni nadzor, predlog 35 o spodbujanju digitalnih inovacij, (3) ob zagotavljanju človeškega nadzora in (8) zaupanja vredna in odgovorna uporaba umetne inteligence, nastavitev zaščitnih ukrepov in zagotavljanje preglednosti ter predlog 37 (3) o uporabi umetne inteligence in digitalnih orodij za izboljšanje dostopa državljanov do informacij, vključno z invalidi.
