Reglugerðin, samþykkti í samningaviðræðum við aðildarríkin í desember 2023, var samþykkt af Evrópuþingmönnum með 523 atkvæðum með, 46 á móti og 49 sátu hjá.
Það miðar að því að vernda grundvallarréttindi, lýðræði, réttarríkið og sjálfbærni í umhverfismálum fyrir áhættusömum gervigreindum, en efla nýsköpun og koma Evrópu í fremstu röð á þessu sviði. Reglugerðin setur skyldur fyrir gervigreind út frá hugsanlegri áhættu þess og áhrifastigi.
Bannaðar forrit
Nýju reglurnar banna tiltekin gervigreind forrit sem ógna réttindum borgaranna, þar á meðal líffræðileg tölfræði flokkunarkerfi sem byggjast á viðkvæmum eiginleikum og ómarkvissri skafun á andlitsmyndum af internetinu eða CCTV myndefni til að búa til gagnagrunna fyrir andlitsþekkingu. Tilfinningaviðurkenning á vinnustað og í skólum, félagsleg stigagjöf, forspárlöggæsla (þegar hún byggist eingöngu á því að kynna einstakling eða leggja mat á eiginleika hennar) og gervigreind sem hagnýtir mannlega hegðun eða nýtir sér varnarleysi fólks verður einnig bönnuð.
Undanþágur löggæslu
Notkun líffræðilegra auðkenningarkerfa (RBI) af löggæslu er í grundvallaratriðum bönnuð, nema við tæmandi upptaldar og þröngt skilgreindar aðstæður. „Rauntíma“ RBI er aðeins hægt að beita ef ströngum varúðarráðstöfunum er fullnægt, td notkun þess er takmörkuð í tíma og landfræðilegu umfangi og háð sérstöku fyrirfram réttar- eða stjórnsýsluleyfi. Slík notkun getur til dæmis falið í sér markvissa leit á týndum manni eða að koma í veg fyrir hryðjuverkaárás. Notkun slíkra kerfa í kjölfarið („eftir-fjarlæg RBI“) er talin vera áhættusöm notkunartilvik, sem krefst réttarheimildar sem tengist refsiverðu broti.
Skyldur vegna áhættukerfa
Einnig er gert ráð fyrir skýrum skyldum fyrir önnur gervigreindarkerfi sem eru í mikilli áhættu (vegna verulegs hugsanlegs skaða á heilsu, öryggi, grundvallarréttindum, umhverfi, lýðræði og réttarríkinu). Dæmi um notkun gervigreindar í mikilli áhættu eru mikilvægar innviðir, menntun og starfsþjálfun, atvinnu, nauðsynleg einka- og opinber þjónusta (td heilbrigðisþjónusta, bankastarfsemi), ákveðin kerfi í löggæslu, fólksflutninga og landamærastjórnun, réttlæti og lýðræðisleg ferli (td áhrif á kosningar) . Slík kerfi verða að meta og draga úr áhættu, halda notkunarskrám, vera gagnsæ og nákvæm og tryggja mannlegt eftirlit. Borgarar munu eiga rétt á að leggja fram kvartanir vegna gervigreindarkerfa og fá skýringar á ákvörðunum sem byggjast á áhættusömum gervigreindarkerfum sem hafa áhrif á réttindi þeirra.
Kröfur um gagnsæi
Almennt gervigreind (GPAI) kerfi, og GPAI líkönin sem þau eru byggð á, verða að uppfylla ákveðnar gagnsæiskröfur, þar á meðal samræmi við höfundarréttarlög ESB og birta ítarlegar samantektir á efninu sem notað er til þjálfunar. Öflugri GPAI líkönin sem gætu haft í för með sér kerfisáhættu munu standa frammi fyrir viðbótarkröfum, þar á meðal að framkvæma líkanamat, meta og draga úr kerfisáhættu og tilkynna um atvik.
Auk þess þarf að merkja gervi- eða meðhöndlaðar myndir, hljóð- eða myndefni ("djúpfalsanir") greinilega sem slíkt.
Aðgerðir til að styðja við nýsköpun og lítil og meðalstór fyrirtæki
Stofna þarf sandkassa og raunveruleikaprófanir á landsvísu og gera þær aðgengilegar litlum og meðalstórum fyrirtækjum og sprotafyrirtækjum til að þróa og þjálfa nýstárlega gervigreind áður en það kemur á markað.
Quotes
Í umræðum á þinginu á þriðjudag var meðframsögumaður innri markaðsnefndar Brando Benifei (S&D, Ítalía) sagði: „Við höfum loksins fyrstu bindandi lög heimsins um gervigreind, til að draga úr áhættu, skapa tækifæri, berjast gegn mismunun og koma á gagnsæi. Þökk sé þinginu verða óviðunandi gervigreindarvenjur bannaðar í Evrópu og réttindi starfsmanna og borgara verða vernduð. Skrifstofa gervigreindar verður nú sett á laggirnar til að styðja fyrirtæki við að fara að reglunum áður en þær taka gildi. Við tryggðum að manneskjur og evrópsk gildi væru miðpunkturinn í þróun gervigreindar.“
Meðskýrandi borgararéttarnefndar Dragos Tudorache (Renew, Rúmenía) sagði: „ESB hefur skilað. Við höfum tengt hugtakið gervigreind við þau grundvallargildi sem liggja til grundvallar samfélögum okkar. Hins vegar er mikil vinna framundan sem nær út fyrir gervigreindarlögin sjálf. Gerð gervigreind mun þrýsta á okkur að endurskoða samfélagssáttmálann í hjarta lýðræðisríkja okkar, menntunarlíkön okkar, vinnumarkaðinn og hvernig við höldum hernaði. Gervigreindarlögin eru upphafspunktur fyrir nýtt líkan af stjórnunarháttum sem byggt er á tækni. Nú verðum við að einbeita okkur að því að koma þessum lögum í framkvæmd“.
Næstu skref
Reglugerðin er enn háð lokaathugun lögfræðinga og málvísindamanna og er gert ráð fyrir að hún verði endanlega samþykkt fyrir lok löggjafarþings (með s.k. leiðréttingu málsmeðferð). Lögin þurfa einnig að vera formlega samþykkt af ráðinu.
Það öðlast gildi tuttugu dögum eftir birtingu þess í opinberu tímaritinu og gildir að fullu 24 mánuðum eftir gildistöku þess, að undanskildum: bönnum við bönnuðum athöfnum, sem gilda sex mánuðum eftir gildistökudaginn; siðareglur (níu mánuðum eftir gildistöku); almennar gervigreindarreglur, þar með talið stjórnun (12 mánuðum eftir gildistöku); og skyldur vegna áhættukerfa (36 mánuðir).
Bakgrunnur
Gervigreindarlögin bregðast beint við tillögum borgaranna frá ráðstefnunni um framtíð Evrópu (COFE), einkum til tillaga 12(10) um að efla samkeppnishæfni ESB í stefnumótandi geirum, tillaga 33(5) um öruggt og áreiðanlegt samfélag, þar á meðal að vinna gegn óupplýsingum og tryggja að menn séu að lokum við stjórnvölinn, Tillaga 35 um að efla stafræna nýsköpun, (3) um leið að tryggja eftirlit manna og (8) áreiðanleg og ábyrg notkun gervigreindar, setja öryggisráðstafanir og tryggja gagnsæi, og tillaga 37 (3) um notkun gervigreindar og stafrænna verkfæra til að bæta aðgengi borgara að upplýsingum, þar á meðal fatlaðra.
