Nolikums, decembrī vienojās sarunās ar dalībvalstīm 2023. gadā, EP deputāti atbalstīja ar 523 balsīm par, 46 pret un 49 atturoties.
Tās mērķis ir aizsargāt pamattiesības, demokrātiju, tiesiskumu un vides ilgtspējību no augsta riska mākslīgā intelekta, vienlaikus veicinot inovāciju un ieviešot Eiropu kā līderi šajā jomā. Regula nosaka AI pienākumus, pamatojoties uz tā iespējamiem riskiem un ietekmes līmeni.
Aizliegtas lietojumprogrammas
Jaunie noteikumi aizliedz noteiktas mākslīgā intelekta lietojumprogrammas, kas apdraud pilsoņu tiesības, tostarp biometriskās kategorizēšanas sistēmas, kuru pamatā ir sensitīvi raksturlielumi, un nemērķtiecīga sejas attēlu skrāpēšana no interneta vai videonovērošanas kamerām, lai izveidotu sejas atpazīšanas datu bāzes. Tiks aizliegta arī emociju atpazīšana darba vietā un skolās, sociālo punktu noteikšana, paredzamā kārtības nodrošināšana (ja tā ir balstīta tikai uz personas profilēšanu vai viņu īpašību novērtēšanu), kā arī mākslīgais intelekts, kas manipulē ar cilvēka uzvedību vai izmanto cilvēku ievainojamības.
Tiesībaizsardzības izņēmumi
Tiesībaizsardzības iestādēm principā ir aizliegts izmantot biometriskās identifikācijas sistēmas (RBI), izņemot izsmeļoši uzskaitītās un šauri definētās situācijās. “Reāllaika” RBI var izmantot tikai tad, ja tiek ievēroti stingri drošības pasākumi, piemēram, tā izmantošana ir ierobežota laikā un ģeogrāfiskā tvērumā un ir pakļauta īpašai iepriekšējai tiesas vai administratīvai atļaujai. Šāda izmantošana var ietvert, piemēram, mērķtiecīgu pazudušas personas meklēšanu vai teroristu uzbrukuma novēršanu. Šādu sistēmu izmantošana post facto (“post-remote RBI”) tiek uzskatīta par augsta riska izmantošanas gadījumu, kam nepieciešama tiesas atļauja, kas saistīta ar noziedzīgu nodarījumu.
Pienākumi augsta riska sistēmām
Skaidri pienākumi ir paredzēti arī citām augsta riska mākslīgā intelekta sistēmām (sakarā ar to būtisku iespējamo kaitējumu veselībai, drošībai, pamattiesībām, videi, demokrātijai un tiesiskumam). Augsta riska AI izmantošanas piemēri ir kritiskā infrastruktūra, izglītība un profesionālā apmācība, nodarbinātība, būtiski privātie un sabiedriskie pakalpojumi (piemēram, veselības aprūpe, banku darbība), noteiktas tiesībaizsardzības sistēmas, migrācija un robežu pārvaldība, tiesiskums un demokrātiskie procesi (piemēram, vēlēšanu ietekmēšana). . Šādām sistēmām ir jānovērtē un jāsamazina riski, jāuztur lietošanas žurnāli, jābūt pārredzamām un precīzām, kā arī jānodrošina cilvēku uzraudzība. Iedzīvotājiem būs tiesības iesniegt sūdzības par AI sistēmām un saņemt paskaidrojumus par lēmumiem, kuru pamatā ir augsta riska AI sistēmas un kas ietekmē viņu tiesības.
Pārredzamības prasības
Vispārējām mākslīgā intelekta (GPAI) sistēmām un to pamatā esošajiem GPAI modeļiem ir jāatbilst noteiktām pārskatāmības prasībām, tostarp atbilstībai ES autortiesību likumam un apmācībās izmantotā satura detalizētu kopsavilkumu publicēšanai. Jaudīgākiem GPAI modeļiem, kas varētu radīt sistēmiskus riskus, tiks izvirzītas papildu prasības, tostarp modeļu novērtēšana, sistēmisko risku novērtēšana un mazināšana un ziņošana par incidentiem.
Turklāt mākslīgiem vai manipulētiem attēliem, audio vai video saturam (“dziļi viltojumi”) ir jābūt skaidri marķētiem.
Pasākumi inovāciju un MVU atbalstam
Regulējošās smilšu kastes un reālās pasaules testēšana būs jāizveido valsts līmenī un jāpadara pieejamas MVU un jaunuzņēmumiem, lai izstrādātu un apmācītu novatorisku AI pirms tā laišanas tirgū.
Citāti
Plenārsēdes debašu laikā otrdien Iekšējā tirgus komitejas līdzreferente Brando Benifei (S&D, Itālija) "Mums beidzot ir pasaulē pirmais saistošais mākslīgā intelekta likums, lai samazinātu riskus, radītu iespējas, apkarotu diskrimināciju un nodrošinātu pārredzamību. Pateicoties Parlamentam, Eiropā tiks aizliegta nepieņemama AI prakse un aizsargātas darba ņēmēju un pilsoņu tiesības. AI birojs tagad tiks izveidots, lai palīdzētu uzņēmumiem sākt ievērot noteikumus pirms to stāšanās spēkā. Mēs nodrošinājām, ka cilvēki un Eiropas vērtības ir AI attīstības pašā centrā.
Pilsoņu brīvību komitejas līdzreferents Dragos Tudorache (Atjaunot, Rumānija) teica: “ES ir sniegusi rezultātus. Mēs esam saistījuši mākslīgā intelekta jēdzienu ar pamatvērtībām, kas veido mūsu sabiedrības pamatu. Tomēr priekšā ir daudz darba, kas pārsniedz pašu AI likumu. AI mudinās mūs pārdomāt sociālo līgumu, kas ir mūsu demokrātiju, izglītības modeļu, darba tirgu un karadarbības pamatā. AI likums ir sākumpunkts jaunam pārvaldības modelim, kas balstīts uz tehnoloģijām. Tagad mums jākoncentrējas uz šī likuma ieviešanu praksē.
Nākamie soļi
Regula joprojām ir pakļauta galīgai jurista-lingvistiskajai pārbaudei, un ir paredzams, ka tā tiks galīgi pieņemta pirms likumdevēja pilnvaru termiņa beigām (izmantojot t.s. labojums procedūra). Likums arī oficiāli jāapstiprina Padomei.
Tas stāsies spēkā divdesmit dienas pēc publicēšanas Oficiālajā Vēstnesī un būs pilnībā piemērojams 24 mēnešus pēc tā stāšanās spēkā, izņemot: aizliegumus veikt aizliegtas darbības, kas tiks piemēroti sešus mēnešus pēc spēkā stāšanās dienas; prakses kodeksi (deviņus mēnešus pēc stāšanās spēkā); vispārējas nozīmes mākslīgā intelekta noteikumi, tostarp pārvaldība (12 mēneši pēc stāšanās spēkā); un pienākumi augsta riska sistēmām (36 mēneši).
fons
Mākslīgā intelekta likums tieši reaģē uz pilsoņu priekšlikumiem no konferences par Eiropas nākotni (COFE), jo īpaši uz 12. (10) priekšlikums. par ES konkurētspējas uzlabošanu stratēģiskajās nozarēs, 33. (5) priekšlikums. par drošu un uzticamu sabiedrību, tostarp apkarojot dezinformāciju un nodrošinot, ka cilvēki galu galā kontrolē, 35.priekšlikums par digitālās inovācijas veicināšanu, (3) vienlaikus nodrošinot cilvēku uzraudzību un (8) uzticama un atbildīga AI izmantošana, nosakot drošības pasākumus un nodrošinot pārredzamību, un 37. (3) priekšlikums. par AI un digitālo rīku izmantošanu, lai uzlabotu iedzīvotāju, tostarp personu ar invaliditāti, piekļuvi informācijai.
