Asetus, sovittiin neuvotteluissa jäsenmaiden kanssa joulukuussa 2023, parlamentin jäsenet hyväksyivät äänin 523 puolesta, 46 vastaan ja 49 tyhjää.
Sen tavoitteena on suojella perusoikeuksia, demokratiaa, oikeusvaltioperiaatetta ja ympäristön kestävyyttä riskialttiilta tekoälyltä, samalla tehostaa innovointia ja tehdä Euroopasta alan johtava asema. Asetuksessa asetetaan tekoälylle velvoitteita sen mahdollisten riskien ja vaikutustason perusteella.
Kielletyt sovellukset
Uudet säännöt kieltävät tietyt tekoälysovellukset, jotka uhkaavat kansalaisten oikeuksia, mukaan lukien arkaluonteisiin ominaisuuksiin perustuvat biometriset luokittelujärjestelmät ja kasvokuvien tai CCTV-materiaalin kohdistamaton kaapiminen Internetistä kasvojentunnistustietokantojen luomiseksi. Tunteiden tunnistaminen työpaikalla ja kouluissa, sosiaalinen pisteytys, ennakoiva poliisitoiminta (kun se perustuu pelkästään henkilön profilointiin tai hänen ominaisuuksien arviointiin) sekä ihmisten käyttäytymistä manipuloiva tai ihmisten haavoittuvuutta hyödyntävä tekoäly ovat kiellettyjä.
Lainvalvontaviranomaisten poikkeukset
Biometristen tunnistusjärjestelmien (RBI) käyttö lainvalvontaviranomaisissa on periaatteessa kiellettyä, paitsi tyhjentävästi luetelluissa ja tiukasti määritellyissä tilanteissa. "Reaaliaikainen" RBI voidaan ottaa käyttöön vain, jos tiukat suojatoimenpiteet täyttyvät, esim. sen käyttö on rajoitettu ajallisesti ja maantieteellisesti ja edellyttää erityistä oikeudellista tai hallinnollista lupaa. Tällaisia käyttöjä voivat olla esimerkiksi kadonneen henkilön kohdennettu etsintä tai terrori-iskun estäminen. Tällaisten järjestelmien käyttö jälkikäteen ("post-remote RBI") katsotaan suuren riskin käyttötapaukseksi, joka edellyttää rikosoikeudellista lupaa.
Korkean riskin järjestelmien velvoitteet
Selkeitä velvoitteita säädetään myös muille korkean riskin tekoälyjärjestelmille (johtuen niistä merkittävistä mahdollisista haitoista terveydelle, turvallisuudelle, perusoikeuksille, ympäristölle, demokratialle ja oikeusvaltiolle). Esimerkkejä riskialttiista tekoälyn käytöstä ovat kriittinen infrastruktuuri, koulutus ja ammatillinen koulutus, työllisyys, keskeiset yksityiset ja julkiset palvelut (esim. terveydenhuolto, pankkitoiminta), tietyt lainvalvontajärjestelmät, siirtolaisuus ja rajahallinta, oikeus- ja demokraattiset prosessit (esim. vaaleihin vaikuttaminen) . Tällaisten järjestelmien on arvioitava ja vähennettävä riskejä, ylläpidettävä käyttölokeja, oltava läpinäkyviä ja tarkkoja ja varmistettava inhimillinen valvonta. Kansalaisilla on oikeus tehdä valituksia tekoälyjärjestelmistä ja saada selityksiä heidän oikeuksiinsa vaikuttavista riskialttiisiin tekoälyjärjestelmiin perustuvista päätöksistä.
Avoimuusvaatimukset
Yleiskäyttöisten tekoälyjärjestelmien (GPAI) ja niihin perustuvien GPAI-mallien on täytettävä tietyt läpinäkyvyysvaatimukset, mukaan lukien EU:n tekijänoikeuslain noudattaminen ja yksityiskohtaisten yhteenvetojen julkaiseminen koulutuksessa käytetystä sisällöstä. Tehokkaammat GPAI-mallit, jotka voivat aiheuttaa järjestelmäriskejä, kohtaavat lisävaatimuksia, kuten mallien arvioinnin, järjestelmäriskien arvioinnin ja lieventämisen sekä tapaturmien raportoinnin.
Lisäksi keinotekoiset tai manipuloidut kuvat, ääni- tai videosisältö ("deepfake") on merkittävä selvästi sellaisiksi.
Toimenpiteet innovaatioiden ja pk-yritysten tukemiseksi
Sääntelyn hiekkalaatikot ja tosielämän testaus on perustettava kansallisella tasolla ja asetettava pk-yritysten ja uusien yritysten saataville innovatiivisen tekoälyn kehittämiseksi ja kouluttamiseksi ennen sen saattamista markkinoille.
Lainausmerkit
Tiistain täysistunnossa käydyn keskustelun aikana sisämarkkinavaliokunta esittelijänä Brando Benifei (S&D, Italia) "Meillä on vihdoin maailman ensimmäinen tekoälyä koskeva sitova laki, joka vähentää riskejä, luoda mahdollisuuksia, torjua syrjintää ja tuoda läpinäkyvyyttä." Parlamentin ansiosta ei-hyväksyttävät tekoälykäytännöt kielletään Euroopassa ja työntekijöiden ja kansalaisten oikeuksia suojellaan. Tekoälytoimisto perustetaan nyt auttamaan yrityksiä aloittamaan sääntöjen noudattaminen ennen niiden voimaantuloa. Varmistimme, että ihmiset ja eurooppalaiset arvot ovat tekoälyn kehityksen keskiössä.
Kansalaisvapauksien valiokunnan apulaisesittelijä Dragos Tudorache (Renew, Romania) sanoi: "EU on toiminut. Olemme yhdistäneet tekoälyn käsitteen yhteiskuntiemme perustan muodostaviin perusarvoihin. Edessä on kuitenkin paljon työtä, joka ylittää itse tekoälylain. Tekoäly pakottaa meidät ajattelemaan uudelleen yhteiskuntasopimusta demokratioiden, koulutusmalliemme, työmarkkinoiden ja sodankäyntitavan ytimessä. Tekoälylaki on lähtökohta uudelle teknologian ympärille rakennetulle hallintomallille. Meidän on nyt keskityttävä tämän lain täytäntöönpanoon.
Seuraavat vaiheet
Asetus on vielä juristi-lingvistitarkastuksen kohteena ja sen odotetaan lopullisesti hyväksyvän ennen vaalikauden loppua (ns. oikaisu menettely). Laki vaatii myös virallisen neuvoston hyväksynnän.
Se tulee voimaan 24 päivää sen jälkeen, kun se on julkaistu virallisessa lehdessä, ja sitä sovelletaan täysimääräisesti 12 kuukauden kuluttua sen voimaantulosta lukuun ottamatta seuraavia: kiellettyjä käytäntöjä koskevat kiellot, joita sovelletaan kuuden kuukauden kuluttua voimaantulopäivästä; käytännesäännöt (yhdeksän kuukautta voimaantulosta); yleiskäyttöiset tekoälysäännöt, mukaan lukien hallinto (36 kuukautta voimaantulosta); ja korkean riskin järjestelmien velvoitteet (XNUMX kuukautta).
Tausta
Tekoälylaki vastaa suoraan Euroopan tulevaisuuskonferenssin (COFE) kansalaisten ehdotuksiin, konkreettisimmin ehdotus 12(10) EU:n kilpailukyvyn parantamisesta strategisilla aloilla, ehdotus 33(5) turvallisesta ja luotettavasta yhteiskunnasta, mukaan lukien disinformaation torjuminen ja sen varmistaminen, että ihmiset ovat viime kädessä hallinnassa, ehdotus 35 digitaalisen innovaation edistäminen, (3) varmistaen samalla inhimillisen valvonnan ja (8) tekoälyn luotettava ja vastuullinen käyttö, suojatoimien asettaminen ja avoimuuden varmistaminen, ja ehdotus 37 (3) tekoälyn ja digitaalisten työkalujen käyttämisestä kansalaisten, myös vammaisten, tiedonsaantimahdollisuuksien parantamiseksi.
