Miercuri, Parlamentul a aprobat Legea Inteligenței Artificiale care asigură siguranța și respectarea drepturilor fundamentale, stimulând totodată inovația.
Regulamentul, convenit în negocierile cu statele membre în decembrie 2023, a fost susținută de europarlamentari cu 523 de voturi pentru, 46 împotrivă și 49 abțineri.
Acesta își propune să protejeze drepturile fundamentale, democrația, statul de drept și sustenabilitatea mediului de IA cu risc ridicat, stimulând în același timp inovarea și stabilind Europa ca lider în domeniu. Regulamentul stabilește obligații pentru IA pe baza riscurilor potențiale și a nivelului de impact.
Aplicații interzise
Noile reguli interzic anumite aplicații AI care amenință drepturile cetățenilor, inclusiv sistemele de clasificare biometrică bazate pe caracteristici sensibile și răzuirea nețintă a imaginilor faciale de pe internet sau a imaginilor CCTV pentru a crea baze de date de recunoaștere facială. Recunoașterea emoțiilor la locul de muncă și în școli, scorul social, controlul predictiv (când se bazează doar pe profilarea unei persoane sau pe evaluarea caracteristicilor acesteia) și AI care manipulează comportamentul uman sau exploatează vulnerabilitățile oamenilor vor fi de asemenea interzise.
Scutiri de aplicare a legii
Utilizarea sistemelor de identificare biometrică (RBI) de către organele de drept este interzisă în principiu, cu excepția situațiilor enumerate exhaustiv și definite restrâns. RBI „în timp real” poate fi implementat numai dacă sunt îndeplinite garanții stricte, de exemplu, utilizarea sa este limitată în timp și în sfera geografică și este supusă unei autorizații judiciare sau administrative specifice. Astfel de utilizări pot include, de exemplu, o căutare țintită a unei persoane dispărute sau prevenirea unui atac terorist. Utilizarea unor astfel de sisteme post-facto („post-RBI la distanță”) este considerată un caz de utilizare cu risc ridicat, care necesită o autorizare judiciară fiind legată de o infracțiune.
Obligații pentru sistemele cu risc ridicat
Sunt prevăzute, de asemenea, obligații clare pentru alte sisteme de IA cu risc ridicat (datorită potențialului lor prejudiciu semnificativ asupra sănătății, siguranței, drepturilor fundamentale, mediului, democrației și statului de drept). Exemple de utilizări cu risc ridicat al IA includ infrastructura critică, educația și formarea profesională, angajarea, serviciile esențiale private și publice (de exemplu, asistența medicală, serviciile bancare), anumite sisteme de aplicare a legii, migrația și gestionarea frontierelor, justiția și procesele democratice (de exemplu, influențarea alegerilor) . Astfel de sisteme trebuie să evalueze și să reducă riscurile, să mențină jurnalele de utilizare, să fie transparente și precise și să asigure supravegherea umană. Cetățenii vor avea dreptul de a depune plângeri cu privire la sistemele AI și de a primi explicații cu privire la deciziile bazate pe sisteme AI cu risc ridicat care le afectează drepturile.
Cerințe de transparență
Sistemele IA de uz general (GPAI) și modelele GPAI pe care se bazează trebuie să îndeplinească anumite cerințe de transparență, inclusiv respectarea legislației UE privind drepturile de autor și publicarea de rezumate detaliate ale conținutului utilizat pentru formare. Modelele GPAI mai puternice care ar putea prezenta riscuri sistemice se vor confrunta cu cerințe suplimentare, inclusiv efectuarea de evaluări ale modelelor, evaluarea și atenuarea riscurilor sistemice și raportarea incidentelor.
În plus, imaginile artificiale sau manipulate, conținutul audio sau video ("deepfakes") trebuie să fie clar etichetate ca atare.
Măsuri de sprijinire a inovării și a IMM-urilor
Va trebui să fie stabilite sandbox-uri de reglementare și teste în lumea reală la nivel național și să fie accesibile IMM-urilor și start-up-urilor, pentru a dezvolta și instrui AI inovatoare înainte de introducerea acesteia pe piață.
Citate
În cadrul dezbaterii plenare de marți, co-raportorul Comitetului pentru piața internă Brando Benifei (S&D, Italia) a spus: „Avem în sfârșit prima lege obligatorie din lume privind inteligența artificială, pentru a reduce riscurile, a crea oportunități, a combate discriminarea și a aduce transparență. Datorită Parlamentului, practicile inacceptabile ale inteligenței artificiale vor fi interzise în Europa, iar drepturile lucrătorilor și ale cetățenilor vor fi protejate. Biroul AI va fi acum înființat pentru a sprijini companiile să înceapă să respecte regulile înainte ca acestea să intre în vigoare. Ne-am asigurat că ființele umane și valorile europene se află în centrul dezvoltării inteligenței artificiale”.
Coraportor al Comisiei pentru libertăți civile Dragos Tudorache (Renew, Romania) a spus: „UE a dat rezultate. Am legat conceptul de inteligență artificială de valorile fundamentale care stau la baza societăților noastre. Cu toate acestea, urmează multă muncă care depășește Legea AI în sine. Inteligența artificială ne va împinge să regândim contractul social din centrul democrațiilor noastre, modelele noastre de educație, piețele muncii și modul în care conducem războiul. Actul AI este un punct de plecare pentru un nou model de guvernare construit în jurul tehnologiei. Trebuie să ne concentrăm acum pe punerea în practică a acestei legi”.
Pasii urmatori
Regulamentul face încă obiectul unei verificări finale jurist-lingvist și este de așteptat să fie adoptat definitiv înainte de sfârșitul legislaturii (prin așa-numitul rectificare procedură). Legea trebuie, de asemenea, aprobată oficial de către Consiliu.
Acesta va intra în vigoare la douăzeci de zile de la publicarea sa în Jurnalul oficial și va fi pe deplin aplicabil la 24 de luni de la intrarea sa în vigoare, cu excepția: interdicțiilor privind practicile interzise, care se vor aplica la șase luni de la data intrării în vigoare; coduri de practică (nouă luni de la intrarea în vigoare); reguli generale de IA, inclusiv guvernare (12 luni de la intrarea în vigoare); și obligații pentru sistemele cu risc ridicat (36 de luni).
Context
Actul Inteligenței Artificiale răspunde direct propunerilor cetățenilor de la Conferința pentru Viitorul Europei (COFE), mai concret la propunerea 12(10) privind creșterea competitivității UE în sectoarele strategice, propunerea 33(5) asupra unei societăți sigure și de încredere, inclusiv combaterea dezinformării și asigurarea faptului că oamenii dețin în cele din urmă controlul, propunerea 35 privind promovarea inovării digitale, (3) asigurând în același timp supravegherea umană și (8) utilizarea de încredere și responsabilă a IA, stabilirea de garanții și asigurarea transparenței și propunerea 37 (3) privind utilizarea inteligenței artificiale și a instrumentelor digitale pentru a îmbunătăți accesul cetățenilor la informații, inclusiv al persoanelor cu dizabilități.
