L'ús de la intel·ligència artificial a la UE estarà regulat per la Llei d'IA, la primera llei integral d'IA del món. Descobriu com us protegirà.
Com a part del seu estratègia digital, la UE vol regular la intel·ligència artificial (IA) per garantir millors condicions per al desenvolupament i l'ús d'aquesta tecnologia innovadora. La IA pot generar molts beneficis, com ara una millor assistència sanitària; transport més segur i net; fabricació més eficient; i una energia més barata i sostenible.
L'abril de 2021, la Comissió Europea va proposar el primer EU marc normatiu de la IA. Diu que els sistemes d'IA que es poden utilitzar en diferents aplicacions s'analitzen i es classifiquen segons el risc que suposen per als usuaris. Els diferents nivells de risc suposaran més o menys regulació. Un cop aprovades, aquestes seran les primeres regles del món sobre IA.
Què vol el Parlament en la legislació sobre IA
La prioritat del Parlament és assegurar-se que els sistemes d'IA utilitzats a la UE siguin segurs, transparents, traçables, no discriminatoris i respectuosos amb el medi ambient. Els sistemes d'IA haurien de ser supervisats per persones, més que per automatització, per evitar resultats nocius.
El Parlament també vol establir una definició uniforme i neutral tecnològicament per a la IA que es pugui aplicar als futurs sistemes d'IA.
Més informació sobre El treball del Parlament sobre IA i la seva visió del futur de la IA
AI Act: regles diferents per a diferents nivells de risc
Les noves normes estableixen obligacions per als proveïdors i usuaris en funció del nivell de risc de la intel·ligència artificial. Tot i que molts sistemes d'IA representen un risc mínim, cal avaluar-los.
Risc inacceptable
Els sistemes d'IA de risc inacceptable són sistemes considerats una amenaça per a les persones i seran prohibits. Inclouen:
- Manipulació cognitiva conductual de persones o grups vulnerables específics: per exemple, joguines activades per veu que fomenten comportaments perillosos en nens.
- Scoring social: classificació de persones en funció del comportament, l'estatus socioeconòmic o les característiques personals
- Sistemes d'identificació biomètrica en temps real i remots, com ara el reconeixement facial
Es poden permetre algunes excepcions: per exemple, els sistemes d'identificació biomètrica remota "post" on la identificació es produeixi després d'un retard significatiu es permetran perseguir delictes greus, però només després de l'aprovació judicial.
Alt risc
Els sistemes d'IA que afectin negativament la seguretat o els drets fonamentals es consideraran d'alt risc i es dividiran en dues categories:
1) Sistemes d'IA que s'utilitzen en productes inclosos la legislació de seguretat dels productes de la UE. Això inclou joguines, aviació, cotxes, dispositius mèdics i ascensors.
2) Sistemes d'IA que s'inclouen en vuit àrees específiques que s'hauran de registrar en un EU base de dades:
- Identificació biomètrica i categorització de persones físiques
- Gestió i explotació d'infraestructures crítiques
- Educació i formació professional
- Ocupació, gestió dels treballadors i accés a l'autoocupació
- Accés i gaudi dels serveis privats essencials i dels serveis i prestacions públiques
- Aplicació de la llei
- Gestió de migracions, asil i control de fronteres
- Assistència en la interpretació i aplicació jurídica de la llei.
Tots els sistemes d'IA d'alt risc seran avaluats abans de sortir al mercat i també al llarg del seu cicle de vida.
IA generativa
La IA generativa, com ChatGPT, hauria de complir els requisits de transparència:
- Revelar que el contingut ha estat generat per IA
- Dissenyar el model per evitar que generi contingut il·legal
- Publicació de resums de dades amb drets d'autor utilitzades per a la formació
Risc limitat
Els sistemes d'IA de risc limitat haurien de complir els requisits mínims de transparència que permetrien als usuaris prendre decisions informades. Després d'interaccionar amb les aplicacions, l'usuari pot decidir si vol continuar utilitzant-les. Els usuaris han de ser conscients quan estan interactuant amb la IA. Això inclou sistemes d'IA que generen o manipulen contingut d'imatge, àudio o vídeo, per exemple, deepfakes.
Propers passos
El Parlament està previst que acordi la seva posició de negociació el juny de 2023, després de la qual cosa s'iniciaran les converses amb els països de la UE al Consell sobre la forma final de la llei.
L'objectiu és arribar a un acord a finals d'aquest any.
