O uso da intelixencia artificial na UE estará regulado pola Lei de IA, a primeira lei global de intelixencia artificial do mundo. Descubre como te protexerá.
Como parte da súa estratexia dixital, a UE quere regular a intelixencia artificial (IA) para garantir mellores condicións para o desenvolvemento e uso desta tecnoloxía innovadora. A IA pode crear moitos beneficios, como unha mellor asistencia sanitaria; transporte máis seguro e limpo; fabricación máis eficiente; e enerxía máis barata e sostible.
En abril de 2021, a Comisión Europea propuxo o primeiro EU marco normativo para la IA. Di que os sistemas de IA que se poden utilizar en diferentes aplicacións son analizados e clasificados segundo o risco que supoñen para os usuarios. Os distintos niveis de risco suporán máis ou menos regulación. Unha vez aprobadas, estas serán as primeiras regras do mundo sobre IA.
O que quere o Parlamento na lexislación sobre IA
prioridade do Parlamento é asegurarse de que os sistemas de IA utilizados na UE sexan seguros, transparentes, rastreables, non discriminatorios e respectuosos co medio ambiente. Os sistemas de IA deberían ser supervisados por persoas, en lugar de por automatización, para evitar resultados prexudiciais.
O Parlamento tamén quere establecer unha definición uniforme e tecnolóxica neutral para a IA que se poida aplicar aos futuros sistemas de IA.
Máis información sobre O traballo do Parlamento sobre a IA ea súa visión para o futuro da IA
AI Act: regras diferentes para distintos niveis de risco
As novas normas establecen obrigas para provedores e usuarios en función do nivel de risco da intelixencia artificial. Aínda que moitos sistemas de IA supoñen un risco mínimo, deben ser avaliados.
Risco inaceptable
Os sistemas de IA de risco inaceptable son sistemas considerados unha ameaza para as persoas e serán prohibidos. Inclúen:
- Manipulación cognitiva conductual de persoas ou grupos vulnerables específicos: por exemplo, xoguetes activados por voz que fomentan comportamentos perigosos nos nenos.
- Puntuación social: clasificación das persoas en función do comportamento, o nivel socioeconómico ou as características persoais
- Sistemas de identificación biométrica en tempo real e remoto, como o recoñecemento facial
Poden permitirse algunhas excepcións: por exemplo, os sistemas de identificación biométrica remota "post" nos que a identificación se produza despois dun atraso significativo poderán perseguir delitos graves pero só despois da aprobación xudicial.
Alto risco
Os sistemas de IA que afecten negativamente á seguridade ou aos dereitos fundamentais consideraranse de alto risco e dividiranse en dúas categorías:
1) Sistemas de intelixencia artificial que se usan en produtos incluídos lexislación da UE sobre seguridade dos produtos. Isto inclúe xoguetes, aviación, coches, dispositivos médicos e ascensores.
2) Sistemas de IA comprendidos en oito áreas específicas que terán que ser rexistradas nun EU base de datos:
- Identificación biométrica e categorización de persoas físicas
- Xestión e explotación de infraestruturas críticas
- Educación e formación profesional
- Emprego, xestión dos traballadores e acceso ao autoemprego
- Acceso e desfrute dos servizos privados esenciais e dos servizos e prestacións públicos
- A aplicación da lei
- Xestión da migración, asilo e control de fronteiras
- Asistencia na interpretación e aplicación da lei.
Todos os sistemas de IA de alto risco serán avaliados antes de ser postos no mercado e tamén ao longo do seu ciclo de vida.
AI xerativa
A IA xerativa, como ChatGPT, tería que cumprir cos requisitos de transparencia:
- Divulgando que o contido foi xerado por AI
- Deseño do modelo para evitar que xere contido ilegal
- Publicación de resumos de datos protexidos por copyright utilizados para a formación
Risco limitado
Os sistemas de IA de risco limitado deberían cumprir cos requisitos mínimos de transparencia que permitan aos usuarios tomar decisións fundamentadas. Despois de interactuar coas aplicacións, o usuario pode decidir se quere seguir usándoa. Os usuarios deben ser conscientes de cando están interactuando coa IA. Isto inclúe sistemas de intelixencia artificial que xeran ou manipulan contido de imaxe, audio ou vídeo, por exemplo, deepfakes.
Próximos pasos
O Parlamento acordará a súa posición de negociación en xuño de 2023, tras o cal comezarán as conversacións cos países da UE no Consello sobre a forma final da lei.
O obxectivo é chegar a un acordo a finais deste ano.
