O Parlamento aprobou este mércores a Lei de Intelixencia Artificial que garante a seguridade e o cumprimento dos dereitos fundamentais, ao tempo que impulsa a innovación.
O regulamento, acordado nas negociacións cos estados membros en decembro 2023, foi avalada polos eurodeputados con 523 votos a favor, 46 en contra e 49 abstencións.
Ten como obxectivo protexer os dereitos fundamentais, a democracia, o estado de dereito e a sustentabilidade ambiental da IA de alto risco, ao tempo que impulsa a innovación e establece a Europa como líder na materia. O regulamento establece obrigas para a IA en función dos seus riscos potenciais e nivel de impacto.
Aplicacións prohibidas
As novas regras prohiben determinadas aplicacións de intelixencia artificial que ameazan os dereitos dos cidadáns, incluídos os sistemas de categorización biométrica baseados en características sensibles e o raspado non selectivo de imaxes faciais de Internet ou imaxes de CCTV para crear bases de datos de recoñecemento facial. Tamén estará prohibido o recoñecemento de emocións no lugar de traballo e nos centros educativos, a puntuación social, a policía preditiva (cando se basee unicamente no perfil dunha persoa ou na valoración das súas características) e a IA que manipule o comportamento humano ou explote as vulnerabilidades das persoas.
Exencións de aplicación da lei
O uso de sistemas de identificación biométrica (RBI) por parte das forzas da orde está prohibido en principio, salvo en situacións listadas exhaustivamente e definidas de forma restrinxida. O RBI "en tempo real" só se pode implantar se se cumpren estritas garantías, por exemplo, o seu uso está limitado no tempo e no ámbito xeográfico e está suxeito a unha autorización xudicial ou administrativa previa específica. Tales usos poden incluír, por exemplo, a procura selectiva dunha persoa desaparecida ou a prevención dun ataque terrorista. O uso de tales sistemas post-facto ("RBI post-remoto") considérase un caso de uso de alto risco, que require unha autorización xudicial vinculada a un delito penal.
Obrigas dos sistemas de alto risco
Tamén se prevén obrigas claras para outros sistemas de IA de alto risco (debido ao seu importante dano potencial para a saúde, a seguridade, os dereitos fundamentais, o medio ambiente, a democracia e o estado de dereito). Exemplos de usos da IA de alto risco inclúen infraestruturas críticas, educación e formación profesional, emprego, servizos públicos e privados esenciais (por exemplo, sanidade, banca), determinados sistemas de aplicación da lei, migración e xestión de fronteiras, xustiza e procesos democráticos (por exemplo, influír nas eleccións). . Estes sistemas deben avaliar e reducir os riscos, manter rexistros de uso, ser transparentes e precisos e garantir a supervisión humana. Os cidadáns terán dereito a presentar queixas sobre os sistemas de IA e recibir explicacións sobre decisións baseadas en sistemas de IA de alto risco que afecten os seus dereitos.
Requisitos de transparencia
Os sistemas de IA de propósito xeral (GPAI) e os modelos GPAI nos que se basean deben cumprir certos requisitos de transparencia, como o cumprimento da lexislación sobre dereitos de autor da UE e a publicación de resumos detallados do contido utilizado para a formación. Os modelos GPAI máis potentes que poidan supoñer riscos sistémicos enfrontaranse a requisitos adicionais, incluíndo a realización de avaliacións de modelos, a avaliación e a mitigación de riscos sistémicos e a notificación de incidentes.
Ademais, as imaxes artificiais ou manipuladas, o contido de audio ou vídeo ("deepfakes") deben etiquetarse claramente como tales.
Medidas de apoio á innovación e ás pemes
Haberá que establecer sandboxes normativos e probas no mundo real a nivel nacional, e facer accesibles ás pemes e empresas de nova creación, para desenvolver e formar a IA innovadora antes da súa colocación no mercado.
presupostos
Durante o debate plenario do martes, o correlator da Comisión de Mercado Interior Brando Benifei (S&D, Italia) dixo: "Finalmente temos a primeira lei vinculante do mundo sobre intelixencia artificial, para reducir riscos, crear oportunidades, combater a discriminación e aportar transparencia. Grazas ao Parlamento, prohibiranse prácticas inaceptables de IA en Europa e protexeranse os dereitos dos traballadores e dos cidadáns. Agora crearase a Oficina de IA para apoiar ás empresas a comezar a cumprir as normas antes de que entren en vigor. Asegurámonos de que os seres humanos e os valores europeos estean no centro mesmo do desenvolvemento da IA”.
Co-relator da Comisión de Liberdades Civís Dragos Tudorache (Renew, Romanía) dixo: "A UE cumpriu. Vinculamos o concepto de intelixencia artificial aos valores fundamentais que constitúen a base das nosas sociedades. Non obstante, queda moito traballo por diante que vai máis aló da propia Lei de IA. A IA empurraranos a repensar o contrato social no corazón das nosas democracias, os nosos modelos educativos, os mercados de traballo e a forma en que levamos a cabo a guerra. A Lei de IA é un punto de partida para un novo modelo de goberno construído arredor da tecnoloxía. Agora debemos centrarnos en poñer en práctica esta lei”.
Próximos pasos
O regulamento aínda está suxeito a unha última comprobación xurista-lingüista e está previsto que se adopte definitivamente antes de que remate a lexislatura (a través do chamado rectificación procedemento). A lei tamén debe ser aprobada formalmente polo Consello.
Entrará en vigor aos vinte días da súa publicación no Diario Oficial, e será plenamente aplicable aos 24 meses da súa entrada en vigor, agás: prohibicións de prácticas prohibidas, que se aplicarán aos seis meses da data de entrada en vigor; códigos de prácticas (nove meses despois da entrada en vigor); regras de IA de propósito xeral, incluíndo o goberno (12 meses despois da entrada en vigor); e obrigas para sistemas de alto risco (36 meses).
Fondo
A Lei de Intelixencia Artificial responde directamente ás propostas dos cidadáns da Conferencia sobre o Futuro de Europa (COFE), máis concretamente a Proposta 12(10) sobre a mellora da competitividade da UE en sectores estratéxicos, Proposta 33(5) nunha sociedade segura e fiable, incluíndo a loita contra a desinformación e a garantía de que os humanos teñan o control, proposta 35 sobre a promoción da innovación dixital, (3) ao tempo que se garante a supervisión humana e (8) uso fiable e responsable da IA, establecendo garantías e garantindo a transparencia, e proposta 37 (3) sobre o uso da IA e ferramentas dixitais para mellorar o acceso dos cidadáns á información, incluídas as persoas con discapacidade.
