El uso de la inteligencia artificial en la UE estará regulado por la Ley de IA, la primera ley integral de IA del mundo. Descubre cómo te protegerá.
Como parte de su estrategia digital, la UE quiere regular la inteligencia artificial (IA) para garantizar mejores condiciones para el desarrollo y uso de esta tecnología innovadora. La IA puede generar muchos beneficios, como una mejor atención médica; transporte más seguro y limpio; fabricación más eficiente; y energía más barata y sostenible.
En abril de 2021, la Comisión Europea propuso la primera EU marco regulatorio para la IA. Dice que los sistemas de IA que se pueden usar en diferentes aplicaciones se analizan y clasifican según el riesgo que representan para los usuarios. Los diferentes niveles de riesgo supondrán más o menos regulación. Una vez aprobadas, estas serán las primeras reglas del mundo sobre IA.
Lo que el Parlamento quiere en la legislación sobre IA
prioridad del parlamento es garantizar que los sistemas de IA utilizados en la UE sean seguros, transparentes, trazables, no discriminatorios y respetuosos con el medio ambiente. Los sistemas de IA deben ser supervisados por personas, en lugar de por la automatización, para evitar resultados dañinos.
El parlamento también quiere establecer una definición uniforme y neutral desde el punto de vista tecnológico para la IA que podría aplicarse a los futuros sistemas de IA.
Aprenda más sobre El trabajo del Parlamento sobre la IA y su visión para el futuro de la IA
Ley AI: diferentes reglas para diferentes niveles de riesgo
La nueva normativa establece obligaciones para proveedores y usuarios en función del nivel de riesgo de la inteligencia artificial. Si bien muchos sistemas de IA presentan un riesgo mínimo, deben evaluarse.
Riesgo inaceptable
Los sistemas de IA de riesgo inaceptable son sistemas considerados una amenaza para las personas y serán prohibidos. Incluyen:
- Manipulación cognitiva conductual de personas o grupos vulnerables específicos: por ejemplo, juguetes activados por voz que fomentan comportamientos peligrosos en los niños
- Puntuación social: clasificar a las personas según su comportamiento, estatus socioeconómico o características personales
- Sistemas de identificación biométrica remota y en tiempo real, como el reconocimiento facial
Se pueden permitir algunas excepciones: por ejemplo, los sistemas de identificación biométrica remota "post" donde la identificación ocurre después de un retraso significativo se permitirán para enjuiciar delitos graves, pero solo después de la aprobación del tribunal.
Alto riesgo
Los sistemas de IA que afecten negativamente a la seguridad o a los derechos fundamentales se considerarán de alto riesgo y se dividirán en dos categorías:
1) Sistemas de IA que se utilizan en productos incluidos en la legislación de seguridad de los productos de la UE. Esto incluye juguetes, aviación, automóviles, dispositivos médicos y ascensores.
2) Los sistemas de IA que se clasifiquen en ocho áreas específicas que deberán registrarse en un EU base de datos:
- Identificación biométrica y categorización de personas físicas
- Gestión y operación de infraestructuras críticas
- Educación y formación profesional
- Empleo, gestión de trabajadores y acceso al autoempleo
- Acceso y disfrute de los servicios privados esenciales y de los servicios y prestaciones públicos
- Cumplimiento de la ley
- Gestión de migraciones, asilo y control de fronteras
- Asistencia en la interpretación jurídica y aplicación de la ley.
Todos los sistemas de IA de alto riesgo se evaluarán antes de su puesta en el mercado y también a lo largo de su ciclo de vida.
IA generativa
La IA generativa, como ChatGPT, tendría que cumplir con los requisitos de transparencia:
- Revelar que el contenido fue generado por IA
- Diseñar el modelo para evitar que genere contenidos ilegales
- Publicación de resúmenes de datos protegidos por derechos de autor utilizados para capacitación
Riesgo limitado
Los sistemas de IA de riesgo limitado deben cumplir con requisitos mínimos de transparencia que permitan a los usuarios tomar decisiones informadas. Después de interactuar con las aplicaciones, el usuario puede decidir si desea continuar usándolas. Los usuarios deben saber cuándo interactúan con la IA. Esto incluye sistemas de IA que generan o manipulan contenido de imagen, audio o video, por ejemplo, deepfakes.
Próximos pasos
El Parlamento acordará su posición de negociación en junio de 2023, después de lo cual comenzarán las conversaciones con los países de la UE en el Consejo sobre la forma final de la ley.
El objetivo es llegar a un acuerdo a finales de este año.
