“Estamos tratando de limitar el uso de la inteligencia artificial en aquellas áreas donde la vemos como un problema grave para los derechos y libertades fundamentales de los ciudadanos.
Las evaluaciones de este tipo de aplicaciones a menudo no son fiables y crean un riesgo de discriminación. No queremos frenar el progreso tecnológico, sino enmarcar su uso para garantizar los derechos humanos básicos ”, dijo el líder de los socialistas búlgaros en el PE Petar Vitanov en una rueda de prensa con periodistas.
El motivo es su informe sobre las aplicaciones de la inteligencia artificial en la aplicación de la ley, que el Parlamento Europeo ha votado hoy. El tema de la inteligencia artificial ha sido durante mucho tiempo objeto de serios debates en el plenario. El debate principal es dónde está la línea divisoria entre su uso en nombre de la seguridad y el riesgo de abuso y discriminación.
El uso de inteligencia artificial en diversas esferas públicas está creciendo a un ritmo sin precedentes. La predicción de crímenes y la identificación de posibles futuros perpetradores está sucediendo ahora no solo en el cine. La inteligencia artificial reconoce rostros, voces, andares.
Los sistemas inteligentes procesan grandes cantidades de datos, en función de los cuales clasifican a las personas y predicen su comportamiento futuro. Sin embargo, las aplicaciones inteligentes no son en absoluto infalibles, y varias ONG ya reconocen el riesgo de resultados sesgados y discriminación contra grupos vulnerables.
El informe de Vitanov plantea la cuestión de cuán objetiva es la evaluación de las computadoras y dónde debemos establecer el límite para no vivir en una historia de Orwell. Pide restricciones y control humano sobre el uso de inteligencia artificial en la aplicación de la ley y la prohibición del reconocimiento facial en lugares públicos.
“Ya tenemos una serie de casos en los que las personas son tratadas injustamente debido a la inteligencia artificial: se les niegan los beneficios sociales debido a los errores de los instrumentos basados en la inteligencia artificial o son detenidos como resultado de un reconocimiento facial poco confiable. No me sorprende que las víctimas sean siempre los pobres, los inmigrantes, la gente de color, los europeos del Este ”, dijo Vitanov anteriormente en el salón de plenos del Parlamento Europeo.
“El reconocimiento personal en lugares públicos viola la privacidad, el derecho a la opinión y expresión, el derecho a asociarse con otros y permanecer en el anonimato”, dijo el eurodiputado en una entrevista con el periódico Politico. Esto puede hacer que las personas nunca participen en manifestaciones o protestas pacíficas. Por otro lado, a partir de un método para garantizar la seguridad, el reconocimiento facial puede convertirse fácilmente en un medio de vigilancia masiva.
“No quiero oponerme a la seguridad y la libertad, pero el progreso tecnológico no debe ir en detrimento de derechos humanos. La inteligencia artificial puede ser peligrosa, ya sea utilizada por gobiernos democráticos o autoritarios, porque a menudo comete errores y distorsiona los resultados. Debemos tener cuidado, las buenas intenciones no siempre justifican los medios. Como legisladores, tenemos una gran responsabilidad con los ciudadanos europeos ”, añadió Vitanov.
