Em comunicado na sexta-feira, os especialistas disseram que as tecnologias emergentes, incluindo sistemas de vigilância biométrica baseados em inteligência artificial, estão sendo cada vez mais usadas “em contextos sensíveis”. sem o conhecimento ou consentimento dos indivíduos
'Linhas vermelhas urgentes' devem ser desenhadas
“Linhas vermelhas regulatórias urgentes e rígidas são necessárias para tecnologias que alegam realizar emoção ou reconhecimento de gênero”, disseram os especialistas, que incluem Fionnuala Ní Aoláin, Relatora Especial para a promoção e proteção dos direitos humanos no combate ao terrorismo.
A Conselho de Direitos HumanosEspecialistas nomeados por este órgão condenaram o já “alarmante” uso e impactos de spyware e tecnologias de vigilância no trabalho de defensores dos direitos humanos e jornalistas, “muitas vezes sob o disfarce de segurança nacional e medidas antiterroristas”.
Eles também pediram regulamentação para abordar o desenvolvimento ultrarrápido da IA generativa que permite a produção em massa de conteúdo online falso que espalha desinformação e discurso de ódio.
Consequências do mundo real
Os especialistas enfatizaram a necessidade de garantir que esses sistemas não exponham ainda mais pessoas e comunidades a direitos humanos violações, inclusive por meio da expansão e abuso de práticas invasivas de vigilância que infringem o direito à privacidade, facilitam o cometimento de graves violações de direitos humanos, incluindo desaparecimentos forçados e discriminação.
Eles também expressaram preocupação com o respeito às liberdades de expressão, pensamento, protesto pacífico, e para acesso a direitos econômicos, sociais e culturais essenciais e serviços humanitários.
“Tecnologias e aplicações específicas devem ser totalmente evitadas onde o regulamentação de reclamações de direitos humanos não é possível”, disseram os especialistas.
Os especialistas também expressaram preocupação de que o desenvolvimento de IA generativa seja conduzido por um pequeno grupo de atores poderosos, incluindo empresas e investidores, sem requisitos adequados para conduzir a devida diligência em direitos humanos ou consultar indivíduos e comunidades afetados.
E o trabalho crucial de regulação interna por meio da moderação de conteúdo é frequentemente realizado por indivíduos em situações de exploração do trabalho, observaram os especialistas independentes.
Mais transparência
“A regulamentação é necessária com urgência para garantir a transparência, alertar as pessoas quando encontrarem mídia sintética e informar o público sobre os dados e modelos de treinamento usados”, disseram os especialistas.
Os especialistas reiteraram seus pedidos de cautela sobre o uso de tecnologia digital no contexto de crises humanitárias, desde a coleta de dados em larga escala – incluindo a coleta de dados biométricos altamente sensíveis – até o uso de tecnologias avançadas de vigilância direcionada.
“Pedimos moderação no uso de tais medidas até que as implicações mais amplas de direitos humanos sejam totalmente compreendidas e salvaguardas robustas de proteção de dados estejam em vigor”, disseram eles.
Criptografia, privacidade primordial
Sublinharam a necessidade de assegurar soluções técnicas – incluindo criptografia forte de ponta a ponta e acesso irrestrito a redes privadas virtuais – e proteger e proteger as comunicações digitais.
"Ambos a indústria e os Estados devem ser responsabilizados, inclusive por seus impactos econômicos, sociais, ambientais e de direitos humanos”, disseram. “A próxima geração de tecnologias não deve reproduzir ou reforçar sistemas de exclusão, discriminação e padrões de opressão”.
Os relatores especiais e outros especialistas em direitos são todos nomeados pelo Conselho de Direitos Humanos da ONU, são mandatados para monitorar e relatar questões temáticas específicas ou situações de países, não são funcionários da ONU e não recebem salário por seu trabalho.
