BIC GENEBRA — Para enfrentar o desafio de aumentar o discurso de ódio online, é preciso haver uma colaboração muito mais próxima entre o setor de tecnologia, o governo e as organizações da sociedade civil, diz a Comunidade Internacional Bahá'í (BIC). Este foi o tema de um painel de discussão recente organizado pelo Escritório de Genebra do BIC como parte da cúpula RightsCon, um fórum internacional anual sobre direitos humanos na era digital.
O fórum do BIC reuniu o Relator Especial das Nações Unidas sobre liberdade de religião ou crença, Ahmed Shaheed, um administrador do Conselho de Supervisão da Meta, Kristina Arriaga, e uma pesquisadora da Human Rights Watch, Tara Sepehri Far, para explorar os desafios de combater o ódio online discurso no contexto da campanha de desinformação contra os bahá'ís do Irã.
“O discurso de ódio, em última análise, cria uma cultura de ódio, onde os grupos não são considerados membros plenos da sociedade, onde a coesão social é corroída e a divisão pode criar raízes, impactando todos os aspectos das relações entre indivíduos, comunidades e instituições governamentais. ”, disse Simin Fahadej, representante do Escritório de Genebra.
A Sra. Arriaga, membro do Conselho de Supervisão da empresa de tecnologia Meta – que opera o Facebook, Instagram e WhatsApp – explicou que, embora a mídia social seja um instrumento importante para os trabalhadores de direitos humanos, ela também pode ser usada para espalhar propaganda de ódio, como no caso dos bahá'ís do Irã.
A resposta da Meta, disse Arriaga, foi estabelecer um Conselho de Supervisão que monitora o conteúdo e define políticas de como o material é moderado. Este conselho também começou a trabalhar com grupos e comunidades-alvo para que o discurso de ódio possa ser sinalizado e monitorado.
Apesar desses esforços, os participantes observaram que a moderação de conteúdo – seja manual ou algorítmica – é extremamente difícil. “Não é fácil saber onde delimitar o discurso de ódio”, disse a Sra. Sepehri Far.
Ela acrescentou: “As plataformas online precisam investir mais em recursos para entender não apenas o conteúdo em idioma [não inglês], mas também o contexto social”.
A Sra. Arriaga concordou, dizendo que “a escala do problema… torna uma necessidade para a comunidade de direitos humanos investir [tempo] na comunidade de tecnologia para aprender como… trabalhar com algoritmos e como injetar conhecimento de direitos humanos no setor de tecnologia”.
Os participantes do painel observaram que, embora o discurso de ódio busque criar divisão entre as populações, a criação de fóruns como o criado pelo BIC eleva as discussões ao nível de princípio e pode levar a uma colaboração mais forte entre os diferentes setores para enfrentar os problemas.
As discussões também destacaram a ideia de que, apesar do importante papel que as plataformas online e as entidades de mídia devem desempenhar no combate ao discurso de ódio, o problema não pode ser abordado apenas por meio de soluções técnicas.
“[Há] toda uma gama de normas, formas de comportamento, meios de engajamento e comunicação, incluindo respeito mútuo, que cria o tipo de ambiente no qual as pessoas podem prosperar”, disse o Dr. Shaheed.
A Sra. Arriaga acrescentou: “Podemos ter todos os algoritmos certos e as leis certas… mas, em última análise, como acabamos nos comportando como seres humanos tem a ver com a realidade vivida de nossa cultura”.
Ela acrescentou: “É por isso que o que os bahá'ís estão fazendo para elevar [as conversas] e envolver os outros é tão importante. Em última análise, o que acontece online é um reflexo do que está acontecendo na vida real. E só podemos consertar isso se estivermos... mudando nossa cultura.
Refletindo sobre o evento, a Sra. Fahandej afirma: “O fórum representou um momento importante para fomentar uma visão compartilhada entre os atores sociais preocupados com a tecnologia e a melhoria da sociedade. O BIC planeja realizar eventos futuros sobre este tema, a fim de aprimorar ainda mais as relações multissetoriais.”
