BIC GINEBRA — Para abordar el desafío de aumentar el discurso de odio en línea, debe haber una colaboración mucho más estrecha entre el sector tecnológico, el gobierno y las organizaciones de la sociedad civil, dice la Comunidad Internacional Bahá'í (BIC). Este fue el tema de un panel de discusión organizado recientemente por la Oficina de Ginebra del BIC como parte de la cumbre RightsCon, un foro internacional anual sobre los derechos humanos en la era digital.
El foro BIC reunió al relator especial de las Naciones Unidas sobre la libertad de religión o creencias, Ahmed Shaheed, miembro de la Junta de Supervisión de Meta, Kristina Arriaga, y una investigadora de Human Rights Watch, Tara Sepehri Far, para explorar los desafíos de abordar el odio en línea. discurso en el contexto de la campaña de desinformación contra los bahá'ís de Irán.
“El discurso de odio en última instancia crea una cultura de odio, donde los grupos no se consideran miembros de pleno derecho de la sociedad, donde se erosiona la cohesión social y se permite que la división eche raíces, lo que afecta todos los aspectos de las relaciones entre individuos, comunidades e instituciones de gobierno. ”, dijo Simin Fahadej, representante de la Oficina de Ginebra.
La Sra. Arriaga, miembro de la Junta de Supervisión de la empresa de tecnología Meta, que opera Facebook, Instagram y WhatsApp, explicó que si bien las redes sociales son un instrumento importante para los trabajadores de derechos humanos, también pueden usarse para difundir propaganda de odio, como en el caso de los bahá'ís de Irán.
La respuesta de Meta, dijo la Sra. Arriaga, ha sido establecer una Junta de Supervisión que monitorea el contenido y establece políticas sobre cómo se modera el material. Esta junta también ha comenzado a trabajar con grupos y comunidades específicos para que el discurso de odio pueda ser marcado y monitoreado.
A pesar de estos esfuerzos, los participantes notaron que la moderación del contenido, ya sea manual o algorítmica, es extremadamente difícil. “No es fácil saber dónde trazar la línea sobre el discurso de odio”, dijo la Sra. Sepehri Far.
Agregó: "Las plataformas en línea deben invertir más en recursos para comprender no solo el contenido en idiomas [que no sean inglés], sino también el contexto social".
La Sra. Arriaga estuvo de acuerdo y dijo que “la escala del problema… hace que sea una necesidad para la comunidad de derechos humanos invertir [tiempo] en la comunidad tecnológica para aprender cómo… trabajar con algoritmos y cómo inyectar conocimiento de los derechos humanos en el sector tecnológico”.
Los panelistas señalaron que aunque el discurso de odio busca crear división entre las poblaciones, la creación de foros como el creado por BIC eleva las discusiones al nivel de principios y puede conducir a una colaboración más fuerte entre diferentes sectores para abordar los problemas.
Los debates también destacaron la idea de que, a pesar del importante papel que deben desempeñar las plataformas en línea y los medios de comunicación para abordar el discurso de odio, el problema no puede abordarse únicamente a través de soluciones técnicas.
“[Existe una] amplia gama de normas, formas de comportamiento, medios de participación y comunicación, incluido el respeto mutuo, que crea el tipo de entorno en el que las personas pueden prosperar”, dijo el Dr. Shaheed.
La Sra. Arriaga agregó: "Podemos tener todos los algoritmos correctos y las leyes correctas... pero, en última instancia, cómo terminamos comportándonos como seres humanos tiene que ver con la realidad vivida de nuestra cultura".
Agregó: “Por eso es tan importante lo que los bahá'ís están haciendo para elevar [las conversaciones] e involucrar a otros. En última instancia, lo que sucede en línea es un reflejo de lo que sucede en la vida real. Y solo podemos arreglarlo si estamos… cambiando nuestra cultura”.
Reflexionando sobre el evento, la Sra. Fahandej afirma: “El foro representó un momento importante para fomentar una visión compartida entre los actores sociales preocupados por la tecnología y el mejoramiento de la sociedad. El BIC planea realizar eventos futuros sobre este tema para mejorar aún más las relaciones multisectoriales”.
