Atajar los discursos de odio mediante la colaboración entre el sector tecnológico, los Gobiernos y la sociedad civil

Atajar los discursos de odio mediante la colaboración entre el sector tecnológico, los Gobiernos y la sociedad civil

7 de julio de 2022

CIB GINEBRA — Según la Comunidad Internacional Bahá'í (CIB), para afrontar el desafío que supone el incremento de los delitos de odio en internet, se requiere una colaboración mucho más estrecha entre el sector de la tecnología, los Gobiernos y las organizaciones de la sociedad civil. Este fue el tema de una mesa redonda que ha celebrado recientemente la Oficina de la CIB en Ginebra como parte de la cumbre RightsCon, un foro internacional anual sobre los derechos humanos en la era digital.

El foro de la CIB reunió al relator especial de las Naciones Unidas sobre la libertad de religión o de creencias, Ahmed Shaheed, a una consejera del Consejo de Supervisión de Meta, Kristina Arriaga, y a una investigadora de la organización Observatorio de Derechos Humanos (Human Rights Watch), Tara Sepehri Far, para analizar el desafío de cómo atajar los discursos de odio en internet en el contexto de la campaña de desinformación contra los bahá’ís de Irán.

«Los discursos de odio, en última instancia, crean una cultura del odio, en la que algunos grupos no son considerados miembros plenos de la sociedad, en la que la cohesión social se erosiona y se permite que arraigue la división, lo que repercute en todos los aspectos de las relaciones entre individuos, comunidades e instituciones gubernamentales», afirmó Simin Fahadej, representante de la Oficina de Ginebra.

Un foro de la Comunidad Internacional Bahá’í en la cumbre RightsCon analizó la colaboración necesaria entre el sector tecnológico, los Gobiernos y la sociedad civil para resolver los discursos de odio en internet.

La Sra. Arriaga, miembro del Consejo de Supervisión para la compañía tecnológica Meta (que administra Facebook, Instagram y WhatsApp) explicó que, si bien las redes sociales son un instrumento fundamental para los trabajadores de derechos humanos, también pueden utilizarse para difundir propaganda de odio, como es el caso de los bahá’ís de Irán.

La respuesta de Meta, añadió Arriaga, ha sido establecer un Consejo de Supervisión que supervisa los contenidos y establece las políticas sobre cómo se moderan los materiales. Este Consejo también ha comenzado a trabajar con grupos y comunidades afectadas para señalar y supervisar los discursos de odio.

A pesar de estas acciones, los participantes señalaron que la moderación de contenidos, ya sea manual o algorítmica, es sumamente difícil. «No es fácil saber dónde trazar la línea de demarcación del discurso de odio», afirmó Sepehri Far.

Y agregó: «Las plataformas online tienen que invertir más en recursos para entender no solo contenidos en lengua [no inglesa] sino también el contexto social».

Arriaga asintió afirmando que «la magnitud del problema [...] hace que sea necesario que la comunidad de derechos humanos invierta [tiempo] en la comunidad tecnológica para aprender cómo [...] trabajar con algoritmos y cómo inyectar conocimiento sobre los derechos humanos en el sector tecnológico».

Los ponentes señalaron que, si bien los discursos de odio buscan crear división entre las poblaciones, la creación de foros como el que ha organizado la Comunidad Internacional Bahá’í eleva las discusiones al nivel de los principios y puede conducir a una colaboración más estrecha entre los distintos sectores para solucionar los problemas.

Los debates también pusieron de relieve la idea de que, a pesar del importante papel que deben desempeñar las plataformas en línea y las entidades mediáticas en la lucha contra los discursos de odio, el problema no puede abordarse exclusivamente con soluciones técnicas.

«[Existe] toda una serie de normas, formas de comportamiento, maneras de comprometerse y de comunicar, como el respeto mutuo, que crean el tipo de entorno en el que las personas pueden prosperar», afirmó el Dr. Shaheed.

«Podemos disponer de todos los algoritmos correctos y de las leyes correctas [...], pero al final nuestro comportamiento como seres humanos tiene que ver con la realidad vivida de nuestra cultura». Kristina Arriaga, miembro del Consejo de Supervisión de Meta.

Arriaga añadió: «Podemos disponer de todos los algoritmos correctos y de las leyes correctas [...] pero al final nuestro comportamiento como seres humanos tiene que ver con la realidad vivida de nuestra cultura».

Y agregó: «Por eso es tan importante lo que los bahá’ís están haciendo para elevar [las conversaciones] e incluir a otros. Finalmente, lo que sucede en internet es un reflejo de lo que ocurre en la vida real. Y solo podemos solucionarlo [este problema] si […] cambiamos nuestra cultura».

La Sra. Fahandej declara acerca de la mesa redonda: «El foro supuso un momento importante para fomentar una visión compartida entre los actores sociales preocupados por el uso de la tecnología y el mejoramiento de la sociedad. La CIB proyecta realizar otros actos sobre este tema para seguir fomentando las relaciones multisectoriales».