Cómo detectar los discursos de odio

Cómo detectar los discursos de odio

Recomendaciones para evitar ser parte de la violencia digital y frenar los comentarios agresivos. Una propuesta para avanzar hacia un ciberespacio fundado en la cultura de la convivencia y diversidad

No se trata de equilibrio sino de una señal de alarma: por cada like que damos en las redes sociales aparecen otros tantos “no me gusta”, después de compartir una noticia o posteo optimista también se disparan las críticas despiadadas y los comentarios hirientes… A estas alturas pareciera que nadie logra salvarse de las agresiones digitales. La problemática caló tan hondo que -en 2021- la ONU proclamó una fecha específica (18 de junio) para concientizar e intentar contrarrestar los discursos de odio en todas sus facetas.

“La historia nos muestra y alecciona sobre la imperiosa necesidad de detectar estas narraciones por su gran efecto destructivo; el holocausto y otros tantos genocidios fueron producto de ellas. Los discursos de odio tienen cultores que persiguen un objetivo; existe una intencionalidad por detrás. Sin embargo, también hay gente que los reproduce acríticamente sin percatarse de sus riesgos”, comenta Héctor Shalom, director del Centro Ana Frank Argentina para América Latina (@centro.anafrank).

En colaboración con la Alianza Internacional para el Recuerdo del Holocausto (AIRA), desde 2021 hasta 2023, la institución desarrolló un proyecto específico sobre el tema; con seminarios y espacios reflexivos que tuvieron su bajada local en Tucumán.

Fronteras morales

Hagamos una prueba rápida. Sin pensarlo demasiado, ingresemos con el celular al perfil de Instagram de algún influencer con más de 10.000 seguidores. Una vez ahí, seleccionemos cualquier publicación para chequear sus comentarios. ¿Cuántos textos negativos hay?

Disponer de una cuenta en redes sociales y el tiempo suficiente para teclear habilita a que muchísima gente se convierta en odiadores seriales (haters). Frente al hostigamiento, la excusa maestra siempre es la misma: “tengo derecho a decir lo que opino o siento”.

“Cuando se identifica un discurso de odio, sus creadores suelen ampararse en la libertad de expresión. Al final, esta se convierte en una trampa porque hablamos de un baluarte que no debería tener límites. Hay que aprender a diferenciar los tantos. Los discursos de odio no son 'expresiones' sino incitaciones a la violencia y amenaza que atentan contra la democracia y la integridad de las minorías”, destaca.

Aunque creamos que a las palabras se las lleva el viento (o el algoritmo), la denigración discursiva puede transformarse en el primer paso hacia agresiones peores u otros tipos de violencia. Siempre aparecen sujetos dispuestos a llevar esas narraciones a actos concretos.

Para agudizar los sentidos

Los discursos de odio poseen varias características que los vuelven fáciles de detectar. En general, toman forma de textos cortos y contundentes, con un lenguaje peyorativo o discriminatorio y lleno de adjetivaciones. En cuanto al contenido de las publicaciones, sus creadores suelen negar, distorsionar o banalizar los hechos.

También abundan elementos como las comparaciones malintencionadas (por ejemplo, entre figuras o sucesos históricos que no se parecen) y las descontextualizaciones. En el ámbito de la política, este último punto suele ser uno de los recursos más empleados por los haters y trolls. Por ejemplo, al atacar a los referentes de un partido opositor con imágenes o noticias tituladas con frases lapidarias y de múltiple interpretación.

Una segunda señal de alerta son los mensajes con puras generalizaciones (“todos los funcionarios son corruptos”, “todos los adolescentes son vagos”, “todas las mujeres desean casarse y formar una familia”, etcétera). “Las generalizaciones representan un indicador de prejuicios y discriminación porque estigmatizan y le roban a las personas implicadas dentro de ese colectivo (religioso, racional, de género o profesional) su derecho a elegir como quieren ser y la despojan de su individualidad”, agrega el psicoanalista.

El humor, en su versión de memes y stickers, ocupa igualmente un capítulo importante. “Este no es ideológico. Al contrario, dispone de un código que permite infiltrar en el debate público conceptos de una manera muy efectiva. El humor puede volverse un recurso multiplicador del odio al focalizar la burla, el doble sentido o lo chistoso sobre un colectivo humano con intencionalidad”, indica.

Por último, en el Centro Ana Frank Argentina alertan sobre el uso de la desesperanza como herramienta de manipulación. “Quien instala sistemáticamente discursos sobre un país inviable, una juventud sin futuro, una crisis permanente sin respuestas -entre otras tantas miradas- fomenta un clima propicio para la violencia. Cuando alguien considera que no tiene nada que perder acaba por poner su vida en riesgo por bastante poco. Eso no implica ignorar lo que ocurre en nuestra realidad, pero frente a la hostilidad del contexto, podemos construir visiones proactivas y propositivas en lugar de quejas estáticas y textos destructivos”, reflexiona Shalom.

Algunas Sugerencias

- Al recibir o leer en alguna publicación un comentario malicioso o violento es preferible no responder a la provocación. Como cualquier otro posteo, los discursos de odio poseen una curva y pico de lectura por lo cual resulta preferible desestimar una respuesta para no potenciar su alcance. Además, los haters utilizan nuestras respuestas y el debate como retroalimentación para replicar con nuevos comentarios negativos.

- Si nos resulta imposible quedarnos callados, en lugar de recurrir a las emociones o subjetividad, hay que responder a los mensajes de odio con citas de fuentes confiables o datos rígidos que respalden nuestros dichos.

- Es mejor no difundir los mensajes llenos de odio y violencia; ni siquiera para repudiarlos. Aunque nuestra intención sea buena compartir el contenido solo le ofrece un mayor alcance.

- Los mensajes de odio se combaten con información. En caso de ser víctima de ellos, se puede tomar ese contenido provocativo como base para crear posteos explicativos que concienticen y permitan que el resto de seguidores adquiera una posición más crítica.

Contra los trolls

- Hay aplicaciones gratuitas para celular (disponibles para  App Store y Google Play) que bloquean automáticamente a seguidores con perfiles dudosos. Esto permitirá anticiparnos a cualquier instancia que habilite el odio.

- Al visualizar mensajes violentos en los comentarios de una red social es necesario denunciarlos.

Es muy probable que esa persona o página ya disponga de denuncias previas y sumar una nueva notificación puede sentar la diferencia para que el algoritmo responda y se bloquee finalmente al usuario. Instagram, Facebook, Twitter y YouTube disponen de canales especiales para reclamar y la acción nos lleva menos de cinco minutos.

- De tener una fanpage o perfil con más de 9.000 seguidores es aconsejable activar la moderación automática de comentarios. De detectarse un discurso de odio o insultos, este filtro ocultará -a primera vista- los textos. Si bien los mensajes seguirán activos el soporte ayuda a que su lectura por parte del resto de seguidores (y por lo tanto su replique o reforzamiento) sea menor.

Comentarios