Viena. Las mujeres son las principales víctimas de los mensajes de odio en Internet, incluidos los que incitan a la violencia sexual, según un informe de la Unión Europea publicado el miércoles.
Moderación de investigaciones de contenido en línea. El desafío actual en la detección del discurso de odio, desarrollado por la Agencia de los Derechos Fundamentales de la UE (FRA), es la detección del discurso de odio en cuatro redes sociales (Reddit, Telegram,X-anteriormente Twitter-y YouTube).
Del 1 al 7 de 2022, recopilamos y analizamos 344.132 publicaciones en redes sociales en 4 países (Bulgaria, Alemania, Italia y Suecia) utilizando palabras clave que pueden indicar odio.
Como resultado, los mensajes abusivos detectados estaban dirigidos principalmente a mujeres. El siguiente grupo más afectado son los afrodescendientes, judíos y gitanos de 4 países donde se realizó el estudio.
Buscamos discursos de odio en Internet utilizando métodos estándar de búsqueda de palabras clave y de esta manera podemos encontrar fácilmente una gran cantidad de discursos de odio.Así lo explicó a EFE David Reichel, autor del estudio.
Más de la mitad de estos mensajes recopilados por la FRA, el 53%, se basan en categorías establecidas (incitación a la violencia, discriminación, calumnias, lenguaje ofensivo o estereotipos negativos).
La misoginia es la forma más común de odio en línea en todas las plataformas. De hecho, el número de mensajes dirigidos a mujeres es casi 3 veces mayor que el de mensajes dirigidos a afrodescendientes.
Además, 3 de cada 2 (67%) de los mensajes de odio contra las mujeres fueron acoso.
Si bien los mensajes dirigidos a las mujeres suelen incluir palabras humillantes e incitación a la violencia, la violencia en línea contra las mujeres se caracteriza con mayor frecuencia por la violencia sexual.
La investigación de FRA mostró que estos procesos no siempre funcionaban, ya que solo se analizaron los mensajes que ya habían pasado por el proceso de moderación de la plataforma.
Según los expertos, existe un problema con la moderación de contenido, y debemos continuar nuestros esfuerzos para reducir este discurso de odio lo antes posible.
También existen diferencias significativas entre plataformas, y el estudio señala que Telegram es una de las redes sociales con menor capacidad para detectar este tipo de contenido dañino.1
La Ley de servicios digitales de la UE, que entró en vigor el año pasado, exige que las plataformas digitales y los motores de búsqueda hagan más contra el discurso de odio y las sanciones de alto riesgo.
El 10 de mayo, la Comisión Europea inició una investigación sobre los esfuerzos de meta, TikTok y X para eliminar contenido violento e incitador a la violencia de la plataforma.
