Madrid (EFE).- LaLiga ha cedido al Ministerio de Inclusión, Seguridad Social y Migraciones su tecnología para monitorizar los discursos de odio en internet, lo que aumentará un 20 % su capacidad para «limpiar» las redes sociales de comentarios racistas, xenófobos, islamófobos, antisemitas y antigitanos.
Te puede interesar: LeBron James sigue en evaluación por lesión en la ingle
El Observatorio Español del Racismo y la Xenofobia (OBERAXE) ha presentado en una rueda de prensa este martes la herramienta FARO, que aplica la inteligencia artificial entrenada en el Monitor para la Observación del Odio en el Deporte (MOOD) de LaLiga a la metodología de trabajo del Ministerio.
Los objetivos son identificar y analizar en tiempo real un mayor volumen de contenidos de discursos de odio en las cinco principales redes sociales (Facebook, Instagram, TikTok, YouTube y X), poder llevar a cabo un análisis más preciso y detallado de los mismos y reportar más casos a las plataformas para su retirada.
Para este 2025, el OBERAXE prevé trabajar con una muestra anual de 3.500 contenidos, sobre la que se realizarán las labores de revisión, análisis y reporte a las plataformas, lo que supone un aumento del más del 20 % respecto a los 2.871 contenidos notificados en 2024, aunque espera aumentar su capacidad con el tiempo.
Una IA entrenada para captar el odio
Según han explicado desde el observatorio, el primer paso del proceso es la captación y filtrado de los mensajes y, después, el análisis del contenido, en dos fases: una más automatizada y otra de revisión humana a partir de una muestra de los casos.
Con estas comprobaciones se busca entrenar la inteligencia artificial para nutrirla y perfilar el modelo automatizado y ayudar al análisis con la creación categorías y subcategorías.
Esto permite ir clasificando los mensajes en función de si, por ejemplo, incitan a la violencia y, dentro de este grupo, si lo hacen a través de amenazas directas, veladas o con reclamos a la organización para acometer actos violentos.
La herramienta se centra en contenidos que podrían constituir un delito o una infracción administrativa o vulneran las normas de convivencia de las plataformas y están dirigidos a personas -y no a instituciones o a una administración- con una motivación racista, xenófoba, islamófoba, antisemita o antigitana.
Según el análisis actual, que se puede consultar en tiempo real en la web del OBERAXE, desde el 1 de enero se han detectado 11.184 mensajes de odio en redes, de los cuales han sido analizados y reportados 257 y, de estos, un 20,62 % ha sido finalmente retirado.
Entre los grupos diana, destacan las personas del norte de África, a las que van dirigidas el 77 % de los contenidos analizados y, en cuanto al episodio que suscita el odio, lo más frecuente es que sea un episodio de inseguridad ciudadana (el 79 % de los casos).
Contra la «demonización» de los migrantes
La secretaria de Estado de Migraciones, Pilar Cancela, ha puesto en valor esta herramienta en un momento en el que es común «cuestionar» los datos y el conocimiento científico, vital para construir políticas públicas somo las de inclusión, en este caso.
También ha desmontar ciertos bulos y mantras que a veces se repiten y solo sirven para «demonizar» a la población migrante, como que estos vienen a «atacar y violar a nuestras mujeres» cuando los datos demuestran «todo lo contrario».
El director de Marca y Estrategia de LaLiga, Ángel Fernández, ha señalado durante la presentación que el fútbol tiene un «gran poder» pero también «conlleva una gran responsabilidad», que ha llevado a LaLiga a luchar en los últimos diez años contra los discursos del odio en el ámbito deportivo.
