La lucha contra los mensajes de odio en redes es compleja. El odio es difícil de definir, los mensajes cuestan de recopilar y la ironía o el doble sentido lo hacen todo aún más complicado. Ha habido proyectos que han intentado entender el odio online en varios países, pero no han sobrevivido. Ahora, sobre todo por el impulso gubernamental, España se ha convertido de repente en una potencia mundial temporal de la investigación en este campo. “Empecé el proyecto sobre xenofobia en la Universidad de Cornell justo después de la primera elección de Trump”, dice Beth Lyon, profesora de la Universidad de Cornell. “Luego tardé en conseguir financiación, tuve que buscar lingüistas, programadores, especialistas en inmigración para reunir todo lo que necesitábamos”, añade. El proyecto se llama Xenometer y este miércoles ha sido presentado en unas jornadas sobre investigación con IA en la Universidad Pública de Navarra.A Lyon le llevó casi ocho años hacer todo el camino y publicar sus resultados para clasificar el nivel de xenofobia en 7.000 tuits de 11 cuentas célebres en EE UU. Ahora el proyecto tiene una pretensión mucho mayor. “Queremos un mapa mundial del odio digital”, dice Sergio García-Magariño, coautor en Xenometer, junto con investigadores de Colombia y El Salvador. Pero un mapa así no es nada fácil. Una cosa es analizar una foto puntual del odio y otra lograr captar el pulso del odio: “Eso es quizá lo más decepcionante, que no tenemos el pulso de la xenofobia”. Pero han descubierto un par de cosas, que no son completamente nuevas, añade García-Magariño: “Los colectivos sobre los cuales hay más prejuicio en España son personas procedentes de Marruecos o personas gitanas, y que el lenguaje en redes sobre prejuicios se está volviendo cada vez más sofisticado y sutil porque los grupos xenófobos parece que están bien asesorados y así escapan a la detención porque puede ser un crimen en España”. En España, los emblemas de la lucha contra el discurso de odio son Faro y la futura herramienta Hodio, impulsados por el Observatorio Español del Racismo y la Xenofobia (Oberaxe). Desde 2024 usan el sistema automatizado Faro, que monitoriza Facebook, Instagram, TikTok, YouTube y X. Hodio, que debería sacar su primer informe pronto, servirá para dos cosas más, según Tomás Fernández, director del Oberaxe: “Uno, ¿cuánto contenido de odio hay en cada una de las plataformas? Y dos, ¿cuánto se viraliza, cuánto se difunde en cada una? Es para ver qué hacen las plataformas para favorecer o no favorecer esa propagación”.Hodio añadirá una mera capa cuantitativa a los datos que ya recoge Faro y, por tanto, debería poderse hacer rápido si nada falla. “Creemos que se puede hacer porque tenemos Faro. Lo estamos hablando con los técnicos y creen que no hay ningún problema. Ahora se trata de ir implementándolo y de cuestiones económicas, de documentos legales, que muchas veces la burocracia es lo que nos lleva más tiempo”, añade Fernández, que espera que en junio o julio salga ya el primer informe semestral de Hodio.Faro llegó después de dos proyectos financiados por la Unión Europea para Oberaxe, Alreco y Real Up. ¿Por qué la Unión no tiene alguna herramienta similar? “Somos pioneros, sí que están trabajando en un pequeño observatorio, pero mis últimas noticias son que estaba un poco parado, y no era tan amplio ni tan ambicioso como Faro”, dice Fernández. Este impulso del Gobierno ha coincidido con trabajos de investigadores en la UNIR, creadores de Hatemedia, y de otras universidades como Valencia, Granada o Jaén. “Parece que he venido al país ideal”, bromea Beth Lyon. “Si digo la verdad, no lo había pensado. Pero una de las razones por las que organizamos estas jornadas es traer a la gente de España que está trabajando en esto, porque hemos visto que hay bastante”, dice García-Magariño. Pero hay varios motivos más generales que pueden explicar este interés español por el odio online, junto al principal, el impulso del Gobierno.1. La financiación falla en otras partes. El discurso de odio en Estados Unidos no se penaliza ni persigue. El país con las mejores universidades del mundo tiene poco interés en analizar algo que es muy difícil de definir y que provoca un debate muy profundo. “En EE UU, tenemos la primera enmienda de la Constitución y normas muy abiertas, así que el discurso de odio no es un delito en mi país y por eso no ha sido nuestro foco”, dice Lyon, que se enfocó en lo que dice sobre xenofobia el propio Gobierno. Esa falta de interés lleva también a menos financiación. Lyon encontró a García-Magariño buscando investigadores de estos temas en México. Ha habido varios proyectos europeos que han analizado partes o momentos del discurso de odio y han desaparecido o son mucho más limitados en su alcance, como Mandola, HateMeter o Contro l’Odio.2. La dificultad técnica es enorme, aunque la IA lo facilita. El odio es increíblemente difícil de definir y acotar, más aún para una máquina. La IA facilita esa labor, pero sigue habiendo problemas nacionales: no se pueden hacer sistemas globales, aunque varios países tengan la misma lengua. “Vino a ayudarnos una mujer de Puerto Rico”, explica García-Magariño. “Siempre teníamos un conflicto con sus clasificaciones para cuentas en español. Era porque las palabras que se utilizan para describir negativamente a una persona procedente de un colectivo son muy distintas”, dice. Igual ocurre cuando una minoría usa a su favor una palabra negativa para reapropiarse de ella, como “marica” en el colectivo gay o “nigger” entre los afroamericanos. Así, es más difícil unificar criterios científicos y asegurar que es odio todo lo que lo parece. 3. Las plataformas no colaboran. Estos análisis del odio online suelen hacerse con mensajes de X porque son texto y más fáciles de analizar. Pero desde la compra de la plataforma por parte de Elon Musk, los investigadores tienen más difícil recoger mensajes para su análisis. X además, ni siquiera es la mayor red. Las plataformas más grandes, como YouTube, Facebook o Instagram, están centradas en la difusión de vídeos y fotos, pero lo que suele analizarse para buscar odio es el contenido escrito, no las imágenes. Sea como sea, las plataformas no tienen ningún interés en que se sepa cuánto odio cobijan y amplifican. “Tiene que darse que la regulación sea internacional”, dice García-Magariño.