El gran problema de fondo de la herramienta del Gobierno contra el odio: el acoso se esconde en los mensajes privados

Madrid

Pedro Sánchez ha anunciado este miércoles la creación de una nueva herramienta para analizar los efectos del discurso de odio y la polarización. Todo ello en el marco de la primera Cumbre Internacional contra el Odio, donde ha hablado de la necesidad de hacer frente a este tipo de discursos para acabar con uno de los grandes males de esta sociedad. Una plataforma, que ha sido bautizada como Hodio, que nace para rastrear la huella de los discursos de odio, para que todo el mundo sepa quién mira hacia otro lado y para exigir a los responsables de las plataformas digitales que rindan cuentas por su permisividad con estos contenidos.

Un evento en el que estuvo presente Jaime García Cantero, quien ha acudido una semana más al Hoy por Hoy de la Cadena SER junto a Nuño Domínguez para hablar acerca de lo más destacado de la semana en su Ministerio de Ciencia y Tecnología: "Esta herramienta plantea la creación de un ranking de plataformas según la cantidad de contenido problemático que promuevan. Se trata de exigir rendición de algo de lo que aquí hemos hablado miles de veces, rendición de cuentas a las plataformas". En ese momento, Àngels Barceló le ha preguntado si va a servir realmente para combatir el odio en redes.

Un movimiento complejo

Y el analista tecnológico reconoce que tiene serias dudas de que con esto vaya a ser suficiente: "La Ley de Servicios Digitales (DSA) de la Unión Europea ya marca esta necesidad de atribuir a cada plataforma los delitos de odio que se cometen dentro de ella. Creo que técnicamente no es sencillo, aunque no hemos visto nada de la herramienta. Por el momento solo hemos visto la presentación, pero lo único que hemos conocido hasta el momento es su objetivo".

El problema es cómo va a poder monitorizar todo el odio: "Esto es simplemente una plataforma de monitorización. Hasta que veamos lo que hace, yo creo que es complicado hablar. Pero es una herramienta de monitorización que va a permitir medir el odio en este tipo de plataformas y de alguna manera tratar de entender cómo se distribuye, cómo se mueve ese odio. Pero hay muchas cosas que no quedan claras, porque una cosa son los delitos de odio y otra cosa son los mensajes odiosos, que son muy peligrosos, pero que no son delitos. Entonces, ¿cómo se mide la diferencia entre uno y otro? No está nada claro".

El gran reto tecnológico que supone

El Ministerio de Inclusión tiene su propia herramienta, pero solo identifica texto. De ahí que se quede un poco anticuada si tenemos en cuenta cómo se genera el contenido en la actualidad: "Estamos en un mundo en el que solo identificar texto en las redes sirve de poco. Hoy el odio está en vídeo, está en audio y también en muchos otros formatos diferentes. Hablar de un mapa global del odio buscando palabras de texto, me parece que es usar tecnología de ayer para medir problemas del mañana".

Por lo tanto, el analista pide dar un paso adelante en este sentido y también hacer una reflexión profunda para que podamos distinguir entre los mensajes odiosos y los delitos de odio. Más aún ahora que políticas como Rita Maestre o Ione Belarra están siendo acosadas en redes sociales por el simple hecho de ser mujeres, progresistas y de izquierdas. El problema es que, tal y como explica el analista, la herramienta no podría hacer nada en estos casos porque solo analiza las publicaciones que sean de carácter público, no los mensajes privados: "Estas amenazas, en el 99,9% de los casos, se realizan a través de mensajes privados". Por lo tanto, no tiene del todo claro que hagan falta nuevas leyes y nuevas plataformas, sino cumplir con las leyes que ya tenemos y que intervenga la policía cuando sea necesario.