La cara y la cruz de la IA: amplifica pero también combate los discursos de odio

Bilbao

La ONU define los discursos de odio como cualquier tipo de comunicación, ya sea oral o escrita -o también comportamiento-, que ataca o utiliza un lenguaje peyorativo o discriminatorio en referencia a una persona o grupo en función de lo que son basándose en su religión, etnia, nacionalidad, raza, color ascendencia, género u otras formas de identidad. Los discursos de odio se pueden manifestar de cualquier manera, bien a través de imágenes, audios o memes.

En palabras de Rosa Pérez, directora de Gaptain, empresa que trabaja para proteger a los niños y niñas y a adolescentes de los riesgos derivados del ámbito digital, "discursos así ha habido siempre, lo que ocurre es que ahora la tecnología hace de amplificador de ese contenido, es decir, facilita su difusión".

Las víctimas de esos discursos son colectivo o personas vulnerables, desde personas con una ideología u orientación determinada, hasta aquellas que tienen un color de piel diferente, o profesan una religión diferente. Según Pérez, "el papel de la inteligencia artificial en este tema es muy importante, no solo como amplificadora sino como herramienta para combatir estos discursos". Además, se está trabajando para que sean las propias plataformas las que identifiquen esos contenidos y los regulen.

Sin embargo, advierte, ahí se plantea el problema con una regulación excesiva. Cuando se da una regulación excesiva, surge la trampa o la picaresca, medios para sortearla. Así surgió el término algo-speak al ver que las plataformas empezaban a regular ciertas palabras o términos usando filtros automatizados. Ese lenguaje codificado permite compartir el mismo contenido recurriendo a otras letras, números o códigos para evadir esos filtros.

#IAmHere

Uno de los hitos en materia de discursos de odio fue el nacimiento del movimiento internacional #IAmHere cuyo objetivo este tipo de contenidos sobre todo en Facebook. Las personas que siguen este movimiento buscan en esa red social comentarios misóginos, racistas, machistas u homófobos y, sobre ellos, aportan datos y otros argumentos. La idea es proporcionar otro punto de vida para que otros usuarios vean que existen perspectivas alternativas.