“Los bulos de la IA llevan a la desinformación y la erosión social"

Vitoria-Gasteiz

En el marco del Día Internacional para la Eliminación de la Violencia contra la Mujer hablamos, en un especial Hoy por Hoy Vitoria, de las violencias machistas en el contexto digital, particularmente la influencia de los sesgos presentes en las tecnologías emergentes como la inteligencia artificial (IA), de los sesgos de la propia inteligencia artificial y de los bulos y la desinformación sexistas.

Alboan y su trabajo global contra la desigualdad

Desde la sede de Alboan ponemos el foco en esas violencias que sufren la mitad de la población mundial. La desinformación sexista, de los bulos dirigidos contra las mujeres, y las violencias digitales, alimentadas por la IA, están generando un caldo de cultivo en internet, y en las redes sociales, que niega la mayor. Contra todo eso, Alboan ha puesto en marcha diferentes programas de acompañamiento, como Mujeres en Marcha, “a través del cual acompañamos a mujeres y niñas migrantes, refugiadas y desplazadas de 12 países de África y centro américa, para su desarrollo personal, formativo, económico y social, y para que puedan evolucionar de una posición de vulnerabilidad a ser las dueñas de su propia vida", nos ha contado María Alba, responsable de la ONG en Álava.

En ese proceso de acompañamiento se van generando diferentes espacios de convivencia intercultural, “donde es posible compartir las violencias machistas sufridas en cuatro áreas principales, que hemos identificado, como son; salud, formación y educación, empleo y búsqueda de residencias", ha indicado María Alba.

Muchas de las campañas de desinformación, y creación de bulos, tienen un impacto muy importante en las mujeres. Lo que conlleva “a situaciones de silencio y autocensura para estar tranquilas por el miedo que se genera. Esto además se triplica si hablamos de mujeres migrantes porque la carga de prejuicios sociales, racistas, discriminatorios es todavía mayor”, ha indicado la coordinadora del área de cooperación internacional de Alboan, especialista en género y cooperación, Sandra Delgado.

“Cuando ven que soy migrante me ponen muchas trabas para el alquiler”

Wiam llegó de Siria a Vitoria, junto a su marido y tres hijos, para buscar un nuevo comienzo. Sin embargo, se ha encontrado con muchos problemas y situaciones desagradables a la hora de encontrar un piso para alquilar. Ella misma nos contaba como “llevo más de un año buscando un piso para mi familia, y lo que nos piden es muy difícil, cuando el dueño de la casa escucha, que somos una familia que tiene tres hijos, ya no hay piso, desaparece para alquilar".

Únete al canal de WhatsApp de la SER

Sesgos en la IA

La Inteligencia Artificial generativa, capaz de crear imágenes, textos y audios a partir de instrucciones dadas por los usuarios, refleja los estereotipos de género, raza y clase social que predominan en la cultura globalizada. “Estas tecnologías están diseñadas para imitar nuestra sociedad, y si nuestra sociedad tiene sesgos, la inteligencia artificial los va a reproducir,” señala Alejandra Buena, una de las integrantes del colectivo FEMIAS.

Este colectivo, formado por las artistas e investigadoras Alejandra Bueno, Laura M.M y Aizkoa Pérez, ha investigado sobre los sesgos de la IA. En su trabajo, han analizado cómo las IAs responden a instrucciones aparentemente neutrales, como “mujer rica”, con sesgos de todo tipo. “Al darle una orden tan simple, la IA produce imágenes de mujeres blancas, rubias, delgadas y sexualizadas, mientras que al pedir la imagen de un ‘hombre rico’ casi siempre se genera una figura masculina mayor, de clase media, en un contexto más serio y profesional," explica Bueno.

La iniciativa de FEMIAS, además de analizar estos sesgos, ha elaborado un manual y una futura aplicación destinada a ayudar a los y las usuarias de IA a “saltarse” esos sesgos para poder generar imágenes inclusivas y libres de sesgos. “Queremos dar a los usuarios herramientas para que puedan generar imágenes de manera más consciente, evitando caer en los patrones perjudiciales que perpetúan los prejuicios,” apuntan. Para ello es clave ser muy específico con el PROMT, es decir, el requerimiento que se le hace a la IA para que genere, en este caso, la imagen. Para que esas preguntas sean más específicas y certeras, y obtener, de ese modo, una imagen sin sesgo, el manual que han elaborado recoge 10 ítems o elementos que tenemos que tener en cuenta; el sexo, la edad o la raza son algunos de ellos.

FEMIAS, tras elaborar el manual, están ahora creando una aplicación para el ordenador que ayude- a través de esos ítems- a generar imágenes con menos sesgos.

Manosfera, incels y bulos antifeministas

En este especial 25N, además, hemos hablamos con Marta C Dehesa, abogada especializada en derecho de autoría e imagen gráfica, sobre bulos machistas y desinformación generados por Inteligencia Artificial (IA). “Es alarmante que, en 2024, sigamos luchando contra mentiras que pretenden desvirtuar todo el trabajo logrado por el feminismo”, señala Marta. La abogada

La experta apunta a que la IA está siendo utilizada para crear representaciones virtuales de mujeres, que no solo distorsionan la realidad de la figura femenina, sino que también perpetúan ideas misóginas. “Están creando a la mujer ideal para ellos, una mujer sin carne, virtual y sin identidad propia”, apunta, destacando que este fenómeno está vinculado a la creación de contenidos y perfiles virtuales en redes sociales y plataformas como Instagram, donde se promueve una imagen de mujer irreal, que responde a los deseos masculinos. En ese sentido, y como ejemplo, la experta apunta al auge de los “robots sexuales” creados por IA, un fenómeno que busca reemplazar a las mujeres reales.

C. Dehesa también se ha referido a los bulos que surgen desde la ‘manosfera’, el espacio misógino digital que alimenta, en muchos casos, las noticias falsas para atacar al feminismo. “No es solo un problema de grupos ultraderechistas, sino que se extiende a muchas personas que, sin ser conscientes, contribuyen a alimentar estos bulos “, apuntó. “Este tipo de narrativas no solo son peligrosas, sino que están alimentando una presión constante sobre las mujeres, transformando la violencia sexista en múltiples caras de una realidad que cada vez está más normalizada”, concluye.