¿Puede la IA ser feminista? Montehermoso abre una exposición que desafía los sesgos machistas de los algoritmos
El Colectiva Femias destaca que aún “tenemos que educar el ojo, para identificar la IA, y posicionarnos frente a las violencias digitales”
¿Puede la Inteligencia Artificial ser feminista?
El código iframe se ha copiado en el portapapeles
Vitoria-Gasteiz
La Inteligencia Artificial está aprendiendo del mundo... y también de sus prejuicios. A nadie se le escapa que esta herramienta tiene sesgos: Gordofobia, machismo, edadismo, mirada colonial, estereotipos de género..., nada de esto es ajeno a los modelos actuales. Con esa realidad sobre la mesa, el colectivo Femias junto a Mugarik Gabe inaugura en el Centro Cultural Montehermoso una exposición que plantea una pregunta decisiva: ¿puede la IA ser feminista?. Una exposición que permanecerá abierta hasta el 25 de enero en el Centro Cultural Montehermoso.
La exposición nace tras dos años de trabajo para “darle la vuelta a lo normativo que nos marca la IA”, ha indicado Alejandra Bueno, integrante del colectiva Femias, que además lo resume así: “En la sociedad ya nos encontramos con diferentes tipos de violencia hacia las mujeres, la IA simplemente las amplifica, y nosotras queríamos visibilizar esta herida y plantear nuevas metodologías, nuevas estéticas, nuevas formas de mirar la IA con una mirada crítica”.
Una experiencia pedagógica desde el primer paso
El recorrido empieza con un juego: dos arcos de seguridad, niveles “experta” o “usuaria”, reciben al público. Según el arco elegido, el visitante accede a conceptos de IA o a nociones de violencias digitales y derechos humanos. “Queríamos que cada persona se ubicara desde el inicio. Es una exposición muy pedagógica; educamos desde el arte porque todavía no hay pedagogía visual en las escuelas”, ha destacado Bueno.
Dirigida a todos los públicos, pero con especial atención a la juventud, Femias ha subrayado la urgencia de abordar estos riesgos: “Hemos visto cómo menores utilizan la IA para vulnerar la identidad de compañeras, y nos tenemos que dar cuenta que no son juegos inocentes, porque generan discursos que se perpetúan”.
El laboratorio del sesgo: clichés, datos y estereotipos
Otra de las salas con la que nos encontramos muestra cinco bustos generados por IA que reproducen clichés: la activista hippie, el hombre hipermusculado, la mujer con flores, el indígena con plumas, la ama de casa racializada. Todos hablan, interpelando al espectador.
Frente a ellos, un vídeo generado por IA reconstruye, a partir de estadísticas reales, el rostro promedio de mujeres asesinadas por violencia de género en distintos años. Una pieza que, en palabras de Bueno, "expone cómo incluso los datos duros pueden traducirse en imágenes sesgadas".
¿Qué ve la IA cuando te mira?
A medida que se avanza en la exposición esta se hace más interactiva. Así nos encontramos con una sala en la que se analiza al visitante y genera un prompt que pretende describirle. “Muchas veces se equivoca, porque parte de generalismos, pero se suele acercar bastante a la realidad”, ha reconocido Bueno. “La gracia es entender que la IA nunca tiene toda la razón, sino que interpreta la realidad”.
La cuestión que lo atraviesa todo
Entre juegos, análisis de imágenes y obras interactivas, el visitante se topa con la pregunta central: ¿puede la IA ser feminista? Bueno lo plantea sin rodeos: “Si cambiamos lo que le damos de comer a la IA, cambia su respuesta. Sí podemos construir otra IA, pero exige una ciudadanía crítica”.
Jon Dos Santos
Redactor y editor de contenidos en el magazine Hoy por hoy Vitoria
