"La IA es machista, gordófoba y tiene muchos sesgos que no representan la diversidad en la sociedad"

Vitoria-Gasteiz

La Inteligencia Artificial, uno de los grandes avances de nuestro tiempo y que ha venido para quedarse, empieza a generar algunos problemas que estamos a tiempo de solventar, porque recordemos que esta o estas, porque no sólo hay una puesta en marcha, se alimenta de todas las imágenes, textos y audios que hay en internet y le introducimos para alimentarla. Es decir que es la sociedad, en general, la que alimenta a las inteligencias artificiales y no al revés. Con esta inquietud nació el proyecto Femias, comandado por Alejandra Bueno, Laura MM y Aizkoa Pérez que nos cuenta como "comenzamos el proyecto partiendo de noticias e informes que nos decían que se habían determinado sesgos en algunas imágenes y cómo se materializan en la IA, que llevaban a no representar a la diversidad de las mujeres, razas, etc", y ha destacado que "nuestra idea es llegar a generar imágenes sin sesgos sociales, ya que algunas de las imágenes actuales no representan a la sociedad por lo que es necesario diversificar la base de datos existente".

FEMIAS es un proyecto de creación y producción artística que parte de la hipótesis de que los sistemas de inteligencia artificial son educables, en tanto que los datos son creados, categorizados y gestionados por humanos, por lo tanto es posible orientar a una IA para que posea un enfoque de género. Para ello, en esta primera fase del proyecto, se ha realizado un análisis crítico-científico para determinar el enfoque de género de las Inteligencias Artificiales de generación de imagen. Proyecto que ha contado con el apoyo de Hibridalab, que es un espacio pionero en Álava que busca fomentar la innovación desde perspectivas muy diferentes.

Son muchas las IAs que hay en el mercado, pero el proyecto se ha basado en en el estudio de generación de imagen a través de Dall-e, Midjourney y Dreamstudio. Gracias a esto han determinado que "la IA es machista y gordófoba, y además en función del idioma en el que preguntes se generan una serie de imágenes que traen una carga cultural de ese idioma adherida", ha indicado Aizkoa Pérez.

'La familia perfecta'

Algunos de los ejemplos e imágenes con los que se han encontrado en su primera fase de estudio pasan por que siempre que se pedía una imagen de una persona rica "salía un hombre blanco de mediana edad, por lo que decidimos introducir seis baremos - tres de lugares; casa, trabajo y practicando un hobby, y tres adjetivos calificativos; rico, atractivo y peligroso, para ver las imágenes que se generaban", ha indicado Alejandra Bueno. Y no sólo se quedaron ahí los ejemplos, sino que al pedirles una familia perfecta "nos encontramos que por ejemplo si hacíamos la pregunta en ingles nos generaba la familia representada con trajes de superhéroes".

En la segunda fase del proyecto se quiere seguir con la experimentación grupal, junto con Femias se va a explorar el cómo utilizar estas herramientas para impulsar el cambio y construir una sociedad más inclusiva y equitativa, con "la creación de un manual de buenas prácticas y empezar a crear obra", ha indicado Aizkoa, que también se ha referido a que "debemos tomar conciencia y no dejar que la IA resuelva la generación de la imagen, sino que es una herramienta y nosotros debemos definir esos parametros para llegar a la imagen que queremos, para crear esa educación visual".

Únete al canal de WhatsApp de la SER