"Las IA no te dibujan a Mickey Mouse pero sí desnudan a las mujeres"

La sensación de que las IA generativas de imagen y voz eran un juguete divertido ha durado poquísimo. Si el fin de semana nos reíamos viendo a Messi o a los actores de Aquí no hay quien viva hablando perfecto inglés, esta semana intentamos comprender cómo y por qué unos niños menores de catorce años han usado las IA para crear imágenes de sus compañeras desnudas como ha pasado en Almendralejo. "Las soluciones no son fáciles", ha comentado Jaime García Cantero, "pero tenemos que empezar por la educación, y por preguntarnos por qué unos niños de catorce años quieren humillar a sus compañeras desnudándolas. Y los ejemplos son siempre de hombres desnudando a mujeres. Muy pocas veces a la inversa. Algo hay ahí que es cultural."

Desde la tecnología, además, hay que buscar soluciones: algo tiene que hacer para regular mucho más severamente lo que está ocurriendo. Pero tiene que haber soluciones, porque "si tú entras en una IA generativa y le pides que te dibuje a Micky Mouse, te dice que no puede por derechos de autor, por cuestiones de propiedad intelectual. Pues si pueden proteger la propiedad intelectual también podrán proteger otro tipo de derechos. Claro, como enfrentarte con Disney y demás popes de la propiedad intelectual puede salirte muy caro, tomas medidas, pero para lo demás parece que no."

¿Qué medidas se pueden tomar?

Puede que sean lentas y poco efectivas, pero se pueden tomar. Por ejemplo: las marcas de agua. "Que toda foto que se genere por IA o todo vídeo que se genere tiene que tener una marca de agua que diga con qué herramienta se hizo, cómo se hizo, e incluso fechas que permitan localizar quién la hizo. Eso técnicamente parece posible y viable. ¿La inteligencia artificial pondría capas por encima para taparla? Por supuesto. Pero todos tenemos la sensación de que la regulación va mucho más lenta que la tecnología. Lo que ha pasado en Almendralejo desgraciadamente va a seguir pasando."

¿Tienen algún uso positivo, beneficioso, estas IA generadoras de deepfakes visuales o auditivos? "Como herramienta creativa es tremendamente poderosa para los creadores de contenido. Estamos viendo que llega mucho antes lo malo que lo bueno," explica Jaime. "Serán fundamentales por ejemplo para generar el metaverso pero, ¿realmente necesitamos el metaverso?" se pregunta Jaime.

El acceso de los niños a la pornografía

También hemos hablado esta semana de la serie documental "Generación porno". La educadora social Marina Marroquí advertía en Hoy por Hoy que los preadolescentes no buscan porno, sino que el porno les sale al encuentro. Jaime García Cantero ha advertido del enorme poder que tiene la industria del porno y la ha comparado con la del tabaco, cuya estrategia de captar clientes cada vez más jóvenes se parece mucho a la que emplea ahora la pornografía.

Únete al canal de WhatsApp de la SER

Play/PauseMostrar Opciones

Marina Marroquí, educadora social: “No es el porno que tenéis en la cabeza, es mucho más sádico y violento”

25:25

Cerrar

• Descargar
• Compartir

Cerrar

Compartir

• Facebook
• Twitter
• Linkedin
• Whatsapp
• Embeber

El código iframe se ha copiado en el portapapeles

<iframe src="https://cadenaser.com/embed/audio/460/1695120608257/" width="100%" height="360" frameborder="0" allowfullscreen></iframe>

"Existe una estrategia diseñada, pensada y financiada" para ello. "Son gigantes con muchísimo dinero y que son capaces de meter sus tentáculos en muchos sitios. Se trata de marcas y empresas cuyos nombres ni siquiera conocemos que están metidas también en el mundo del "dating" y del sexo online. Se trata de meter el porno en cualquier sitio. En la consola por ejemplo. Pero también existen vídeos pornográficos de casi cualquier personaje de dibujos. Es aterrador."

Es evidente que la autorregulación no va a funcionar en este mundo, y que la clave, de nuevo, está en la educación.