Francia y la India denuncian a X por publicar imágenes que replican personas reales creadas con inteligencia artificial

Madrid

Grok, el chatbot de inteligencia artificial de Elon Musk, ha confirmado hoy que tiene fallos en seguridad, que han provocado que imágenes que representan a menores con ropa íntima, se publiquen en la red social. Dice Twitter que están trabajando para solucionar el problema, pero el gobierno francés ya ha presentado una denuncia contra la plataforma por la publicación de esas imágenes.

También el ministro de tecnología de la India ha denunciado a X por este mismo asunto en lo que califica de grave fallo de las salvaguardas a nivel de la plataforma la violación y la dignidad de mujeres y niños. El reciente uso indebido de Grok en X expone un punto ciego persistente en la forma en que las plataformas implementan la IA generativa a gran escala, mientras que desvían la responsabilidad de sus daños.

Si bien el abuso de imágenes no consentido no es nuevo, la facilidad con la que los usuarios ahora pueden sexualizar a mujeres reales a través de una herramienta integrada en la plataforma marca una preocupante escalada. Fundamentalmente, este contenido no solo circula en X; el propio sistema de la plataforma lo produce, a la vista del público, a instancias de los usuarios comunes.

Esto que les mostramos aquí, es un video creado con ese boot de inteligencia artificial en twitter, ahora llamado X.

Además, esta tendencia pone de relieve cómo los debates en torno al etiquetado, el realismo o la intención a menudo pasan por alto el punto principal. Siddharth Pillai, cofundador de la Fundación RATI, declaró recientemente a MediaNama que los deepfakes creados y compartidos sin consentimiento son una herramienta utilizada contra las mujeres y las minorías de género, independientemente de su realismo o etiquetado. El daño se deriva del acto en sí y de la falta de consentimiento, no de si una imagen parece convincente o incluye una advertencia.

Al mismo tiempo, las controversias pasadas de Grok, que abarcan desde lenguaje abusivo hasta manifestaciones extremistas y antisemitas, demuestran que este episodio no es un caso aislado. Más bien, forma parte de un patrón más amplio en el que las salvaguardias se quedan atrás del despliegue, y la rendición de cuentas solo se produce tras la reacción pública.