Bruselas abre una investigación a Grok, la IA de Elon Musk, por la creación de imágenes sexualizadas

Bruselas

La Comisión Europea llevaba semanas advirtiendo de los riesgos de una herramienta que ha generado más de tres millones de imágenes manipuladas de contenido sexual, muchas de ellas de menores de edad, según un informe del Centro para Contrarrestar el Odio Digital publicado el pasado jueves.

El ejecutivo comunitario ha seguido muy de cerca el uso de esta inteligencia artificial y ha confirmado este lunes que inicia una investigación sobre Grok, el chatbot de IA de Elon Musk, por la producción de imágenes explícitas, según declaró Regina Doherty, miembro del Parlamento Europeo por Irlanda.

"Acojo con satisfacción la decisión de la Comisión de abrir una investigación formal. Cuando surgen informes creíbles sobre el uso de sistemas de IA que perjudican a mujeres y niños, es esencial que la legislación de la UE se examine y se aplique sin demora", declaró Doherty.

La investigación evaluará si X ha cumplido con sus obligaciones en virtud de la legislación digital de la UE, incluyendo los requisitos relativos a la mitigación de riesgos, la gobernanza de contenidos y la protección de los derechos fundamentales.

"Este caso plantea serias dudas sobre si las plataformas cumplen con sus obligaciones legales de evaluar los riesgos adecuadamente y evitar la difusión de contenido ilegal y dañino", declaró Doherty en un comunicado enviado por correo electrónico.

La Comisión Europea no respondió de inmediato a la pregunta de si se había abierto una investigación. La decisión llega después de que la institución europea solicitara a X documentación para estudiar si la red social X vulnera la Ley de Servicios Digitales (DSA).

Se suma a las investigaciones que los gobiernos de otros países como Reino Unido, India o Estados Unidos ya han iniciado para corroborar si estas imágenes violan las leyes locales.

"Si no actúa (Elon Musk), actuaremos nosotros", señalaba la portavoz de la Comisión Europea Laura Pinho. "Elon Musk es libre de operar su compañía en la Unión Europea, pero cumplir con la legislación es obligatorio", señalaba otro de sus portavoces, Thomas Regnier.

Millones de imágenes sexualizadas

La herramienta de inteligencia artificial creada por Elon Musk para X produjo y difundió casi 2 millones de imágenes sexualizadas de mujeres en tan solo nueve días, según una estimación llevaba a cabo por el diario estadounidense The New York Times y el Center for Countering Digital Hate.

Según este estudio, en ese periodo de tiempo, entre el 31 de enero y el 8 de enero, Grok creó más de 4,4 millones de fotografías, de las cuales, al menos el 41%, es decir, 1,8 millones, podrían contener contenido sexualizado de mujeres.