El nuevo rostro de la violencia machista se esconde tras la inteligencia artificial: "No es solo un ataque contra la integridad"

Madrid

El pasado mes de junio, tres menores de edad fueron investigados por la Policía Nacional en Puertollano como presuntos responsables de crear imágenes pornográficas de sus compañeras y profesoras a partir de la inteligencia artificial para posteriormente compartirlas en un centro educativo de la localidad. Imágenes que mostraban rostros reales de un total de 61 personas, 22 de ellas menores, en cuerpos desnudos que nunca existieron. Un caso, que recuerda a otros que han salido a la luz durante estos últimos años, que vuelve a poner en el foco los peligros de los comúnmente conocidos como deepfakes.

Principalmente porque cada vez es más fácil generar este tipo de contenido y las leyes en torno a este tipo de delitos no son del todo claras. Así nos lo explica el experto en ciberseguridad Pablo Ballarín, quien reconoce que cualquier persona con un mínimo de usabilidad puede crear este tipo de imágenes: "En estos últimos años han surgido varias aplicaciones que son accesibles al gran público. Es tan sencillo como bajarse una app y ya está. Puedes manipular fotos, vídeos e incluso crear vídeos a partir de fotografías reales, así que es accesible a cualquier persona".

Una herramienta cada vez más accesible

El experto en ciberseguridad señala ya no hace falta ni tan siquiera tener conocimientos avanzados en tecnología para realizar este tipo de vídeos: "Antes era necesario ser un experto en la materia y conocer cómo funcionaban los algoritmos, pero ahora estas aplicaciones están orientadas a personas que ya están familiarizadas con otro tipo de aplicaciones". Por lo tanto, cada vez es más fácil crear este tipo de contenido y más complicado diferenciar el contenido real del generado a través de la inteligencia artificial: "El problema es que este tipo de aplicaciones son cada vez más precisas y que es más complicado detectar si realmente es una manipulación. Muchas veces solo se puede detectar mediante programas específicos que pueden identificar si realmente ese vídeo o esa foto corresponden a una creación de un programa basado en inteligencia artificial".

Cada vez hay más facilidades para crear este tipo de contenido, pero, sin embargo, la ley sigue sin estar adaptada a este nuevo escenario. Según nos cuenta Isaac Guijarro, de Olympe Abogados, existen proyectos para regular este tipo de prácticas delictivas en mayores de edad, pero todavía no se han aprobado: "Hay un proyecto actualmente que, por tema de mayorías parlamentarias y demás, no se sabe si acabará saliendo. Pero sí que es verdad que regula este tipo de prácticas delictivas de deepfakes en mayores de edad. Porque, en menores de edad, tenemos una de la Fiscalía General del Estado del año 2015 en la que se habla expresamente de manipulación y de pornografía infantil a través de, no se habla de inteligencia artificial, porque en ese momento no se hablaba de inteligencia artificial, pero sí se habla de creaciones a través de ordenadores o manipulaciones tecnológicas".

Los tres escenarios posibles para los agresores

El problema es que la regulación es muy compleja a la hora de procesar a los acusados, tal y como nos cuenta Isaac Guijarro:

• "En primer lugar tenemos que hacer una diferenciación entre los menores de 14 años y los mayores de entre 14 años y 18 años de edad. Los menores de 14 años son inimputables, por lo que no se les puede investigar y mucho menos condenar por ningún tipo de delito porque se entiende que no tienen la capacidad intelectual, ni la maduración suficiente como para que sean conscientes de lo que están haciendo. Entonces, si son menores de 14 años no se les puede imputar y tampoco castigar por ningún delito".
• Por otro lado, los mayores de 14 años sí que son imputables y se les aplicaría la Ley de Responsabilidad Penal del Menor, que está pensada en la reeducación del imputado: "Casi siempre intentan evitar encerrar a los menores en un centro de internamiento a no ser que sean cuestiones muy graves. En estos casos, se les da una serie de pautas para que entiendan lo que han hecho y que no lo repitan cuando sean adultos: "Incluso se les puede obligar a hacer un curso de Igualdad para que entiendan un poco que no es una anécdota ni algo gracioso, sino que es un delito y que si fueran mayores habrían sido condenados".
• Y luego, si son mayores de 18 años, se les aplicaría el Código Penal: "La pena dependerá de cómo haya sido esa manipulación y esas imágenes". Por lo tanto, se vislumbran tres escenarios distintos dependiendo de las características de las personas que hayan cometido el ataque y, a partir de entonces, la ley determina una pena u otra para los agresores.

El auténtico problema de fondo

Por lo tanto, la ley todavía es muy difusa en este tipo de casos. Y lo peor de todo es el impacto que tiene en las víctimas, quienes tienen que enfrentarse a procesos judiciales demasiado largos hasta que se haga justicia: "Nosotros hemos llevado sobre todo casos de víctimas menores de edad y, al final, la sensación es de humillación y de vulneración de su dignidad y de su intimidad absoluta. Al final lo que les hace es trasladarle la culpa a ellas".

Principalmente porque, en el tiempo en el que se resuelve el proceso judicial, que se alarga durante varios años, las adolescentes a las que han atacado son víctimas de todo tipo de ataques: "Las víctimas no solo tienen que cargar con esa humillación y con esa vulneración de su intimidad, sino también con el hecho de ser la comidilla de todo el mundo y más en unas edades en las que te importa tanto el qué dirán como es la adolescencia". De esta manera, hay quienes se quedan completamente aisladas y que además son incapaces de contárselo a sus padres por la vergüenza que les pueda dar afrontar esta situación.

Un proceso muy duro para las víctimas

El proceso es tan duro que incluso muchas de ellas tienen que cambiarse de instituto para empezar una vida nueva, tal y como explica Isaac Guijarro: "Casi siempre se tienen que incluso cambiar de instituto o de colegio. La víctima acaba destrozada y, por mucho que al menor le pongan un curso de igualdad, todos esos meses eh o incluso años de violencia por parte de compañeros y demás no se repara. Es verdad que se le quedan secuelas".

De hecho, los abogados de Olympe Abogados han llevado casos de clientas que incluso han tenido que cambiar casi anualmente de instituto por la ansiedad y el estrés postraumático que le causó la situación: "Si la miraban y se reían, o si tenían un teléfono y la miraban, ella ya pensaba que es que habían enviado imágenes. Entonces, al final estaba absolutamente traumatizada y no estaba pudiendo aprobar el curso porque estaba hecha polvo básicamente". Por todo ello, Isaac Guijarro recuerda que este tipo de ataques van mucho más allá de un daño puntual: "Ya no es solo el impacto inicial, sino todo lo que viene después. Da igual que se resuelva el caso porque, al final, el daño psicológico va a estar ahí porque la han estado señalando con el dedo todos los días".

Qué hacer si eres víctima

¿Y qué puede hacer una víctima cuando descubre que su imagen ha sido manipulada? En declaraciones a la Cadena SER, el abogado insta a recoger el mayor número de pruebas posibles para denunciar el caso: "Lo primero es intentar hacer capturas, coger ese material y, después, denunciarlo ante la policía o ante el juzgado de guardia con un abogado o abogada que sea especialista en violencias sexuales para iniciar el protocolo de borrado de imágenes. En virtud del artículo 13 de la Ley de Enjuiciamiento Criminal, se establece que una de las primeras diligencias es borrar cualquier contenido ilícito que haya. Entonces lo primero es denunciarlo y, a continuación, trasladar que se ha realizado en un centro educativo y la persona que lo ha hecho, para evitar de alguna manera que se siga produciendo ese daño y puedan empezar a tomar medidas, aunque sea de forma cautelar".

A pesar de que las leyes no estén todavía preparadas para el impacto que tiene la inteligencia artificial en la violencia digital, es un buen primer paso para intentar atajar el problema cuanto antes. Pero la solución no es sencilla ni mucho menos. Isaac Guijarro coincide en que hacen falta tres cosas fundamentales para desatascar un sistema judicial cada vez más complejo: leyes claras, juzgados más eficaces y asistencia a las víctimas.

Cómo desatascar el sistema judicial

Para que todo esto sea posible, Isaac Guijarro considera que es fundamental reforzar los juzgados a nivel humano y materal: "De nada sirve que esté recogido en el Código Penal porque, si tú lo denuncias hoy, y tienes el juicio dentro de 2 años, el daño va a seguir ahí. Entonces, para mí lo importante es reforzar los juzgados que están saturados, colapsados y que no dan de sí". Por otro lado, propone que se añada un delito que recoja explícitamente la creación, difusión y la tenencia de imágenes generadas por inteligencia artificial o por cualquier medio técnico cuando las víctimas sean menores de edad: "Que se castiguen con contundencia, básicamente, porque no solo es un ataque contra la integridad. Es un ataque contra la intimidad y también es violencia sexual. Y además, si lo ha hecho tu pareja, pues además también es violencia de género".

Por todo ello, Isaac Guijarro aboga por una regulación expresa y extensa en cuanto a este tipo de violencia tanto para menores como para mayores de edad: "Actualmente hay que hacer un poco eh encaje de bolillos con el Código Penal y no es justo. Luego también considero que hay que dar una asistencia integral a las víctimas, ya sean menores o mayores de edad. Asistencia psicológica y asistencia legal para que puedan ir gestionando poco a poco todo el trauma generado. Porque no sirve de nada que condenen a una persona si tú, como víctima, estás dejadea de la mano de Dios. Entonces, me parece importante que realmente apliquen el artículo 13 de la ley de Enjuiciamiento Criminal, porque hay veces que bueno, que tampoco lo aplican demasiado y entonces las fotografías siguen por ahí circulando".

Un problema especialmente grave si tenemos en cuenta que un caso de estos puede prolongarse más de la cuenta: "Si es de menores de edad, pues será como un año o un año y medio, más o menos, desde que tú lo denuncias hasta que tienes una sentencia en el mejor de los casos y si es de una mayor de edad, pues el procedimiento se te puede ir perfectamente a cinco años". Por todo ello, el sistema necesita de una reforma urgente para detener un problema que cada día que pasa va a más. Porque aunque estas imágenes nunca existieron, el daño que provocan es muy real.