Europa estudia sanciones contra el porno no consentido creado por Inteligencia Artificial

Madrid

El último escándalo del conocido como "porno deepfake" (imágenes pornográficas falsas creadas con inteligencia artificial) en la localidad extremeña de Almendralejo ha originado muchas dudas sobre cómo se puede combatir este fenómeno de los falsos desnudos, que está afectando sobre todo a las mujeres, y qué herramientas legales existen en este momento. Hay muchas esperanzas puestas en la nueva Ley de Inteligencia Artificial que está preparando la Unión Europea.

Esta normativa, la primera en el mundo, pretende responder a todos los desafíos de estas nuevas tecnologías, especialmente desde la irrupción de la llamada ‘Inteligencia Artificial Generativa’ como el Chat GPT o Midjourney, una aplicación que usa Inteligencia artificial para crear imágenes.

¿Qué va a regular esta ley?

Esta ley, que se encuentra en discusión para ser aprobada previsiblemente a finales de año, ser el marco normativo básico que regule los usos de estas nuevas tecnologías. Para ello, se hará una clasificación de 4 niveles de riesgo para la salud, la seguridad o los derechos de las personas y fijará las obligaciones que tienen empresas y usuariosLos cuatro niveles de riesgo se clasificarán como inaceptable, alto, limitado y mínimo. Entre los practicas inaceptables figura la identificación biométrica de personas, incluyendo el reconocimiento facial en entornos públicos, salvo excepciones como las investigaciones judiciales.

También será inaceptable el llamado "social scoring", cuando lo utilicen empresas privadas. Se trata de la utilización de una inteligencia artificial para evaluar la fiabilidad de una persona en función de sus gustos, emociones, etc.

La IA de "alto riesgo" incluye el uso de vehículos autónomos dispositivos médicos y aparatos de infraestructuras críticas. También se incluye aquí la prohibición de utilizar estos sistemas inteligentes para influir en las campañas políticas y los sistemas de recomendación de grandes tecnológicas como Google o Amazon. De momento no hay ninguna jurisprudencia del Tribunal Supremo porque no ha llegado ningún caso de "porno deepfake" a este tribunal.

Únete al canal de WhatsApp de la SER

¿Podrá evitar la nueva Ley de Inteligencia Artificial casos como el de las menores de Almendralejo? ¿Habrá sanciones?

La nueva ley va a obligar a las empresas a advertir, mediante una etiqueta o una marca de agua en un video o foto, que el contenido se ha creado mediante inteligencia artificial. Además, les obligará a diseñar un modelo para evitar estos contenidos ilegales. Es decir, las aplicaciones deberían estar programadas para no poder realizar fotos o vídeos pornográficos falsos manipulando imágenes reales de personas. Y, además, estas compañías deberán explicar cómo entrenan sus sistemas de inteligencia artificial y cómo han usado los datos protegidos por derechos de autor para realizar estos ensayos.

En declaraciones a la Cadena SER, el eurodiputado socialista y ponente de la ley, Iban García del Blanco, asegura que "la ley va a ser muy completa porque va a prever muchos de los retos que nos podemos encontrar con esta revolución tecnológica". Preguntado por si se incluirán castigos para las personas que elaboren y difundan imágenes pornográficas falsas creadas con esta tecnología, el ponente socialista asegura que se está discutiendo incluir un listado de sanciones, pero añade que "habrá que actualizar y adaptar la legislación penal y sancionatoria de cada país para poder afrontar este problema".

¿Hay una ley concreta en España contra el porno no consentido creado con Inteligencia Artificial?

En este momento, no existe una ley concreta que regule este fenómeno.  Hay varias normativas que contemplan diferentes aspectos relacionados con los derechos de las personas y el uso de imágenes ilegales pornográficas de menores y adultos.

El Código Penal regula el llamado delito de “pseudo pornografía infantil”. Este delito está contemplado en el artículo 189 del Código Penal y establece condenas de hasta 9 años de prisión por "pseudopornografía" con agravante si las víctimas son menores de 16 años. Por otra parte, la fiscalía general del Estado establece que "para poder considerar penalmente trascendente este tipo de material, será necesario, como en el caso de la pornografía virtual, que sea realista, que trate de aproximarse a la realidad, quedando excluidos del concepto de pornografía infantil los materiales que por su tosquedad revelen su condición de montaje".