Hoy por Hoy Madrid NorteHoy por Hoy Madrid Norte
Ciencia y tecnología

Inteligencia Artificial, phishing y deepfakes

El mal uso de la IA permite a los ciberdelincuentes perfeccionar los fraudes a través de phishing haciéndolos más creíbles. Además, se incrementan los casos de deepfakes

En la Ciberguarida (19-12-2023): Inteligencia Artificial, phishing y deepfakes.

En la Ciberguarida (19-12-2023): Inteligencia Artificial, phishing y deepfakes.

16:17

Compartir

El código iframe se ha copiado en el portapapeles

<iframe src="https://cadenaser.com/embed/audio/460/1702892446995/" width="100%" height="360" frameborder="0" allowfullscreen></iframe>

La Inteligencia Artificial, que tantos beneficios aporta, puede ser también mal utilizada y de hecho ya se está comprobando como los ciberdelincuentes, gracias a ella, han conseguido perfeccionar el `phishing’ y hacer cada vez más reales y convincentes las imágenes o videos falsos, las conocidas deepkakes.

Así lo asegura Alfredro Reino, arquitecto de soluciones de seguridad de CrowdStrike, quien recuerda como gracias a la IA se están enviando mensajes fraudulentos por correo electrónico más personalizados y convincentes, de forma que incrementan las probabilidades de éxito en el engaño. Son más difíciles de identificar y de diferenciar de las comunicaciones legítimas, hasta el punto de que, según Reino, a veces los detectores de IA no pueden distinguir si el correo electrónico está escrito por un bot o por una persona.

Lo mismo ocurre con los videos con imágenes falsas, habitualmente de una persona que dice o hace algo que nunca ha ocurrido. Una deepfake es un vídeo en el que se muestran imágenes falsas, habitualmente del rostro de una persona, que parecen ser reales, producido con IA. Se trata de técnicas denominadas ‘deep learning’ o aprendizaje profundo, que utilizan algoritmos de redes neuronales.

Y una de las preocupaciones actuales es que empiezan a aparecer videos con imágenes pornográficas falsa. Según un estudio de ‘State of deepfakes 2023’ de Home Security Heroes, la pornografía deepfakes supone un 98% de los videos online de este tipo y a esto contribuye la facilidad para conseguir y usar herramientas que permitan generar estos engaños. Este tipo de pornografía infringe los derechos a la protección de datos y a la intimidad, honor y propia imagen, siendo las mujeres más más afectadas por este delito.

En estos momentos, según recuerda José Antonio Rubio, doctor Ingeniero en Ciberseguridad, la UE tiene sobre la mesa el borrador para aprobar un Reglamento sobre IA con el objetivo de garantizar que los sistemas de Inteligencia Artificial comercializados en el mercado europeo y utilizados en su ámbito, sean seguros y respeten los derechos y valores fundamentales de la UE.

 
  • Cadena SER

  •  
Programación
Cadena SER

Hoy por Hoy

Àngels Barceló

Comparte

Compartir desde el minuto: 00:00