Las “alucinaciones” de la IA se cuelan en la guerra: Grok confunde un bombardeo en Beirut con una mascletà en Valencia
El periodista y experto en bulos Marc Amorós analiza las fake news más virales de la semana
Los bulos sobre la guerra de Irán se intensifican: "la IA está confundiendo imágenes de guerra"
El código iframe se ha copiado en el portapapeles
Madrid
El periodista especializado en desinformación Marc Amorós advierte en La Ventana de una nueva oleada de bulos relacionados con la guerra entre Irán e Israel. En los últimos días, algunas de estas falsedades han sido amplificadas por sistemas de inteligencia artificial que intentan verificar imágenes virales.
Uno de los casos más llamativos afecta a Grok, la inteligencia artificial integrada en la red social X. Según explica Amorós, el sistema ha realizado esta semana varias verificaciones erróneas que han terminado confundiendo escenas de guerra con celebraciones o incluso con incendios ocurridos en otros países.
Grok confunde Beirut con las Fallas de Valencia
La primera verificación errónea ha resultado especialmente sorprendente. Grok ha identificado la imagen de un edificio en llamas tras el impacto de un misil en Beirut como si se tratara de la mascletà de las Fallas de Valencia.
El sistema aseguró que la escena correspondía a un espectáculo pirotécnico celebrado este año en la plaza del Ayuntamiento de Valencia. Sin embargo, la imagen real pertenece a un bombardeo ocurrido en la capital libanesa en 2024.
Un incendio en Teherán que Grok sitúa en Los Ángeles
La segunda verificación falsa ha afectado a unas imágenes actuales de Teherán. En ellas se observa un incendio en un bulevar del noroeste de la ciudad tras un bombardeo israelí contra un depósito de petróleo.
Grok, sin embargo, aseguró que las fotografías correspondían a los incendios forestales que afectaron a Los Ángeles en 2017. La identificación es incorrecta y mezcla dos contextos completamente distintos.
Glasgow convertido en Tel Aviv
El tercer error ha ocurrido con unas imágenes de un gran incendio que la inteligencia artificial ha verificado como un supuesto ataque con misiles sobre Tel Aviv.
En realidad, las fotografías corresponden al incendio de la estación central de Glasgow, registrado el pasado domingo. Un ejemplo más, señala Amorós, de cómo estos sistemas pueden equivocarse al intentar contextualizar imágenes virales.
Las "alucinaciones" de la inteligencia artificial
Estos fallos tienen un nombre en el ámbito tecnológico: las "alucinaciones" de la inteligencia artificial. Los modelos de lenguaje como Grok, ChatGPT o Gemini no están diseñados como fuentes fiables de verificación.
Funcionan prediciendo la palabra más probable según los datos con los que han sido entrenados. Cuando la información es insuficiente o confusa, pueden generar respuestas incorrectas o directamente inventadas. Esto explica que identifiquen mal fotografías, mezclen fechas o atribuyan imágenes a lugares equivocados.
Un vídeo que no muestra israelíes huyendo
Más allá de los errores de la IA, Amorós ha desmentido varios bulos que circulan en redes sobre la guerra. Uno de ellos muestra a un centenar de personas caminando por montañas áridas junto al mensaje: "Israel ahora mismo. La gente huye de sus casas".
El vídeo se presenta como si mostrara a ciudadanos israelíes escapando de Tel Aviv, pero en realidad las imágenes corresponden a trabajadores nepalíes recolectando un hongo medicinal en zonas montañosas de Asia.
Un supermercado vacío en Dubái… generado con IA
Otro vídeo viral asegura que la guerra ya está provocando desabastecimiento en Dubái. En las imágenes se ve un supermercado casi vacío, con clientes intentando llevarse las últimas botellas de agua.
Sin embargo, el vídeo no es real. Se trata de una escena generada completamente con inteligencia artificial.
Una foto real convertida en bulo
También circula un mensaje que afirma que la imagen de las tumbas de niñas fallecidas en una escuela iraní bombardeada es falsa y que corresponde a Indonesia durante la pandemia de COVID-19.
La afirmación es incorrecta. La fotografía es actual y muestra las fosas excavadas tras el ataque.
Videojuegos convertidos en "imágenes de guerra"
Por último, Amorós alerta de otro fenómeno que ya se vio durante la guerra de Ucrania: el uso de imágenes de videojuegos bélicos para fabricar noticias falsas.
Algunos vídeos que muestran drones iraníes persiguiendo aviones estadounidenses o barcos de guerra disparando misiles proceden en realidad de los videojuegos Arma 3 y War Thunder. Su realismo es tal que incluso responsables políticos han llegado a compartirlos en redes creyendo que eran reales.
Para Amorós, estos ejemplos demuestran que la desinformación se ha vuelto cada vez más sofisticada: ya no solo se fabrican imágenes falsas, sino que también se utilizan tecnologías que pueden equivocarse y contribuir a amplificar los bulos.
