Esa foto de Macron siendo agredido no es más que el último ejemplo de manipulación social a través del fotorrealismo de las IAs

La inteligencia artificial puede llegar a ser realmente peligrosa para toda la sociedad. Y no nos referimos al hecho de que puede sustituirnos en un puesto de trabajo o que su inteligencia acabará con la humanidad entera. El verdadero problema que estamos sufriendo en la actualidad está relacionado con los montajes fotográficos hiperrealistas que se realizan con la IA.

Ver a un político en una situación comprometida o realizar el desnudo a partir de una fotografía que tiene subida a la red son algunos de los ejemplos que tenemos. Una situación realmente curiosa se dio reciente en Francia donde se publicaron imágenes del presidente Emmanuel Macron perseguido por manifestantes o protestando contra su propia ley de pensiones. Pero todas estas situaciones nunca han pasado.

La IA y el fotorrealismo es un grave problema

El problema es que las fotografías que han circulado por la red son realmente realistas, y la gente que las ha visto por redes sociales han llegado a creerse que eran originales. Pero esto se debe a que existen muchas tecnologías de rápido acceso y que no requieren dejarse mucho dinero para que funcionen. Algunos ejemplos son DALL-E, Midjourney o Stable Diffusion.

"Es como vivir en el multiverso: cada uno puede inventar su versión alternativa de la realidad" es la frase que esgrimía David Fathi tras realizar un trabajo extraordinario con Midjourney. Y es a que a través de su cuenta de Instagram publicó diferentes fotografías generadas por Midjourney a modo de 'experimento social'.

El objetivo era saber si estas imágenes, aunque fueran surrealistas, podían hacer que la gente se lo creyeran, manipulando totalmente la realidad. Y es que un simple artículo con este tipo de fotografías manipuladas o una publicación en X puede distorsionar la realidad de cualquier persona.

Y es que en una fotografía depositamos mucha confianza, al pensar que es inalterable (o al menos si se hace se puede ver claramente que es un 'corta y pega'). Pero ahora te pueden poner una imagen por ejemplo de Pedro Sánchez manifestándose delante del Palacio de la Moncloa, donde vive, y puede que la realidad de la imagen sea increíblemente buena. Y esto puede provocar que efectivamente se lo crea la gente.

Pero esto se puede trasladar a situaciones menos extremas entre las que hayas dudas en la sociedad, y con una simple IA se va a poder manipular la opinión de la gente en un solo clic. El problema es que cada vez existen más IA generativas que son accesibles a todo el mundo, y provoca efectivamente que cada vez más personas tengan acceso a estas herramientas con el objetivo de alterar la realidad. Es por ello que una vez se debe recordar la necesidad de desconfiar siempre de todo por muy real que sea, y contrastar siempre esa información.

En Genbeta | Esta web permite generar modelos en 3D a partir de cualquier imagen en 2D por medio de una IA: así funciona