Estas fotos de vacaciones en el mar son falsas: son creadas por la IA de DALL-E 2 y la gente ha pensado que eran reales

Roatán es una isla de Honduras reconocida a nivel mundial por ser un tesoro para los amantes del buceo. El terreno del arrecife es complejo y muy rico: tiene cañones, cavernas y pasadizos y hay una gran riqueza de vida marina y especies de coral.

Con esto, un amante del buceo y de la tecnología, Matt Bell ha contado en su blog que mientras estaba en Roatán disfrutando de unas vacaciones viendo la vida marina, accedió a la herramienta DALL-E 2. Y echando un vistazo a sus capacidades, pensó "¿Podría usar DALL-E 2 para crear unas vacaciones falsas? U, otra opción menos falsa: ¿podría usar DALL-E 2 para recrear eventos de mis vacaciones que realmente sucedieron, pero de los que no pude sacar buenas fotos?"

DALL-E y sus capacidades

Hace unas semanas, nos hacíamos eco del lanzamiento de DALL-E 2, la nueva inteligencia artificial de Open AI que parece capaz de generar cualquier imagen que seamos capaces de imaginar. Bueno, y de describir, porque esta IA no destaca sólo por crear imágenes, sino que previamente es capaz de 'comprender' textos para 'saber' qué le estamos pidiendo (lo cual logra recurriendo a la misma tecnología que la IA generadora de textos GPT-3).

Matt Bell comenzó a utilizar la interfaz de esta IA para generar algunas fotos sintéticas de las vacaciones y dice que "efectivamente, una buena parte de ellas eran lo suficientemente buenas como para hacerlas pasar por reales". Lo que hizo fue publicar en su Facebook algunas fotos reales y otras modificadas con la inteligencia artificial.

Y dice que Un 83% de las personas (19 de 23) que respondieron a la encuesta al final pasaron por alto el hecho de que había algo diferente en las imágenes de DALL-E. "Y eso a pesar de que la marca de agua de DALL-E estaba en la esquina inferior derecha (para cumplir las normas de acceso de OpenAI) y de que las imágenes tenían una relación de aspecto diferente y más granulada", ha concluído Matt Bell. Y eso que dice que sus seguidores son conocedores de las tecnologías de deepfakes y saben que existe DALL-E.

Conclusiones del experimento

Bell recordó que una vez leyó en un blog que el texto generado por la GPT-3 supera la prueba de Turing para los usuarios que hojean el texto y no prestan atención, porque cuando usamos las redes sociales tenemos puesto el cerebro en "modo automático". Pasamos por las galerías de fotos rápidamente, eso es cierto.

Bell considera que, además de la marca de agua, si se observan detenidamente algunas de las imágenes de DALL-E, se pueden ver algunos signos evidentes de falsificación. En la foto del buzo falso "no hay mangueras de buceo en ninguna parte, y las aletas están como borrosas".

Aún así, DALL-E 2 es buena, lo suficiente como para producir imágenes de archivo utilizables. Aunque también se ha visto en estas pruebas que sigue teniendo problemas con los rostros, así como con escenas complejas.