X (Twitter) se llena de deepfakes pornográficos de Taylor Swift generados con IA y la red social bloquea sus búsquedas

2023 ha sido indiscutiblemente el año de Taylor Swift. ‘The Eras Tour’, y todo lo que ello ha supuesto para sus fans ha sido todo un hito en su carrera, siendo un año de celebración para todas las swifties. Sin embargo, el comienzo de este año ha estado empañado para la cantante por una situación cada vez más problemática en Internet: los deepfakes.

Desde hace unos días, X (anteriormente conocida como Twitter), ha tenido que bloquear todas las búsquedas relacionadas con Taylor Swift en su plataforma debido a que aparecían constantemente imágenes de sexo explícitas de la cantante generadas por inteligencia artificial.

El problema de los deepfakes cada vez es mayor

Ya sea si estás en un teléfono móvil o en la web de escritorio de la red social, te darás cuenta de que no encontrarás ningún resultado al buscar a Taylor Swift en X. Esta maniobra de contención ha venido acompañada de una investigación para descubrir el origen de dichas imágenes.

Según parece, las imágenes encontradas online llevaban a un grupo de Telegram donde se compartían deepfakes de contenido explícito de mujeres. El grupo utilizaba Microsoft Designer para generar las imágenes desde cero utilizando inteligencia artificial.

Microsoft dispone de medidas de seguridad para actuar contra el uso indebido de su IA, sin embargo, en el grupo de Telegram también se compartían medidas para evitar esta protección por medio de determinados prompts. Se dieron cuenta que, al usar “Taylor ‘singer’ Swift” en vez de ‘Taylor Swift’ podían generar imágenes de manera más efectiva.

En Genbeta

Los muñecos conectados a ChatGPT se alzan como nueva tendencia juguetera. Conoce a los nuevos compañeros de juegos de tu hijo

La noticia ha llegado hasta al propio Satya Nadella, CEO de Microsoft, quien también ha dedicado algunas palabras en torno a la importancia de la colaboración global ante incidentes que puedan causar daño online:

“Y hay mucho que hacer y mucho que ya se está haciendo. Pero se trata de una convergencia global y social sobre ciertas normas. Y podemos hacerlo -especialmente cuando la ley, las fuerzas del orden y las plataformas tecnológicas se unen-, creo que podemos gobernar mucho más de lo que pensamos y de lo que nos creemos,” comentaba el ejecutivo en una entrevista para la NBC News.

Las imágenes generadas por IA sin consentimiento comienzan a ser un verdadero problema que afecta a muchas personas. Y es que según el informe “2023 State of Deepfakes” del equipo de Home Security Heroes, “El 99% de las personas afectadas en los deepfakes de pornografía son mujeres”.

Imagen de portada | Sarah Yenesel (EFE/EPA)

En Genbeta | Así puedes crear gratis una espectacular imagen en 3D personalizada con tu nombre gracias a la potencia de Copilot y DALL-E 3