Millones de personas están usando bots de inteligencia artificial abusivos llamados ‘Nudify’ en Telegram

Ya hay millones de personas (que se sepa, como mínimo, cuatro millones) usando bots de inteligencia artificial abusivos llamados “Nudify” en Telegram. Lo que hacen es quitar la ropa a personas en las fotos. Y, cómo no, el objetivo suelen ser las mujeres y además, también de niños y niñas.

A principios de 2020, el experto en deepfakes Henry Ajder descubrió uno de los primeros bots de Telegram creados para “desvestir” fotos de mujeres utilizando inteligencia artificial. En ese momento, recuerda Ajder, el bot se había utilizado para generar más de 100.000 fotos explícitas, incluidas las de personas menores de edad, y su desarrollo marcó un momento “decisivo” para los horrores que podían crear los deepfakes.

Desde entonces, explica un informe de WIRED, los deepfakes se han vuelto más frecuentes, más dañinos y más fáciles de producir. Ahora han identificado a, por lo menos, 50 bots que dicen que pueden desnudar a personas.

Una "pesadilla" para las mujeres

Los bots varían en sus capacidades e incluso algunos se publicitan afirmando que pueden crear imágenes que muestran a personas en diversos actos sexuales. Estos 50 bots cuentan en total con más de 4 millones de "usuarios mensuales".

Sobre estos bots de Telegram, el experto Ajder lo ve como algo alarmante: hay un "aumento significativo, de órdenes de magnitud, en la cantidad de personas que claramente están usando y creando activamente este tipo de contenido".

Y sabe que estas herramientas arruinan la vida de personas, particularmente de mujeres que son difamadas públicamente con estos deepfakes tan realistas. Lo define como una "pesadilla para niñas y mujeres".  Muchas veces se usa para extorsionarlas y hacer chantajes.

Qué hace Telegram al respecto

No hay que olvidar que el director ejecutivo de Telegram, Pavel Durov, fue arrestado y acusado de facilitar pornografía infantil. A pesar de esto, ha habido pocos cambios en las operaciones de la plataforma.

A finales del mes de agosto fuimos testigos de como el multimillonario Pável Dúrov, fundador y CEO  de Telegram, era detenido en Francia junto a su hermano Nikolái. Una detención que se fundamentaba en la  presunta comisión de delitos graves al permitir que Telegram no tenga  moderadores que controlen el contenido que se publique en los diferentes  canales. Aunque después supimos que el listado de acusaciones era mucho mayor.

Tras estas acusaciones, el CEO  de Telegram ha querido dar un giro completo a la política de su  aplicación. Concretamente, ha prometido que va a "convertir la moderación en Telegram de un área crítica a una de elogio". Obviamente, esto es algo que debe llegar con algunos cambios importantes, que ya se están aplicando desde la última actualización.

Dicen desde el Foro Económico Mundial que para hacer frente a los deepfakes y los usos inapropiados de la IA generativa. "Hacer  frente a esta oleada de usos indebidos de la IA generativa es un reto  urgente para gobiernos, empresas, ONG y medios de comunicación. Pero para evitar una serie de respuestas inconexas y aisladas de las  diferentes partes interesadas, necesitamos un marco unificador para  comprender el proceso completo del uso indebido de la IA generativa".

Imagen | Foto de Priscilla Du Preez 🇨🇦 en Unsplash

En Genbeta | Sumar propone una ley 'anti deepfakes' que impondría que el contenido creado mediante IA incluya 'señales' de aviso