Ya hay millones de personas (que se sepa, como mínimo, cuatro millones) usando bots de inteligencia artificial abusivos llamados “Nudify” en Telegram. Lo que hacen es quitar la ropa a personas en las fotos. Y, cómo no, el objetivo suelen ser las mujeres y además, también de niños y niñas.
A principios de 2020, el experto en deepfakes Henry Ajder descubrió uno de los primeros bots de Telegram creados para “desvestir” fotos de mujeres utilizando inteligencia artificial. En ese momento, recuerda Ajder, el bot se había utilizado para generar más de 100.000 fotos explícitas, incluidas las de personas menores de edad, y su desarrollo marcó un momento “decisivo” para los horrores que podían crear los deepfakes.
Desde entonces, explica un informe de WIRED, los deepfakes se han vuelto más frecuentes, más dañinos y más fáciles de producir. Ahora han identificado a, por lo menos, 50 bots que dicen que pueden desnudar a personas.
Una "pesadilla" para las mujeres
Los bots varían en sus capacidades e incluso algunos se publicitan afirmando que pueden crear imágenes que muestran a personas en diversos actos sexuales. Estos 50 bots cuentan en total con más de 4 millones de "usuarios mensuales".
Sobre estos bots de Telegram, el experto Ajder lo ve como algo alarmante: hay un "aumento significativo, de órdenes de magnitud, en la cantidad de personas que claramente están usando y creando activamente este tipo de contenido".
Y sabe que estas herramientas arruinan la vida de personas, particularmente de mujeres que son difamadas públicamente con estos deepfakes tan realistas. Lo define como una "pesadilla para niñas y mujeres". Muchas veces se usa para extorsionarlas y hacer chantajes.
Qué hace Telegram al respecto
No hay que olvidar que el director ejecutivo de Telegram, Pavel Durov, fue arrestado y acusado de facilitar pornografía infantil. A pesar de esto, ha habido pocos cambios en las operaciones de la plataforma.
A finales del mes de agosto fuimos testigos de como el multimillonario Pável Dúrov, fundador y CEO de Telegram, era detenido en Francia junto a su hermano Nikolái. Una detención que se fundamentaba en la presunta comisión de delitos graves al permitir que Telegram no tenga moderadores que controlen el contenido que se publique en los diferentes canales. Aunque después supimos que el listado de acusaciones era mucho mayor.
Tras estas acusaciones, el CEO de Telegram ha querido dar un giro completo a la política de su aplicación. Concretamente, ha prometido que va a "convertir la moderación en Telegram de un área crítica a una de elogio". Obviamente, esto es algo que debe llegar con algunos cambios importantes, que ya se están aplicando desde la última actualización.
Dicen desde el Foro Económico Mundial que para hacer frente a los deepfakes y los usos inapropiados de la IA generativa. "Hacer frente a esta oleada de usos indebidos de la IA generativa es un reto urgente para gobiernos, empresas, ONG y medios de comunicación. Pero para evitar una serie de respuestas inconexas y aisladas de las diferentes partes interesadas, necesitamos un marco unificador para comprender el proceso completo del uso indebido de la IA generativa".
Imagen | Foto de Priscilla Du Preez 🇨🇦 en Unsplash
En Genbeta | Sumar propone una ley 'anti deepfakes' que impondría que el contenido creado mediante IA incluya 'señales' de aviso
Ver 1 comentarios