La Dark Web aloja plataformas de lo más variado, y no se ha mantenido al margen de la revolución de la inteligencia artificial. De hecho, junto a los ya 'tradicionales' marketplaces de productos ilegales (drogas y armas, fundamentalmente), ya es posible encontrar servicios de IA generativa.
Y uno de ellos está atrayendo la atención de los usuarios del lado oscuro de Internet y, desde hace unos días, también de los grandes medios tecnológicos.
Su nombre es OnlyFake (no confundir con 'OnlyFakes', un sitio de la 'Web abierta' dedicado a generar desnudos sin censura), y representa el nacimiento de todo un riesgo potencial para la seguridad, pues su IA es capaz de generar identificaciones (carnets de identidad y de conducir, pasaportes, etcétera) tan falsas como hiperrealistas. Aquí un ejemplo:
Vía 404 Media
Y por sólo 15 dólares en cada caso. Los responsables de la web aseguran ser capaces de generar hasta 20.000 documentos al día, con lo que tendrían capacidad para ingresar hasta tres millones de dólares al mes.
¿Qué supone la existencia de una plataforma como OnlyFake?
La existencia de un servicio como este no sólo constituirá un obstáculo notable para la verificación de identidades online, sino que abrirá las puertas a un sinfín de actividades delictivas, desde el fraude bancario hasta el lavado de dinero. Eso, claro está, siempre que la calidad de las identificaciones generadas por OnlyFake estén a la altura de lo prometido.
Pero es que, según ha revelado un reportaje del medio online 404 Media, las identificaciones creadas por OnlyFake son lo suficientemente convincentes para superar los procesos de verificación de identidad de varios servicios de exchange de criptodivisas.
Y es que el servicio de OnlyFake también incluye la alteración de metadatos en las imágenes, haciendo que parezcan tomadas por un smartphone, lo que añade un nivel de credibilidad alarmante.
Haz clic para acceder a la publicación en X
Al BOE rogando, con la red neuronal dando
Por supuesto, hay sobre la mesa, desde hace tiempo, toda clase de propuestas normativas que permitirían trazar el origen de un deepfake (por ejemplo, a través de 'marcas de agua')... pero es lo que tienen las leyes: que los criminales no suelen seguirlas.
Nadie lanza un servicio limitado a la Dark Web sólo para a continuación preocuparse por cumplir las diversas normativas sobre IA de cada gobierno.
De modo que parece que el campo de la IA deberá presenciar el surgimiento de una nueva carrera del gato y el ratón entre falsificadores de imágenes y detectores de falsificación.
Imagen | Fotomontaje (Imagen de muestra de la Policía Nacional + Fondo generado por IA)
Ver 5 comentarios