En este último año y medio, la generación de imágenes generadas por inteligencia artificial ha avanzado a pasos agigantados, lo que no ha hecho sino aumentar la preocupación por el potencial mal uso de estas imágenes falsas… un debate que se vuelve más relevante a medida que los directivos de Silicon Valley ven acercarse las elecciones presidenciales estadounidenses de 2024.
En respuesta a ello, el equipo de Google DeepMind (el departamento de Alphabet responsable de desarrollos relacionados con la IA) ha anunciado hoy haber estado trabajando en una innovadora herramienta llamada SynthID, cuyo fin sería embeber 'marcas de agua' invisibles al ojo humano en las imágenes generadas por IA… pero de tal manera que dichas marcas siguieran siendo identificables por herramientas digitales creadas a tal efecto.
"Si bien no es una solución milagrosa para abordar el problema de la desinformación, SynthID es una solución técnica temprana y prometedora para este apremiante problema de seguridad de la IA".
Una de las características clave de SynthID es su resistencia a la manipulación: ya no bastará con modificar o recortar una imagen, pues la marca de agua digital de SynthID persiste incluso después de que la imagen haya sido alterada significativamente.
Aunque la herramienta aún se encuentra en una fase experimental y está disponible únicamente para unos pocos clientes de Google Cloud que utilizan su plataforma Vertex AI, se espera que se vaya perfeccionando a medida que se implementa de manera más amplia.
De hecho, Demis Hassabis, CEO de Google DeepMind, parece esperar que, con el tiempo, SynthID se convierta en un estándar 'de facto' en Internet; de hecho, está convencido de que las bases fundamentales de esta tecnología podrían incluso utilizarse en otros medios como vídeo y texto.
A pesar de los avances en esta área, la carrera entre los desarrolladores de IA y aquellos que buscan eludir las herramientas de detección es un desafío constante. Los expertos anticipan que los creadores de imágenes falsas también encontrarán formas más ingeniosas de evadir la detección. Es por esto que Google ha optado por no divulgar demasiados detalles técnicos sobre SynthID en un esfuerzo por evitar que los actores maliciosos descubran formas de evadir esta tecnología.
Imagen | Pixabay
En Genbeta | El vídeo de la Princesa Leonor bailando en TikTok fue un deepfake que ha engañado a los usuarios en España
Ver 1 comentarios