La modificación de rostros de forma virtual está a la orden del día, y la infinidad de noticias sobre deepfakes que nos llegan día tras día lo atestiguan. Como propuesta para intentar poner solución a este problema, Adobe ha trabajado junto a la UC (University of California) Berkeley sobre la detección de manipulaciones en rostros a través de Photoshop.
Esta propuesta que, por el momento, no entra en sus planes comerciales, es según ellos uno de los compromisos morales de la compañía, que asegura estar trabajando en formas para detectar cuando una imagen, video, audio o documento ha sido manipulado. Según Adobe, el contenido falso es un problema, y la inteligencia artificial puede ayudar a detectarlo.
Una potente herramienta que no solo detecta cambios, sino que los revierte
Desde el blog de Adobe cuentan que su propio equipo, junto a colaboradores en la UC Berkeley, ha logrado desarrollar un método para detectar modificaciones en las fotografías. El principal objetivo es el de crear una solución capaz de identificar rostros modificados con mayor precisión que un ser humano, de descodificar estos mismos cambios y de revertirlos por sí misma, sin edición por parte del propio usuario de Photoshop.
Para ello, se han centrado en la herramienta "Licuar" de Photoshop, que se utiliza frecuentemente en el mundo de la fotografía y el modelaje para hacer modificaciones profundas en los rostros, ya que con esta herramienta podemos cambiar el aspecto de una cara casi al completo.
"Comenzamos mostrando pares de imágenes (un original y una alteración) a las personas que sabían que una de las caras estaba alterada. Para que este enfoque sea útil, debería ser capaz de desempeñarse significativamente mejor que el ojo humano en la identificación de caras editadas".
¿El proceso? Entrenar a una inteligencia artificial que comparaba miles de imágenes de internet sin modificar con imágenes modificadas de forma sintética con esta herramienta. Del mismo modo, intervino un artista en la modificación de imágenes, para añadir el componente humano a dichas modificaciones. El algoritmo resultante fue capaz de reconocer las imágenes modificadas un 99% de las veces, mientras que los sujetos de prueba humanos apenas sobrepasaron el 50% de tasa de acierto. Yendo más allá, esta IA es capaz incluso de revertir las imágenes a su estado original, tras analizar los aspectos que han sido modificados.
Desde Adobe cuentan que seguimos estando lejos de un botón mágico que revierta todos los cambios en una imagen modificada, pero que su herramienta es un buen punto para marcar este camino, y concienciar sobre lo sencillo que es manipular una imagen y que el humano que la ve no se de cuenta de dicha manipulación.
Sin ir más lejos, recientemente surgió una polémica con un vídeo de Nancy Pelosi, presidenta de la Cámara de Representantes en Estados Unidos, en el que aparentemente aparecía ebria, y que resultó ser falso. Del mismo modo, hace unos días te contábamos cómo un video con un deepfake de Mark Zuckerberg empezó a difundirse por la red no se eliminó de las redes sociales, ya que Facebook no tiene una política que estipule que la información que se publica en en la red deba ser verdad.
Estos casos ponen sobre la mesa la necesidad de herramientas precisas y rápidas que detecten el contenido falso, uno de los principales propósitos que parece transmitir Adobe, y en el que basarán herramientas futuras.
Vía | The Verge
