Los deepfakes nos han dado a lo largo de este año 2021 momentos inolvidables y muy sorprendentes. Hemos visto a la gran Lola Flores, fallecida en 1995, anunciando una cerveza del sur de España en un comercial actual.
También hemos visto una simulación virtual del CEO de Nvidia presentando el concepto del omniverso de la empresa y ni siquiera nos dimos cuenta de que no era el real; y has hemos podido dar vida a personas en fotos antiguas (una tendencia que inundó las redes sociales).
Y también hemos visto cómo un deepfake consiguió dañar la reputación de una empresa de refrescos en España. La empresa no se dio cuenta hasta que el director de marketing accedió a Twitter y vio que había muchas menciones a la marca.
Esas menciones eran muy negativas y hacían referencia a un vídeo. Ese vídeo era, nada más y nada menos que Fernando, el CEO de la propia empresa, hablando mal del producto que vende y criticando a los clientes que lo consumen.
Misma voz y mismos gestos
El director de marketing de la firma ha afirmado a INCIBE (el Instituto Nacional de Ciberseguridad) que la persona que aparecía en el vídeo tenía la cara, la voz y hasta los gestos del CEO de la empresa.
No encontraban una respuesta al principio, hasta que la encontraron de la mano de expertos en seguridad cibernética: un ciberdelincuente había elaborado un deepfake de Fernando utilizando su cara y su voz para dañar la reputación de esta. "El deepfake es una técnica que permite superponer en un vídeo el rostro de una persona en el de otra, añadiendo su voz y sus gestos para que parezcan los de la persona suplantada", recuerdan desde INCIBE.
Deep en el acrónimo deepfake viene de Deep Learning, es decir, aprendizaje profundo, que es un campo de la inteligencia artificial. Hay dos tipos de deepfakes que utilizan algoritmos de Deep Learning. Por un lado el deepvoice que puede unir fragmentos de voz de la víctima de modo que esté dando otro mensaje juntando palabras como el creador del deepfake decida.
Por otro lado está el deepface que une contenido multimedia en los que aparezca la víctima y se consigue suplantar la cara de esta y sus gestos. Unido al anterior los ciberdelincuentes pueden suplantar a una persona en videollamadas o vídeos en general, según nos explican desde el INCIBE.
La campaña de descrédito que sufrió la empresa de Fernando implica que su negocio se vea seriamente afectado al perder clientes. Aunque se le ponga remedio, consiguiendo eliminar el vídeo o publicando la situación, muchas personas ya han visto ese vídeo y se han quedado con lo que han visto: al CEO de una marca mofándose de sus clientes por comprar sus productos, en este caso. Y reparar algo así no será sencillo.
Cómo tratar de evitar que esto suceda
Esto supone un gran riesgo para la empresas, ya que modificando solo la voz, un ciberdelincuente podría realizar llamadas en nombre de la directiva de una empresa, incluso a nivel interno, autorizando transferencias, por ejemplo. Desde el INCIBE recuerdan que evitar que nos suplanten con un deepfake no está al alcance de la persona ni de la empresa, más aún en estos tiempos en los que utilizamos nuestra imagen y nuestra voz para todo tipo de acciones comerciales.
Pero sí hay ciertos consejos como la necesidad de que monitoricemos las redes sociales. "Es muy importante llevar un control, ya no solo de las menciones a la cuenta de la empresa, sino de los hashtags o localizaciones de la empresa". También se recomienda formar y concienciar al personal para detectar suplantaciones: sobre todo a aquellas personas que trabajan en puestos relacionados con pagos o que gestionan servicios clave para la empresa.
Y ten en cuenta que esto se presenta como un ciberdelito que apunta a que va a ganar tracción en el futuro, así que puedes establecer un plan de crisis: en caso de que esto suceda, es aconsejable tener preparado un plan para hacerle frente, frenarlo y reaccionar a tiempo y con contundencia.
Hay herramientas que pueden ayudar también. Como 'About Face' de Adobe, una herramienta capaz de distinguir mediante técnicas de aprendizaje automático entre caras como son y versiones modificadas. Según Adobe, para identificar estas manipulaciones, la herramienta analiza las fotografías, y tras ello es capaz de mostrar las partes modificadas con un mapa de calor.
Esto no es una broma y las autoridades advierten que "laa realización de comentarios negativos o falsos sobre una organización puede tener consecuencias legales. La legislación española contempla acciones tanto civiles como penales dirigidas a proteger el honor y reputación de la empresa".
Desde Genbeta nos hemos puesto en contacto con INCIBE para saber si podemos conocer la identidad de esta empresa de refrescos española para poder conocer más a fondo este ciberdelito, y actualizaremos la información si obtenemos respuesta.
Ver 8 comentarios