Una IA de Facebook modifica las caras en los vídeos para engañar a los sistemas de reconocimiento facial

A principios del mes pasado Facebook anunció una actualización en la plataforma, permitiendo habilitar o deshabilitar su software de reconocimiento facial para su etiquetado en las fotos.

Ahora conocemos que investigadores de la compañía están utilizando una inteligencia artificial para "desidentificar" a cualquier persona en un vídeo, modificando ligeramente su apariencia.

Puede utilizarse hasta en un vídeo en directo

En este vídeo, protagonizado por Jennifer Lawrence, Willem Dafoe o George Clooney, podemos comprobar cómo la inteligencia artificial va modificando algunas formas de la cara (su boca o el tamaño de los ojos).

Un dato interesante es que Facebook asegura que esta tecnología puede utilizarse tanto en vídeo que ha sido grabado previamente como en una retransmisión en directo.

Tiene cierta ironía, pero, Facebook asegura que "el reconocimiento facial puede conducir a la pérdida de la privacidad". También hacen referencia a los deepfakes, una técnica que puede ser utilizada para crear vídeos engañosos.

"Los recientes acontecimientos mundiales relacionados con los avances y el abuso de la tecnología de reconocimiento facial invocan la necesidad de entender los métodos que tratan con éxito la desidentificación".

Como se puede comprobar en el ejemplo protagonizado por estos actores famosos, los cambios son realmente sutiles. Eso significa que es posible seguir identificando de quién se trata, pero al mismo tiempo engañar a los sistemas de reconocimiento facial.

Lior Wolf, un ingeniero de Facebook AI Research, declaró a VentureBeat que esta técnica también puede utilizarse para alterar otras características de identificación (como puede ser la voz de una persona).

Otro punto curioso es que Facebook apunta que no tienen planes para utilizar esta tecnología en ninguno de sus productos. También es irónico que Facebook anuncie estos avances cuando se enfrenta a una demanda colectiva tras haber utilizado su tecnología de reconocimiento facial sin el permiso de los usuarios.