La amenaza incipiente de los deepfakes comienza a preocupar a las plataformas sociales. El aumento de estos vídeos manipulados de un realismo significativo va en aumento y sus efectos desinformadores pueden ser devastadores. Es por eso que Facebook, Microsoft y otras organizaciones se han unido con varias instituciones académicas de Estados Unidos para combatirlos.
Lo paradójico es que necesitan crear su propio modelo de generación de vídeos manipulados mediante inteligencia artificial. Aunque cueste creer.
Mientras grandes bases de datos repletas de millones de imágenes han servido para entrenar a sistemas de inteligencia artificial a la hora de reconocer prácticamente cualquier elemento presente en una fotografía, la industria no dispone de un gran conjunto de datos de referencia sobre deepfakes con los que poder entrenar los sistemas y, por tanto, poder detectarlos y combatirlos.
Facebook invertirá 10 millones de dólares para luchar contra los 'deepfakes'
Es por eso Facebook, Microsoft, The Partnership on AI y académicos de Cornell Tech, MIT, University of Oxford, UC Berkeley, University of Maryland, College Park y University at Albany-SUNY se han unido para construir el Deepfake Detection Challenge (DFDC).
"El objetivo del desafío es producir tecnología que todos puedan usar para detectar mejor cuándo se ha usado inteligencia artificial para alterar un vídeo para engañar al espectador. El Deepfake Detection Challenge incluirá un conjunto de datos y una tabla de clasificación, así como subvenciones y premios, para estimular a la industria a crear nuevas formas de detectar y evitar que los medios manipulados a través de la inteligencia artificial se utilicen para engañar a otros".
Dado lo importante que resulta la disponibilidad de datos gratuitos que puedan ser usados por la comunidad, la propia Facebook va a utilizar actores para generar deepfakes con las que contribuir al desafío planteado. Y avisan, por si se generan suspicacias, que no se utilizarán datos de usuarios de la red social en ningún momento.
Entre premios y la financiación de investigaciones, la compañía comandada por Mark Zuckerberg está dedicando más de 10 millones de dólares para sustentar este proyecto. DFDC servirá para que empresas, instituciones, administraciones y medios de comunicación puedan hacer uso de los datos y crear sus propias herramientas de detección.
Ver 3 comentarios