Facebook crea una API de código abierto para combatir la propaganda terrorista, la explotación infantil y la violencia

Facebook se ha visto obligada, especialmente por la Unión Europea, a combatir los contenidos dañinos de su plataforma. Publicaciones que tengan que ver con propaganda terrorista, la explotación infantil o la violencia gráfica han pasado a ser un objetivo extremadamente prioritario a eliminar. En tiempo récord.

A finales de 2017, por ejemplo, contábamos cómo la Unión Europea pedía un mayor esfuerzo a las tecnológicas en su viaje hacia una eliminación cada vez más efectiva y rápida, en cuestión de una o dos horas, de los contenidos perjudiciales.

En ese cometido tienen mucho que ver los centros que Facebook a contratado para el control humano de lo que se mueve en su plataforma, con numerosas polémicas incluidas, y también los algoritmos capaces de detectar aquello que se quiere borrar. Tecnologías como la que ahora acaban de convertir en código abierto para beneficiar al resto y beneficiar a la propia Facebook.

Una API de código abierto para detectar fotos y vídeos identificados como dañinos

Facebook emplea a día de hoy tecnología capaz de detectar fotografías y grabaciones idénticas o similares que han sido identificadas como contenido dañino. Hablamos de contenido que muestra explotación infantil, propaganda terrorista o violencia gráfica. Y comparten parte de esa tecnología.

La intención, aseguran desde la red social, es que otros que luchan contra contenidos idénticos puedan beneficiarse de los avances de Facebook y viceversa. Los algoritmos de código abierto podrán encontrarse en GitHub "para que nuestros socios de la industria, pequeños desarrolladores y organizaciones sin ánimo de lucro puedan utilizarlos para identificar más fácilmente el contenido abusivo y compartir huellas digitales de diferentes tipos de contenido dañino".

Estas tecnologías almacenan, por así decirlo, la identidad de los contenidos marcados como perjudiciales y, gracias a ellos, son capaces de determinar si dos archivos son iguales o similares, incluso sin la imagen o el vídeo original. Este hecho, sumado a que esas huellas digitales pueden ser compartidas más fácilmente con otras compañías y organizaciones sin fines de lucro, aumentando así la base de datos y la capacidad de acción de Facebook y de todos aquellos que empleen esto algoritmos abiertos, redundando en el beneficio común y la seguridad de todo tipo de plataformas.