Instagram bloqueará el contenido con tendencias suicidas en la UE, pero afirma que las leyes de privacidad limitan el margen de acción

Hace casi dos años contábamos cómo desde Instagram reconocían que había que regular los posts de autolesiones tras el suicidio de una adolescente. Desde entonces ha llovido mucho en la red social y en Facebook, y la compañía lleva un tiempo buscando activamente este contenido con aprendizaje automático, para después enviarlo a revisores humanos que tomen la decisión final sobre el contenido.

Adam Mosseri, CEO de Instagram, cuenta en una publicación que entre abril junio de este año, el 90% (casi el 94%) de contenido de autolesiones sobre el que actuaron fue detectado por la tecnología sin que nadie informara. Equivalen a unas 275.000 piezas de contenido. Sin embargo, a la vez que destacan esos hitos, afirman que debido a la regulación, hasta ahora no han sido capaces de utilizar estas técnicas en la Unión Europea, algo que cambia ahora parcialmente.

Instagram y Facebook ya pueden detectar automáticamente contenidos con tendencias suicidas en la UE, pero con limitaciones

Lo que ha cambiado en noviembre de 2020 en el territorio comunitario es que ahora Facebook e Instagram pueden encontrar más contenido sobre suicidios y lesiones y hacerlo menos visible. Afirma Mosseri que "ahora podemos buscar publicaciones que probablemente rompan nuestras reglas sobre el suicidio y las autolesiones y hacerlas menos visibles al eliminarlas automáticamente de lugares como Explorar".

Es decir, que lo que funciona tiene que ejecutarse de forma automática, y para que se elimine, la tecnología que usan debe estar muy segura.El problema es que, con la regulación actual, el sistema automático no es capaz de transmitir los contenidos a los revisores humanos, hecho fundamental para que se puedan tomar más cartas con el asunto, hacer seguimiento o contactar a autoridades.

Tara Hopkins, jefa de política de Instagram para Europa y Oriente Medio, ha afirmado "ahora se discutiendo una propuesta de compromiso con la Comisión de Protección de Datos de Irlanda (DPC)". Desde el DPC, han declarado que "Facebook se ha acercado recientemente al DPC proponiendo un uso mucho más limitado de esta herramienta para la eliminación de contenidos que contravengan [las reglas]", y afirman estar revisando la regulación para dar una respuesta.