Una artista lleva un año exponiendo su pezón en Instagram. Los algoritmos han mostrado muy pocas luces

Si tienes una cuenta de Instagram cabe la posibilidad de que el algoritmo de la red social te haya censurado alguna imagen, si además te identifica como mujer, tienes más números. Han pasado más de cinco años desde que el New York Times lanzara un editorial sin “género” de dudas bajo el título de: “¿liberará algún día al pezón Instagram?”, y hoy seguimos sin saber exactamente qué mueve a su IA para ponerle una cruz a la anatomía humana. El experimento de una artista en su transición de género podría ser la pista definitiva, o quizás algo mucho peor, ¿son homófobos los algoritmos, es decir, los que los entrenan?

La intrahistoria. Ocurrió en el año 2013, cuando el movimiento Free the Nipple (liberar el pezón) comenzó a ganar fuerza apoyado por celebridades y activistas que cuestionaban la sexualización de los pezones femeninos en plataformas como Facebook. En 2015, la artista Micol Hebron creó "stickers" de pezones masculinos para que las mujeres pudieran usarlos en sus fotos como una forma de protesta y de evidenciar la disparidad de género. Hebron, quien luego visitó la sede de Instagram en 2019, observó que no había personal trans en el equipo de moderación de contenidos de Meta, lo cual consideró una muestra inequívoca de la falta de diversidad y comprensión en la política de la empresa.

Las críticas llevaron el año pasado a Meta, la empresa matriz de Facebook e Instagram, a revisar su política de censura de pechos desnudos, tras una recomendación de su Junta de Supervisión. La sugerencia llegó después de que la plataforma eliminara publicaciones de una pareja transgénero y no binaria que mostraba sus torsos desnudos con los pezones cubiertos, promoviendo la atención médica trans y recaudando fondos para una cirugía de reasignación de género. Las publicaciones, eliminadas inicialmente por el sistema de IA de Meta, se restauraron después de una apelación.

Impacto de una visión “artificial”. En aquel entonces, la Junta de Supervisión de Meta encontró que la política actual se basaba en una visión binaria de género, creando confusión al distinguir entre cuerpos masculinos y femeninos en casos de personas intersexuales, no binarias o trans. Dicha recomendación pedía a Meta que establezca criterios objetivos y que respeten los derechos humanos internacionales para moderar la desnudez, de forma que no penalice injustamente a usuarios trans o no conformes con el género.

Y entonces, hace varios meses, apareció la figura de la artista Ada Ada Ada, quién ha aprovechado para documentar su transición de género subiendo autorretratos semanales en Instagram. De fondo: explorar los límites de los sistemas de moderación en redes sociales mediante su proyecto In Transitu.

Género algorítmico. En 2023, Instagram eliminó una de las fotos de la artista por violar las normas de desnudez, marcando la primera vez que la plataforma clasificaba sus pezones como "femeninos" y, por tanto, inaceptables. Ada pensaba algo lógico: Instagram permite el torso desnudo de hombres, pero las mujeres solo pueden mostrarlo si no se ven los pezones, lo que implica que la percepción del género define lo que es "desnudez".

Este fue precisamente el hecho que llevó a la artista a cuestionar las reglas binarias y la lógica detrás de la moderación algorítmica. ¿Qué hizo? Se puso a rastrear meticulosamente cuáles de sus imágenes eran eliminadas.

Evidencias y resultados recopilados. Ada ha explicado en 404 que observó claramente cómo Instagram eliminó más imágenes conforme avanzaba su transición de género. En algunos casos, las posturas o prendas en sus fotos podrían haber sido interpretadas como “femeninas” o “sexuales”. Sin embargo, en otras, las fotos con características similares no se eliminaban.

Además, la artista también ha documentado la disparidad con la que ocurre todo de forma aleatoria, ya que los algoritmos de género a veces la clasifican como hombre y otras como mujer, destacando “la naturaleza inconstante y culturalmente influenciada de estas tecnologías”.

Críticas a los algoritmos de clasificación de género. En este punto, son varios los expertos que han criticado los algoritmos de reconocimiento de género (AGR), principalmente por ser especialmente dañinos para personas transgénero. A este respecto, Os Keyes, investigador de la Universidad de Washington, señalaba que intentar identificar el género a partir de la apariencia física perpetúa normas de género limitantes y daña a quienes no se ajustan a esos estándares.

Ada Ada Ada también descubrió que los algoritmos pueden variar en sus resultados semanalmente y que incluso existen discrepancias culturales: por ejemplo, Face++, un algoritmo chino, tiene una interpretación diferente en comparación con otros. Y hay más. La artista subraya que a pesar de que Microsoft anunció en 2022 que retiraría su clasificador de género tras varias críticas, pudo seguir usándolo hasta que un error permitió a algunos usuarios conservar el acceso.

Políticas y moderación. En teoría, Instagram prohíbe la desnudez, pero permite ciertas excepciones. A saber: la lactancia, mastectomía o tipos de protesta. Sin embargo, la artista señala que en la práctica estas políticas afectan de manera desigual a personas transgénero, educadores sexuales y creadores de contenido que intentan seguir las normas, mientras que contenido no consensuado sí puede eludir el sistema. Esta inconsistencia, señala, genera una gran dificultad para que las personas que no se ajustan a la visión binaria tradicional de género naveguen en la plataforma.

De fondo, el trabajo de la artista es sumamente interesante por los interrogantes que abre acerca del futuro y cómo se entrena(rá) a los algoritmos en temas como las minorías de género (o minorías, sin más), o de si realmente la automatización, al menos la actual, acaba penalizando a los grupos más pequeños, sean cuales sean. 

En el caso que nos ocupa, el trabajo de Ada parece dejar meridianamente claro que actualmente  se da una moderación arbitraria en Instagram, es decir, una limitación de los sistemas a la hora de adaptarse a la diversidad de expresiones de género.

Imagen | PXHere

En Genbeta | Twitch banea a Prime Video: la historia de cómo el miedo a un pezón provocó que Amazon censurase a Amazon

En Genbeta | Instagram censura los pezones femeninos pero permite las peleas de gallos