Facebook estudiará si sus algoritmos basados en inteligencia artificial y los de Instagram están sesgados racialmente

Los algoritmos entrenados usando inteligencia artificial frecuentemente son cuestionados por sus sesgos, especialmente en cuanto a la afectación negativa que sufren mujeres, personas negras o hispanas y otros colectivos. Un fenómeno que Facebook pretende investigar en su principal red social e Instagram.

Lo harán mediante equipos internos dedicados a este fin, cuyo objetivo será "asegurar que la justicia y el desarrollo equitativo de productos estén presentes en todo lo que hacemos", según ha explicado a The Verge un portavoz de la compañía. "Seguiremos trabajando estrechamente con el equipo de Inteligencia Artificial Responsable de Facebook para asegurarnos de que estamos buscando posibles sesgos en nuestras respectivas plataformas".

Facebook ha cambiado de opinión

Este movimiento, avanzado por The Wall Street Journal, supone un cambio de tercio en las intenciones de los de Menlo Park. Si bien desde Facebook históricamente se habían resistido a analizar este tipo de situaciones, ahora deciden enfrentarlas mediante equipos llamados "de equidad e inclusión".

La acción que ahora se prepara fue demandada en la auditoría de derechos civiles que una firma de abogados elaboró durante un par de años y publicó a principios de este mes de julio, justo con el movimiento Black Lives Matter en lo más alto.

Además, la noticia sobre este escrutinio interno se produce en un momento en el que las movilizaciones tras la muerte de George Floyd siguen en Estados Unidos, al igual que el boicot contra Facebook por, según las organizaciones civiles que lo promueven, no atajar eficazmente los discursos de odio.

En el pasado, Facebook fue denunciada por excluir a personas de ciertas campañas publicitarias en función de su raza, una práctica contraria incluso a la legislación estadounidense que retiraron tiempo después anunciando nuevas políticas al respecto de la publicidad que prohíben este tipo de exclusiones.

Más recientemente, la empresa se ha comprometido a donar 200 millones de dólares para apoyar a las empresas de propiedad de negros a raíz de las protestas de Black Lives Matter y a aumentar el porcentaje de personas negras y otras minorías infrarrepresentadas en sus equipos más destacados.