Amazon pone en cuarentena su sistema de reconocimiento facial: no se permitirá el uso policial durante un año

Dos días después de que IBM anunciase que deja el negocio del reconocimiento facial porque, entre otros argumentos, "la tecnología no debe promover la discriminación o la injusticia racial", Amazon anuncia la implementación de una moratoria de un año en el uso policial de su tecnología.

Rekognition, la tecnología de reconocimiento facial de Amazon, no podrá ser utilizada por departamentos y cuerpos policiales durante un año para dar tiempo a legislar estrictamente sobre la utilización de estas soluciones de vigilancia.

"Hemos defendido que los Gobiernos deberían establecer normas más estrictas para regir el uso ético de la tecnología de reconocimiento facial, y en los últimos días, el Congreso [de los Estados Unidos] parece dispuesto a asumir este reto", han asegurado en el breve comunicado en el que anuncian la decisión.

Rekognition, el discutido y cuestionado reconocimiento facial de Amazon

Allá por mayo de 2018, la Unión Americana de Libertades Civiles aseguraba que Amazon había entrado oficialmente en el negocio de la vigilancia con un sistema de reconocimiento facial que calificaba como "potente y peligroso". Detractores del sistema argumentaban que esta tecnología podía utilizarse fácilmente "para violar las libertades y los derechos civiles".

Más allá de estudio en general sobre los sesgos, cuestionamientos y denuncias de este tipo de tecnología, un estudio de 2019 sobre Rekognition señalaba que el sistema experimentaba difultades para identificar el género de las personas de piel más oscura. Además, frecuentemente confundía a las mujeres de piel más oscura con hombres. Con personas de piel más clara, sin embargo, apenas experimentaba errores.

Amazon rebatió el estudio, como recuerdan en The Verge, pero las autoras se reafirmaron. Porco después, una docena de investigadores de inteligencia artificial publicaron una carta abierta en la que apuntaban que este sistema de reconocimiento facial era defectuoso y no debía ser usado por la policía. "Hacemos un llamado a Amazon para que deje de vender Rekognition a las fuerzas del orden ya que la legislación y las salvaguardas para evitar el mal uso no están vigentes", decían en la misiva publicada en marzo del año pasado.

La decisión tomada ahora por Amazon, únicamente justificada por la compañía desde la óptica del interés legislativo por regular el uso de la tecnología, no aplicará a organizaciones dedicadas a rescatar a víctimas de la trata de personas y buscar a niños desaparecidos.