Twitter ha anunciado su primer reto para recompensar económicamente a quienes consigan identificar sesgos de su algoritmo. La red social pagará entre 500 y 3.500 dólares a quienes puedan descubrir estos problemas que pueden llegar a discriminar a los usuarios.
No hay que olvidar que el pasado año, la plataforma protagonizó una gran polémica tras descubrirse que el algoritmo de Twitter de recorte de imágenes eliminaba de forma repetida rostros negros o con el tono de piel oscuro en general, en favor de las caras de presonas blancas.
En mayo de este año reconoció que ese sesgo era cierto (tras haber negado que eso sucediese en otoño del pasado año) y publicó en GitHub su código para que desarrolladores pudieran apoyar en la tarea de mejorar este problema. Otra investigación demostró que favorecía a los hombres en detrimento de las mujeres con este mismo algoritmo.
Así es el concurso
Según las palabras de Rumman Chowdhury y Jutta Williams, ambas directivas en Twitter y que han anunciado este concurso, encontrar un sesgo en los modelos de aprendizaje automático (o machine learning) es difícil y, a veces, las empresas se enteran de los daños éticos involuntarios cuando ya han llegado al público. Como parte de la DEF CON AI Village de este año la firma ha introducido primer concurso de recompensas por sesgo algorítmico en su historia.
Los participantes que superen el reto deberán tener en cuenta métodos cuantitativos y cualitativos en su enfoque. Quien quiera participar, debe registrarse en la página de HackerOne.
Este desafío no está relacionado con el Programa de recompensas por errores de seguridad de Twitter, organizado por HackerOne, sino que es independiente y por tanto, los sesgos identificados no deben enviarse a este programa.
Los daños pueden ser involuntarios, cuando los fallos se producen en imágenes "naturales" que alguien publicaría razonablemente en Twitter, o intencionados, cuando los fallos pueden producirse a partir de imágenes adulteradas o manipuladas.
Los ganadores se anunciarán en el taller DEF CON AI Village organizado por Twitter el 8 de agosto. Los equipos ganadores pueden aspirar a estos premios:
3.500 dólares el primer puesto
1.000 dólares para el segundo puesto
500 dólares para el tercer puesto
1.000 dólares para el más innovador
1.000 dólares para el más generalizable (es decir, que se aplique al mayor número de tipos de algoritmos)
Ver 2 comentarios