Sobre cómo afectan los sesgos producidos por inteligencia artificial hemos hablado en muchas ocasiones, y actualmente es uno de los grandes debates en torno al ámbito. Según información obtenida por Business Insider, parece que Google ha interioridazo el debate, y además de poner en marca herramientas para reducirlos, otra de las consecuencias, según el medio, es que dejarán de utilizar etiquetas como 'hombre' o 'mujer' cuando empleen sus herramientas de reconocimiento de objetos y elementos de una foto en la que aparecen personas.
El cambio supone un hito importante, pues Google no es la única en utilizar sus herramientas para catalogar por sexo, sino que con su API Google Cloud Vision permite que desarrolladores también puedan reconocer elementos en imágenes, para implementar dicha función en sus aplicaciones y servicios.
Google utilizará etiquetas neutras como "persona"
Según un correo electrónico enviado por Google ayer a los desarrolladores al que ha podido acceder Business Insider, a partir de ahora, en vez de "etiquetas de género" se utilizarán etiquetas neutras como "persona". El motivo que aduce Google para haber hecho el cambio es la imposibilidad de inferior el género de una persona tomando únicamente en consideración su apariencia.
También es muy importante el hecho de que citen el segundo punto de sus principios de inteligencia artificial: "Evitar crear o reforzar un sesgo injusto". En él, los de Mountain View reconocían que "algoritmos de inteligencia artificial y conjuntos de datos pueden reflejar, reforzar o reducir sesgos injustos". En consecuencia, se proponían tratar de "evitar los impactos injustos en las personas, en particular los relacionados con características sensibles como la raza, la etnia, el género, la nacionalidad, los ingresos, la orientación sexual, la capacidad y las creencias políticas o religiosas."
En Business Insider han podido hacer la prueba con la API actualizada, y en una imagen donde aparece una persona, en la sección de objetos y elementos ya reconoce como "persona", junto a pantalones, zapatos, el monitor del ordenador, etc. Cloud API no tiene nada que ver con servicios como Google Fotos, y por lo que Google ha contado a Genbeta, la plataforma de almacenamiento de fotos seguirá funcionando como hasta ahora.
Ver 9 comentarios