En plena era de los asistentes virtuales, Alexa se nos plantea como una de las alternativas más completas de cara a la experiencia de usuario. No obstante, siempre quedan dudas sobre qué es lo que realmente escuchan y almacenan estos asistentes, dejándonos en ocasiones casos preocupantes, como el de un usuario que pidió a Amazon sus datos de actividad y acabó recibiendo 1.700 grabaciones de un desconocido.
Las dudas vuelven a recaer sobre Amazon, esta vez a manos de Bloomberg, quien deja caer la sospecha de que los trabajadores de la compañía escuchan lo que los usuarios dicen a Alexa. Un equipo entero estaría dedicado a analizar los clips de audio, en aras de mejorar el propio funcionamiento del asistente.
Desde Boston a Rumanía, un equipo trabajaría nueve horas diarias analizando clips de audio
Según Bloomberg, siete personas que han trabajado en los equipos de revisión de Alexa, afirman que hay todo un equipo analizando los clips de audios del asistente. Las grabaciones se envían, transcriben y posteriormente se vuelven a enviar al propio asistente, con el fin de ayudar a Alexa a ser "más humano" y comprender de mejor forma nuestro lenguaje. Ha de tenerse en cuenta asimismo que Alexa es incapaz de activarse sin escuchar su palabra de activación (su nombre), por lo que no se escuchan todas las conversaciones.
Los propios trabajadores destacan que a pesar de que Alexa mejora constantemente gracias a la nube, no se puede obviar el factor humano en este tipo de tecnologías, por lo que se hace necesario un equipo que analice y envíe feedback al asistente para su mejora.
Según dichas fuentes de Bloomberg, un equipo global con trabajadores de práticamente todas partes del mundo, trabajan en una oficina que ocupa tres de los pisos de un bloque en Rumanía, en el que no se puede ver letrero alguno de Amazon. Algunos de los trabajadores tienen la función de transcribir las grabaciones para compararlas con la propia transcripción que hace Alexa, analizando así si la respuesta dada por el asistente fue precisa o no.
Otros tienen la función de anotar todo lo que escucha Alexa, desde conversaciones hasta ruidos de fondo. Cuando se detecta información personal, el trabajador debe anotar que el archivo contiene datos críticos. Escuchar todo lo que dice Alexa conlleva acabar oyendo grabaciones con contenido sensible (posibles crímenes), asaltos sexuales... Ante estas situaciones los trabajadores de Amazon no intervienen.
Lo curioso del caso es que las fuentes apuntan a que la propia compañía establece procedimientos a seguir en el caso de oír este tipo de grabaciones, pero los trabajadores afirman que, tras consultar a Amazon sobre los mismos, la respuesta que recibieron era la de no entrometerse.
"Nos tomamos en serio la seguridad y privacidad de la información personal de nuestros clientes. Solo anotamos una muestra pequeña de las grabaciones de voz de Alexa para mejorar la experiencia del cliente". Portavoz de Amazon
Según Bloomberg, un portavoz de Amazon relató vía email que la muestra que analizan los trabajadores de la compañía es mínima, y que el obejtivo no es más que mejorar la propia experiencia del cliente. El tratamiento de esa información, según el portavoz, ayuda a que Alexa reconozca y comprenda el lenguaje de una forma más natural.
Apunta también a que los empleados no tienen acceso directo a información que pueda identificar a una persona, y que todos los datos obtenidos se tratan con confidencialidad, cifrando y restringiendo el acceso a los mismos.
Los datos enviados parecen no almacenar información acerca del nombre y dirección del usuario, ya que van ligados al número de serie del dispositivo, y al nombre de usuario de Amazon.
La respuesta que hemos recibido por parte de Amazon
Tras contactar con Amazon, nos han expuesto su postura. La compañía afirma tomarse muy enserio la privacidad y seguridad de sus clientes, aunque admite que anotan un pequeño número de interacciones de un conjunto aleatorio de clientes para mejorar su propia experiencia, siempre después de haber utilizado la palabra de activación del producto (Alexa).
Tenemos estrictas salvaguardas técnicas y operativas, y tenemos una política de tolerancia cero en cuanto al abuso de nuestro sistema. Los empleados no tienen acceso directo a la información que puede identificar a la persona o cuenta del cliente como parte de este flujo de trabajo. Aunque toda la información es tratada con alta confidencialidad y utilizamos la autenticación multifactorial para restringir el acceso, además de comunicaciones encriptadas en el servicio y las auditorías de nuestro entorno de control para proteger dicha confidencialidad, los clientes siempre pueden eliminar sus expresiones en cualquier momento.
Asimismo, puntualizan en primer lugar que no existen escuchas activas, lo que quiere decir que los asistentes solo pueden escuchar tras oír la palabra de activación, por lo que no se escuchan todas las conversaciones. En segundo lugar, reiteran que, bajo ninguna circunstancia, tienen acceso a elementos que identifiquen al cliente.
Ver 4 comentarios