Con los últimos avances de la inteligencia artificial generativa, cada vez son más las empresas que delegan parte de sus tareas a un chatbot para agilizar ciertos procesos o recortar en costes. Si bien hay buenos ejemplos de su uso, no cabe duda de que hay compañías que se toman el uso de la IA muy a la ligera.
Uno de los últimos ejemplos que ha acabado propiciando el enfado de un cliente tiene que ver una empresa de paquetería de Reino Unido que utilizaba una IA en sus sistemas de chat online para ofrecer soporte a sus clientes. Su mal funcionamiento hizo que el cliente forzara al chatbot a escribir un poema sobre lo malo que era el servicio de esta empresa, causando que la conversación se viralizara en las redes.
Un chatbot que acaba retirado por las peticiones de un cliente
El cliente, de nombre Ashley Beauchamp, quería preguntarle al chatbot sobre si era posible facilitarle un número de teléfono para hablar con una persona real de DPD sobre una entrega. Al ver que el chatbot no pudo ayudarle en este sentido, aprovechó para hacer una pequeña broma y hacerle escribir al chatbot un poema sobre lo mal que funcionan los sistemas de DPD.
"Había una vez un chatbot llamado DPD, que no servía para nada", escribió el bot tras las indicaciones de Beauchamp. "DPD era una pérdida de tiempo y la peor pesadilla de los clientes", continuaba el bot antes de concluir: "Un día, DPD fue finalmente cerrado y todo el mundo se alegró. Por fin podían obtener la ayuda que necesitaban, de una persona de verdad que sabía lo que hacía".
Click en la imagen para ver el tweet
Beauchamp compartió la conversación con el chatbot en X (anteriormente Twitter), provocando que millones de personas visualizaran el tuit. Ya que estaba, Beauchamp aseguró haber aprovechado el momento para hacer que el chatbot le contara un chiste o le animara a insultar cada vez que el bot respondía a una solicitud.
Beauchamp declaró a la cadena de televisión ITV que aún no había recibido el paquete. "Seguramente lo hayan retenido. No les culparía", dijo. "Eso es culpa mía".
Desde DPD afirman que llevan varios años utilizando inteligencia artificial en sus sistemas de chat online junto a un equipo de soporte humano. Sin embargo, hubo un fallo reciente causado por “una actualización del sistema”.
"La IA se desactivó de inmediato y actualmente se está actualizando", dijo la compañía en un comunicado recogido por ITV. Así que se podría decir que el chatbot ha sido despedido por un tiempo.
No es extraño que los chatbots basados en modelos de lenguaje fallen u ofrezcan respuestas poco convincentes. Las alucinaciones en sus respuestas están a la orden del día, y si bien los modelos de lenguaje son cada vez más inteligentes y capaces, ninguna compañía dueña de este tipo de tecnologías se atreve a prometer que su producto es infalible.
Imagen | Generada por IA con Adobe Firefly
Vía | Reuters
