Un chatbot con IA se vuelve rebelde durante un intercambio de atención al cliente

Aranzulla de Los Pobres

La empresa de entrega internacional DPD está actualizando su chatbot impulsado por inteligencia artificial después de que dio algunas respuestas inesperadas durante un intercambio con un cliente descontento.

La música Ashley Beauchamp recurrió recientemente al chatbot de servicio al cliente de DPD en un intento por localizar un paquete perdido.

Después de lograr pocos avances con el chatbot, decidió divertirse pidiéndole que escribiera un poema criticando a la empresa, lo cual hizo debidamente. También le pidió que jurara, y nuevamente lo hizo, usando la palabra F en su respuesta.

Beauchamp compartió sus frustraciones en una publicación en las redes sociales que ya ha sido vista casi dos millones de veces.

"La empresa de entrega de paquetes DPD ha reemplazado su chat de servicio al cliente con un robot de inteligencia artificial", escribió el músico. “Es completamente inútil para responder cualquier pregunta y, cuando se le preguntó, felizmente produjo un poema sobre lo terribles que son como empresa. También me insultó”.

Las capturas de pantalla mostraron que Beauchamp le pidió al chatbot del DPD que creara un haiku, un poema japonés que consta de 17 sílabas, con cinco sílabas en la primera línea, seguidas de siete y cinco. Pero el asistente digital ni siquiera pudo hacerlo bien, arruinando el recuento de sílabas, incluso si el sentimiento era acertado.

El poema decía:
“DPD es un inútil,
Chatbot que no puede ayudarte.
No te molestes en llamarlos”.

DPD dijo que se había producido un error con su chatbot de IA luego de una reciente actualización del sistema, y ​​agregó que estaba trabajando para garantizar que no vuelva a suceder.

Si bien muchas empresas han implementado chatbots a lo largo de los años como parte de su configuración de servicio al cliente, muchas han sido criticadas por su incapacidad para brindar una ayuda significativa. Pero con la IA generativa ganando gran fuerza el año pasado con herramientas como ChatGPT , se espera que esta tecnología más avanzada pueda transformar los chatbots de servicio al cliente en asistentes mucho más efectivos. Pero como Beauchamp considera que el chatbot de IA de DPD es “absolutamente inútil” antes de obligarlo a decir malas palabras y criticar a la empresa, es evidente que la tecnología todavía necesita algunos ajustes.

Beauchamp dijo que el incidente le parecía divertido, pero añadió que “se supone que estos chatbots mejoran nuestras vidas, pero muy a menudo, cuando no se implementan correctamente, solo conducen a una experiencia más frustrante e impersonal para el usuario”.