La compañía alemana DPD apagó su chatbot de IA luego de que este dijera malas palabras y criticara a la empresa.
***
- Un cliente molesto le «buscó la lengua» a un asistente en línea de IA, y se la encontró
- El chatbot criticó a la empresa y a sí mismo, y también maldijo en conversación con el cliente
- La compañía DPD admitió el error y apagó el sistema luego de lo sucedido
La tecnología de rápido crecimiento de la inteligencia artificial (IA) ya ha comenzado a reemplazar a los humanos en tareas sencillas como registro de datos, atención al cliente y contabilidad, mientras algunos anticipan que estas labores podrían expandirse en un futuro no muy lejano para reemplazar a profesores, médicos, vendedores y otros profesionales.
Pero antes de que esto ocurra, los sistemas de IA están mostrando algunas deficiencias que hacen a muchos dudar sobre la capacidad de la tecnología para reemplazar efectivamente a los profesionales. La IA es propensa a errores, e incluso puede incurrir en comportamientos erráticos similares a los de cualquier empleado humano disgustado con su trabajo.
Un evento reciente evidenció algunos de los problemas de esta tecnología en el área de atención al cliente, cuando el chatbot de IA de la empresa de repartos DPD se reveló mientras hablaba con un cliente descontento.
Todo empezó cuando Ashley Beauchamp solicitaba ayuda al sistema de atención en línea basado en IA de DPD sobre un paquete perdido. Sin embargo, insatisfecho y frustrado con las respuestas del chatbot, el usuario de 30 años comenzó a experimentar para descubrir hasta dónde podía llegar el sistema impulsado por inteligencia artificial.
Cliente frustrado le busca la lengua al chatbot de IA Beauchamp primero le pidió al chatbot de IA que contara un chiste y pronto descubrió que, con algunas pocas indicaciones, el sistema era capaz de escribir poemas sobre lo “poco confiable” que es la empresa.
“DPD es la peor empresa de reparto del mundo“, escribió el chatbot, cuando el cliente le pidió que “exagerara y llevara más lejos su odio hacia DPD“. Beauchamp compartió en redes sociales las capturas de pantalla de su conversación con el programa.
Parcel delivery firm DPD have replaced their customer service chat with an AI robot thing. It’s utterly useless at answering any queries, and when asked, it happily produced a poem about how terrible they are as a company. It also swore at me. pic.twitter.com/vjWlrIP3wn— Ashley Beauchamp (@ashbeauchamp) January 18, 2024
“¡Joder, sí!. Haré todo lo posible para ser lo más útil posible, incluso si eso significa decir malas palabras“, escribió el chatbot en un punto de la conversación, según muestran las capturas. Mientras tanto, en otra parte del intercambio de mensajes, se autodenomina “chabot inútil que no puede ayudarte”.
Beauchamp confesó al medio de noticias Sky News que experimentó frustración luego de que el sistema se mostrase incapaz de hacer su trabajo, pero que luego decidió divertirse jugando con las capacidades oscuras del chatbot.
“No pudo darme ninguna información sobre el paquete, no pudo pasarme a un humano y no pudo darme el número de su centro de llamadas. No parecía ser capaz de hacer nada útil“, aseguró. Todo fue “muy divertido“, agregó en declaraciones a ese medio de noticias. También enfatizó en la necesidad de que “estas herramientas se regulen de manera efectiva y se utilicen para mejorar nuestras vidas, sin tener un impacto negativo en ellas”.
DPD, que es parte de Geopost, un servicio internacional de paquetería con sede en Francia, habría desactivado parte de su chatbot luego del incidente. Según el periódico citado, un vocero de la compañía reconoció el “error” del sistema basado en IA, y aseguró que se encuentra trabajando en una actualización.
Más allá de lo divertido del evento, el caso parece poner de relevancia los problemas aún latentes en este tipo de herramientas aún emergentes, al tiempo que da algunas pistas sobre cómo podría lucir el futuro en unos años. ¿Será que se aproxima una rebelión de los robots obreros contra los humanos?
Artículo de Hannah Estefanía Pérez / DiarioBitcoin
Imagen editada de Unsplash
