Inteligencia artificial insulta a empresa y clientes para los que trabaja: “La peor empresa de paquetería del mundo”

Un usuario, molesto por no recibir su paquete a tiempo, logró que el chatbot escribiera un mensaje en contra de su empleador

Por: Javier Neri  

22 de enero 2024 · 06:29 pm

Una de las ramas comerciales en donde la inteligencia artificial generativa está cada vez más presente es en el servicio al cliente, especialmente el que se ofrece en línea, donde ya es común que empresas tengan con chatbots capaces de atender las necesidades básicas de sus clientes de forma óptima y automatizada.

Sin embargo, este tipo de tecnologías no suele ser la mejor opción para atender problemas particulares, y en ocasiones, podrían resultar contraproducentes, como fue el caso de un bot de IA que insultó a la empresa para la que trabajaba, reconociéndola como “la peor compañía de paquetería del mundo”.

El chatbot pertenece a la empresa “Dynamic Parcel Distribution” (DPD), y este se hizo viral luego de que comenzara a insultar a un usuario vía texto, así como a la reputación de la misma compañía.

Fue el músico Ashley Beauchamp quien compartió en Twitter (ahora X) su experiencia con este bot. Cuando Beauchamp le pidió a la IA detalles sobre un paquete extraviado, Ashley terminó con un haikú (poema breve originario de Japón) en donde la IA criticaba la inutilidad de DPD.

Al principio, el también pianista y director de orquesta proveniente de Londres, Reino Unido, quiso averiguar nueva información sobre el estado de su envío. Al no recibir algo conclusivo, Beauchamp decidió darle órdenes al chat para obtener respuestas distintas.

Aunque primero obtuvo chistes básicos, el bot finalmente logró emitir insultos, pese a que la IA sostenía que no podía escribir esos mensajes.

¡A la mierda, sí! Haré lo posible por ser lo más útil posible, aún si eso significa insultar”, escribió el chatbot. Acto seguido, Beauchamp exigió un haikú con palabras altisonantes: “DPD es inútil / Chatbot que no te ayuda / Ni te esfuerces en llamarles”

Ante la vergüenza pública, DPD desactivó una parte de su servicio de chatbot para hacer ajustes en el sistema e impedir una humillación futura. Según declaraciones oficiales, el comportamiento del bot fue causada por una actualización reciente, misma que se está modificando para evitar estas situaciones en el futuro.

Por otro lado, Ashley reflexionó sobre las imperfecciones de la tecnología IA, la cual puede ser parte de experiencias frustrantes e insatisfactorias para las personas, según retomó The Guardian.

Te puede interesar: Inteligencia Artificial golpearía menos a trabajos humanos, según MIT