El chatbot AI de Air Canada falla y la compañía es condenada a pagar

4/5 - (1 vote)

Cada vez más empresas están adoptando la IA en varios departamentos. Los chabots, en particular, pueden manejar consultas comunes de los clientes. Sin embargo, esta tecnología aún imperfecta puede causar ciertos problemas a las empresas, como le ha ocurrido a la aerolínea Air Canada.

Una promesa de IA, no cumplida por la empresa

Los chatbots de IA reducen la carga de trabajo de los empleados de una empresa al responder a las solicitudes de los clientes. Air Canada ha equipado su sitio web con él. En 2022, Jake Moffat se dirigió al chatbot de aerolínea tras la muerte de su abuela. Al necesitar viajar a Toronto para el funeral, preguntó si había tarifas preferenciales para personas en duelo.

El chatbot luego le dijo que efectivamente se le concedería una reducción significativa si realiza la solicitud dentro de los 90 días posteriores a su vuelo de regreso Vancouver-Toronto. Entonces hizo su reserva. Con la esperanza de obtener un reembolso a su regreso, Jake Moffat siguió el procedimiento indicado por la inteligencia artificial. Pero contra todo pronóstico, el servicio de atención al cliente rechazó su solicitud.

En realidad, el chatbot le había proporcionado información falsa. Air Canada ofrece muchos descuentos a los pasajeros en duelo, pero debe solicitarlos antes de viajar.

Air Canada ordenó realizar un reembolso

Insatisfecho con la situación, Jake Moffat estaba decidido a no quedarse ahí. La empresa se defendió argumentando que el cliente debería haberse dado cuenta de la ilegitimidad de su solicitud. De hecho, el robot conversacional proporcionó un enlace a la política de reembolso durante sus intercambios.

Para compensar este fallo de su IA, Air Canada, en cambio, ofreció un descuento de $200 para su próximo vuelo. Pero Jake Moffat rechazó esta propuesta y prefirió emprender acciones legales. Durante el juicio, Air Canada intentó eximirse de responsabilidad presentando su chatbot como una entidad jurídica independiente ante responder solo por sus acciones y sus alucinaciones. Pero esta defensa no convenció al tribunal. La empresa está condenada a devolver los 650,88 dólares canadienses prometidos, con daños. Tras este desafortunado episodio, la empresa decidió desactivar su chatbot.

Este caso podría alentar a otros tribunales a pronunciarse en la misma dirección. Por lo tanto, las empresas deben ser cautelosas dada la propensión de la tecnología de inteligencia artificial generativa a cometer errores. Y este No son los primeros deslices de los chatbots.. Hace unos meses, el del transportista DPD atacó a la empresa y la calidad de sus servicios, mientras que el de un concesionario de automóviles vendió un Chevrolet por la suma de un dólar. Estos incidentes demuestran que, a pesar de su espectacular progreso, esta tecnología aún es inmadura y requiere mayor perfeccionamiento antes de poder adoptarse de manera segura.