Se ordenó a Air Canada pagar 812,02 CAD después de que un tribunal determinara que la aerolínea era responsable de un chatbot que prometió un reembolso que nunca existió.

Cómo se desarrolló la disputa

En 2022, Jake Moffatt necesitaba un vuelo de último minuto para un funeral. Le preguntó al chatbot en línea de la aerolínea sobre las tarifas por fallecimiento. El bot respondió que podía comprar un boleto a precio completo y solicitar un reembolso más tarde. Confiando en esa respuesta, Moffatt pagó 1.630,36 CAD. Cuando solicitó el reembolso prometido, Air Canada denegó la petición.

Moffatt llevó el asunto ante un tribunal. Los adjudicadores señalaron que la aerolínea había incurrido en una declaración falsa negligente (negligent misrepresentation): la afirmación del chatbot fue una promesa falsa que indujo a la compra. Rechazaron el argumento de Air Canada de que un agente de software no puede ser una parte contratante, señalando que el bot reside en el sitio web público de la empresa y, por lo tanto, actúa en nombre de la aerolínea. El tribunal ordenó a la aerolínea reembolsar a Moffatt 812,02 CAD.

Por qué es importante este caso

La mayor parte de la indignación pública por los errores de la IA se centra en fallos obvios: pérdida de datos, código roto o resultados abiertamente sesgados. Esta decisión pone de relieve un peligro más sutil: una IA que suena segura de sí misma mientras inventa detalles de las políticas puede crear obligaciones exigibles. El bot no "eliminó" nada; simplemente dio una respuesta clara y sin condiciones que un cliente razonable trataría como la postura oficial de la aerolínea.

El fallo sienta un precedente legal de que las declaraciones generadas por IA no están protegidas por la defensa de que "el software es solo una herramienta". Si un asistente virtual proporciona información en la que un consumidor confía para realizar una compra, dicha información puede ser tratada como un término contractual. Las empresas que implementan chatbots sin controles estrictos corren el riesgo de una responsabilidad similar.

La raíz técnica del error

El error se originó en un proceso de generación aumentada por recuperación (RAG, por sus siglas en inglés). El sistema encontró el documento de política correcto, pero extrajo la frase equivocada y la presentó como un hecho. Las salvaguardas (guardrails) que filtran el lenguaje incoherente u ofensivo a menudo pasan por alto fragmentos bien redactados pero inexactos. En este caso, la fluidez del bot —su falta de vacilación o de un "no estoy seguro"— le dio a la falsa promesa un aire de autoridad.

Qué pueden hacer ahora las aerolíneas y otras empresas

  • Programar de forma rígida cualquier redacción financiera o de derechos. Utilizar plantillas fijas para declaraciones sobre reembolsos, descuentos o cargos.
  • Tratar al chatbot como a un empleado de primera línea. Asumir que puede "firmar" contratos ante la ley y someter sus respuestas al mismo proceso de revisión que un agente humano.
  • Separar la búsqueda de la generación. Cuando la tarea consista en localizar el texto de una política, devolver un enlace o un fragmento citado en lugar de una respuesta parafraseada.

Estos pasos pueden hacer que la interacción parezca menos conversacional, pero evitan el tipo de desinformación segura que le costó a Air Canada un pago ordenado por el tribunal.

Contraargumento: ¿Es justa la responsabilidad?

Air Canada argumentó que un fragmento de código carece de personalidad jurídica y no puede estar sujeto a un contrato. El rechazo del tribunal se basa en el principio de que la empresa presenta al chatbot como un punto de contacto oficial. Los críticos temen que extender la responsabilidad a la IA pueda sofocar la innovación, obligando a las empresas a diseñar redes de seguridad excesivamente complejas que disminuyan la experiencia del usuario. El equilibrio entre la protección de los consumidores y la preservación de la agilidad de la IA probablemente será objeto de debate en casos futuros.

Qué observar a continuación

  • Litigios posteriores. Si Air Canada apela, los tribunales superiores podrían refinar el alcance de la responsabilidad contractual de la IA.
  • Orientación regulatoria. Las agencias de protección al consumidor podrían emitir normas sobre las divulgaciones generadas por IA, especialmente en los sectores de finanzas, viajes y salud.
  • Estándares de la industria. Los grupos tecnológicos podrían desarrollar marcos de mejores prácticas para respuestas de IA "seguras para contratos", similares a las directrices de seguridad y privacidad existentes.

La conclusión es clara: un chatbot de IA que puede responder preguntas sobre precios, reembolsos o derechos es, ante la ley, un representante de la empresa. Las empresas que lo tratan como un simple cuadro de búsqueda corren el riesgo de tener que pagar por promesas que sus políticas nunca tuvieron la intención de hacer.